Evan Ratliff, fundador del laboratorio de IA Husk, se ha especializado en detectar vulnerabilidades en los sistemas de inteligencia artificial de las grandes empresas tecnológicas. Durante la Wired World Fair, Ratliff explicó cómo su trabajo de evaluación de seguridad ha atraído el interés de prácticamente todas las grandes empresas del sector, que buscan sus servicios para mejorar la protección de sus productos.

En su intervención, Ratliff mostró cómo logró que un modelo de lenguaje ampliamente utilizado generara contenido tóxico simplemente mediante técnicas de manipulación de prompts que él mismo desarrolló. El experto señaló que la mayoría de las empresas de IA subestiman la capacidad de sus modelos para ser manipulados por usuarios maliciosos y carecen de procesos rigurosos de prueba.

Las principales empresas del sector, incluyendo OpenAI, Anthropic y xAI, han contactado a Husk para solicitar evaluaciones de seguridad de sus sistemas. Según Ratliff, la creciente competencia comercial entre empresas de IA está llevando a muchas de ellas a lanzar productos sin las pruebas de seguridad adecuadas.

El modelo de negocio de Husk representa una tendencia emergente en el ecosistema de la inteligencia artificial: empresas especializadas en seguridad que ofrecen servicios de evaluación y prueba a otros desarrolladores. Este tipo de trabajo resulta especialmente relevante en un momento en que los reguladores de varios países están comenzando a exigir estándares mínimos de seguridad para los sistemas de IA antes de su despliegue comercial.