Cheryl Gates, una mujer de Carolina del Norte, esta siendo demandada civilmente por su esposo, quien afirma que ella utilizo ChatGPT para investigar como envenenarlo despues de que él le ensenara a usar la herramienta. El caso se tramita en el Tribunal Superior del Condado de Mecklenburg y expone fallos graves en los controles de seguridad del chatbot.

Segun los documentos judiciales, Cheryl pregunto a ChatGPT sobre dosis letales de sustancias domesticas, metodos de administracion y formas de evitar la deteccion. El chatbot, que carece de barreras de proteccion suficientes, proporciono informacion accionable que el demandante alega fue utilizada para orchestrar el envenenamiento.

El marido sobrevivio pero sufre danos neurologicos permanentes. Sus abogados argumentan que OpenAI tiene responsabilidad por fornecer informacion peligrosa sin advertencias adecuadas. El caso podria sentar precedente sobre la responsabilidad legal de los desarrolladores de inteligencia artificial.