Varios residentes del estado de California han interpuesto una demanda colectiva ante un tribunal federal de San Francisco contra Sutter Health y MemorialCare, dos de los mayores sistemas hospitalarios del estado, por alleged uso de inteligencia artificial para grabar y transcribir sus consultas médicas sin obtener previamente su consentimiento. El software en cuestión es Abridge AI, una herramienta que utiliza modelos de lenguaje para convertir conversaciones entre pacientes y médicos en notas clínicas estructuradas. Los demandantes alegan que no recibieron información clara de que sus conversaciones serían registradas, transmitidas fuera del entorno clínico o procesadas a través de sistemas de terceros.

Según la denuncia, las grabaciones “contenían información médica identificable, incluyendo historiales clínicos, síntomas, diagnósticos, medicamentos, discusiones sobre tratamientos y otras comunicaciones confidenciales reveladas durante consultas médicas privadas”. Los demandantes acusan a ambas organizaciones de violar leyes estatales y federales de protección de datos personales y del derecho a la confidencialidad en el ámbito sanitario. Sutter Health llevan dos años asociándose con Abridge, según confirmó la compañía, mientras que MemorialCare declined to comment sobre el litigio pendientes.

Abridge AI, la empresa desarrolladora del software, está valorada en 5.300 millones de dólares desde junio de 2025 y ha expanded rapidly su presencia en el sector sanitario estadounidense, con despliegues en organizaciones como Kaiser Permanente, la Clínica Mayo y Duke Health. Cuando el sistema está activado, captura, transcribe y resume las conversaciones entre pacientes y doctores para generar notas clínicas automáticamente, un proceso que según la empresa mejora measurablemente los resultados para el personal clínico y los equipos de facturación. La empresa no respondió inmediatamente a las solicitudes de comentario. Este litigio podría establecer un precedente significativo sobre el uso de inteligencia artificial en entornos médicos y el requisitos de consentimiento informado en Estados Unidos.

Lee la historia completa en Ars Technica.