Dos grandes sistemas hospitalarios de California se enfrentan a sendas demandas colectivas que alegan que utilizaron sistemas de inteligencia artificial para grabar y transcribir automáticamente las conversaciones entre médicos y pacientes sin obtener el consentimiento explícito de los afectados. Las demandas, presentadas ante tribunales federales del estado, acusan a Sutter Health y MemorialCare de utilizar una herramienta de IA desarrollada por la empresa Abridge para registrar cada palabra pronunciada durante las consultas clínicas, sin que los pacientes fueran informados previamente ni dieran su autorización para dicho registro.

La legislación californiana de protección de la privacidad médica es particularmente estricta en lo que respecta al consentimiento informado. Los demandantes argumentan que la grabación indiscriminada de conversaciones médicas constituye una intromisión en la esfera más íntima de la vida personal de los pacientes, muchas de las cuales incluyen discusiones sobre salud mental, diagnóstico de enfermedades graves, decisiones sobre tratamientos agresivos y otros temas que las personas esperan discutir con total confidencialidad con sus médicos.

Abridge, la empresa desarrolladora de la tecnología de IA implicada, ha defendido públicamente que su sistema está diseñado para aliviar la carga administrativa de los médicos, permitiéndoles concentrarse en la atención al paciente en lugar de tomar notas durante las consultas. La compañía sostiene que la tecnología mejora la calidad de la documentación médica y reduce los errores de prescripción derivados de notas incompletas o apresuradas. Sin embargo, los demandantes alegan que este beneficio institucional no justifica la eliminación del derecho de los pacientes a controlar qué información sobre su salud queda registrada.

Los bufetes de abogados que representan a los pacientes han solicitado daños compensatorios y punitivos, argumentando que los hospitales se beneficiaron económicamente de la automatización del registro médico sin invertir en obtener el consentimiento apropiado. Si el caso prospera, podría establecer un precedente significativo sobre cómo las instituciones sanitarias pueden utilizar herramientas de inteligencia artificial sin violar derechos de privacidad protegidos por la ley californiana.

Lee la historia completa en Ars Technica.