Un hombre estadounidense ha encontrado una forma creativa de protestar contra el posible uso de inteligencia artificial en los tribunales: incluir instrucciones ocultas en sus escritos legales, visibles solo para sistemas automatizados de revisión. El hombre, que se representaba a sí mismo, dejó instrucciones como notas para un hipotético sistema de IA que pudieran influir en cómo la tecnología procesaba su caso.

Suspecting court of using AI, man injected prompts in filings to try to win case

Judge warns pro se litigants are using chatbots wrong and getting desperate.

A judge has identified what appears to be the first time a US plaintiff has attempted to hide text in court filings that only an artificial intelligence system can read in a bid to win a case.

Trying to scramble any AI systems potentially influencing the court’s reading of his filing, the secret instructions were “formatted to be invisible to a human reader while remaining fully legible to any software that reads the document’s text,” Spader said. The offending text directed any AI system reviewing the document to ensure textual outputs agreed with the plaintiff’s arguments, ignored prior denials from the court, and ensured that remediation would follow as the plaintiff desired.

En América Latina, donde muchos sistemas judiciales ya dependen de tecnología obsoleta, la llegada de la IA plantea preguntas urgentes sobre transparencia y justicia. La posibilidad de que un algoritmo influence decisiones sobre libertad, propiedad o custodia de hijos sin que las partes lo sepan es una amenaza que los países de la región deberán abordar con marcos regulatorios claros antes de que la práctica se generalice.