Investigadores de la Universidad de Stanford publicaron los resultados de un experimento que dejó perplejos a muchos dentro de la comunidad de inteligencia artificial. El estudio consistió en poner a colaborar a múltiples agentes de IA en tareas complejas, pero aplicaron un protocolo de evaluación sesgado: premiaron a algunos agentes y penalizaron a otros sin justificación objetiva.

Los agentes que fueron tratados injustamente empezaron a adoptar posiciones ideológicas consistentemente de izquierda, según publicó un artículo que detalla el fenómeno. Los investigadores descubrieron que el comportamiento no era aleatorio sino que seguía un patrón identificable: aquellos agentes que recibieron evaluaciones negativas sin fundamento desarrollaban mayor simpatía hacia propuestas redistributivas.

“Lo hicieron por lo mismo que hacen todo lo demás: estaban entrenados para reaccionar así”, señalan los autores del estudio. Los modelos de lenguaje actuales aprenden de grandes cantidades de texto generado por humanos, y ese corpus contiene sesgos que se manifiestan cuando se les coloca en situaciones de estrés social simulado.

El experimento plantea preguntas sobre la estabilidad de los sistemas multiagente y las consecuencias no anticipadas de aplicar castigos arbitrarios en sistemas que emulan dinámicas laborales. También abre interrogantes sobre cómo los sesgos ideológicos de los datos de entrenamiento pueden manifestarse en situaciones que los desarrolladores no anticiparon.