A medida que los modelos de inteligencia artificial se vuelven más capaces y comienzan a actuar de forma autónoma, los investigadores de seguridad llevan años buscando la manera de garantizar que estos sistemas permanezcan alineados con los deseos humanos. Un nuevo enfoque, conocido como diseño de mecanismos o teoría de juegos inversa, podría ofrecer una solución donde los métodos tradicionales han fallado.

La teoría de juegos clásica parte de un juego ya definido y predice cómo se comportarán los actores racionales dentro de él. El diseño de mecanismos invierte ese proceso: define primero el resultado deseado y después construye las reglas del juego de manera que la opción más racional para el agente sea también la más beneficiosa para los humanos.

En el contexto de la inteligencia artificial, el diseño de mecanismos parte de una premisa incómoda: puede que nunca seamos capaces de comprender suficientemente el funcionamiento interno de los modelos de frontera. Si eso es cierto, la alternativa es crear incentivos tales que intentar quebrantar las reglas resulte irracional para el propio agente.

El enfoque todavía se encuentra en fase experimental y traducir estas ideas teóricas en sistemas funcionales plantea desafíos considerables. Sin embargo, la propuesta gana adeptos precisamente porque no requiere entender el modelo para controlarlo, una condición que muchos consideran inevitable dado el nivel de complejidad de los sistemas actuales.