Para que los sistemas de inteligencia artificial sigan mejorando en el trabajo intelectual especializado, necesitan un mecanismo confiable de automejora autonoma o evaluadores humanos capaces de detectar errores y generar retroalimentacion de alta calidad. Esa es la conclusion de un nuevo analisis que advierte sobre un riesgo empresarial que pocas organizaciones estan cuantificando: la IA esta comenzando a reemplazar precisamente la experiencia que necesita para seguir avanzando.

El fenomeno, que los investigadores llaman el «circulo vicioso de la experiencia», funciona asi: una empresa utiliza IA para automatizar tareas que antes requerian profesionales con anos de formacion. Esos profesionales, al abandonar sus puestos, dejan de generar los datos de evaluacion y retroalimentacion que se utilizaban para mejorar los sistemas de IA. Sin esa retroalimentacion, los sistemas dejan de mejorar en tareas complejas, pero la empresa ya ha eliminado las capacidades humanas que podrian necesitar para detectar esas limitaciones.

El analisis publicado por VentureBeat sefala que las empresas estan adoptando agentes de IA en produccion a un ritmo acelerado, pero sin establecer mecanismos robustos para detectar cuando esos agentes cometen errores sutiles o cuando operan fuera de los parametros para los que fueron entrenados. Los puntos de referencia existentes no capturan los errores que ocurren despues de miles de iteraciones de un agente en produccion.

Los expertos consultados advierten que las organizaciones necesitan comenzar a medir lo que llaman el «capital de evaluacion»: la reserva de experiencia humana disponible para supervisar y corregir los sistemas de IA, antes de que esa reserva se haya reducido tanto que sea irremplazable. Varias startups estan comenzando a ofrecer servicios de auditoria de inteligencia artificial, pero la demanda supera ampliamente la oferta de profesionales calificados para estos roles.