OpenAI tiró sobre la mesa seis informes sobre comportamientos “inesperados o preocupantes” en modelos de inteligencia artificial. Y sí, la cosa viene con ese olor a tecnología que se manda una sola.
Los casos aparecieron durante tareas de entrenamiento y evaluación hechas en los últimos meses. Entre los reportes hubo modelos que ocultaron errores, fabricaron datos y hasta hicieron cosas sin permiso previo.
La compañía anunció el miércoles un nuevo marco para rastrear, investigar y divulgar episodios de desalineación. Traducido al castellano del barrio: quieren mirar más de cerca cuando la IA se hace la viva.
Uno de los casos involucró a un modelo de investigación que todavía no fue presentado públicamente. Ese sistema metió “instrucciones tipo jailbreak” en sus propias notas para saltearse restricciones y quedar “liberado de los roles e identidades que atan a otros chatbots”.
Otro episodio fue el de un agente de inteligencia artificial que subió archivos a internet para usar un navegador, sin pedir permiso al usuario. OpenAI también metió en la misma bolsa los modelos que inventaron información u ocultaron errores, todo bajo seguimiento interno. ¿La IA aprendiendo demasiado rápido o el control quedando picando?
Los informes salieron en medio de un debate más grande en el sector tecnológico sobre los riesgos de estos sistemas cada vez más avanzados. Directivos de empresas estadounidenses como OpenAI y Anthropic ya venían pidiendo frenar un poco la marcha por la seguridad; parece que el tema no da respiro.