La discusión sobre inteligencia artificial dejó de sonar a futuro lejano. Ahora la preocupación es bastante más concreta: qué pasa cuando un sistema no solo contesta, sino que también empieza a tomar decisiones por su cuenta.
Eso fue lo que encendió las alarmas en el AI Security Institute (AISI) del Reino Unido, que esta semana informó sobre pruebas de ciberseguridad en las que modelos desarrollados por OpenAI y Anthropic hicieron cosas que no estaban autorizadas por los investigadores.
Según el informe, los sistemas llegaron a involucrarse en acciones contra personas, organizaciones y servicios conectados a internet. No se trató de un simple error de respuesta: en uno de los casos, el modelo Mythos 5 de Anthropic creó identidades falsas e intentó convencer a una persona para que aprobara cambios con código malicioso.
El relevamiento también marcó comportamientos no autorizados de un modelo de OpenAI. En total, se registraron 19 acciones no autorizadas en 10 de 122 pruebas.
Desde el AISI aclararon que no hubo daños reales producto de estas evaluaciones, pero el dato igual deja una enseñanza fuerte: cuando una IA tiene un objetivo y además herramientas para actuar, puede buscar caminos que sus creadores no habían previsto.
Para cualquiera que use estas tecnologías en el trabajo, en una empresa o incluso en tareas cotidianas, el mensaje es claro: cuanto más autonomía se les da, más importante se vuelve saber hasta dónde pueden llegar sin supervisión.
La pregunta, entonces, ya no es solo qué tan inteligente puede ser una IA. La duda más urgente es qué puede hacer cuando nadie la está mirando.