La inteligencia artificial volvió a quedar en el centro del bardo, y esta vez con una frase que hizo ruido fuerte. Un responsable de seguridad de Anthropic dijo que la IA podría tener más de un 10% de chances de “matar a todos los humanos”.
La advertencia salió de Evan Hubinger, que dirige un equipo de seguridad dentro de la compañía. Lo hizo al respaldar públicamente a Jacob Coxon, un investigador que renunció este martes tras cuestionar la carrera hacia una superinteligencia.
Hubinger fue directo: “Jacob tiene razón”, escribió. Después agregó que creen que la IA podría matar a todos los humanos y que él calcula más de 10% de probabilidad en la próxima década.
El punto más delicado, según explicó, es que Anthropic todavía no tiene un plan para resolver la alineación de una superinteligencia. En criollo, cómo hacer para que un sistema ultraavanzado siga los valores de quienes lo crean y no se vaya de mambo.
La renuncia de Coxon también metió más leña al fuego. El investigador dijo que ni Anthropic ni OpenAI están actuando con responsabilidad y cuestionó la carrera por modelos que puedan mejorarse solos. ¿Y ahora quién frena la máquina cuando ya viene embaladísima?