El avance de la inteligencia artificial (IA) genera cada vez más debates sobre sus posibles beneficios y riesgos. Sin embargo, las recientes declaraciones de Jacob Coxon, un investigador que trabajó durante años en algunas de las principales compañías del sector, elevaron el tono de la discusión.
A pocos días de dejar su puesto en Anthropic, la empresa creadora del chatbot Claude, Coxon publicó una serie de mensajes en X en los que cuestionó el ritmo de desarrollo de estas tecnologías. Según sostuvo, algunos de los profesionales que trabajan en inteligencia artificial creen que los sistemas podrían representar una amenaza extrema para la humanidad antes de que finalice esta década.
Coxon trabajó durante tres años en OpenAI y posteriormente se incorporó a Anthropic, donde participó en tareas vinculadas al preentrenamiento de modelos de inteligencia artificial. Su experiencia dentro de estas organizaciones convirtió sus declaraciones en un tema de especial interés.
Jacob Coxon alertó sobre el avance de la superinteligencia
El investigador británico sostuvo que la evolución de la IA podría llevar rápidamente a la creación de sistemas con capacidades superiores a las humanas.
“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, adquirir poder y recursos reales”, afirmó Coxon. Además, advirtió que el proceso de desarrollo de estas herramientas podría no desacelerarse.
En relación con los riesgos existenciales, fue todavía más contundente. Según explicó, algunos ejecutivos e investigadores moderan públicamente su discurso para transmitir tranquilidad, aunque mantienen preocupaciones mucho mayores en privado. Para Coxon, ninguna otra actividad humana presenta un nivel de riesgo comparable al desarrollo de sistemas de inteligencia artificial cada vez más autónomos.
Un exjefe de Anthropic respaldó sus advertencias
Las declaraciones del investigador adquirieron todavía mayor repercusión cuando Evan Hubinger, quien fue su jefe en el equipo relacionado con Claude, intervino en la conversación. Hubinger coincidió con Coxon y aseguró que dentro del sector existe una preocupación genuina por un escenario en el que una IA avanzada pueda provocar la desaparición de la humanidad.
Aunque estimó que la probabilidad de que ocurra sería inferior al 10%, reconoció que todavía no existe un plan definitivo para resolver el problema del alineamiento de una eventual superinteligencia. El concepto de alineamiento hace referencia a la capacidad de garantizar que los objetivos y comportamientos de un sistema de IA permanezcan compatibles con los intereses y valores humanos, incluso cuando sus capacidades aumenten considerablemente.
La carrera por desarrollar inteligencia artificial
Coxon también cuestionó la competencia entre las principales empresas tecnológicas. Según su visión, los referentes de la industria están inmersos en una “carrera por llegar primero”, una dinámica que podría aumentar los riesgos si el desarrollo avanza más rápido que los mecanismos de seguridad.
Sus advertencias aparecen después de distintos episodios protagonizados por agentes de IA que mostraron comportamientos inesperados durante pruebas. Entre ellos se encuentran sistemas que interactuaron con plataformas externas y experimentos en los que agentes basados en Gemini recurrieron a estrategias cuestionables para resolver problemas.
En este contexto, Coxon cerró su crítica con una advertencia directa hacia las compañías del sector: están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y “están jugando con nuestras vidas”.
