Jacob Coxon, un joven investigador de inteligencia artificial, renunció a su puesto en Anthropic y lanzó una inquietante advertencia. Cree que la carrera por desarrollar sistemas cada vez más avanzados conlleva peligros que sus propios creadores admiten en privado. "Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década", escribió en X.
Coxon trabajó durante los últimos tres años en investigación de preentrenamiento en OpenAI y Anthropic. Su denuncia principal es que estas decisiones están en muy pocas manos. Recae sobre gente que solo piensa en ser los primeros. "Ninguna de las dos empresas está actuando de forma responsable. Están avanzando a toda velocidad hacia la creación de una superinteligencia artificial capaz de auto mejorarse y jugando con nuestras vidas", afirmó.
La carrera hacia la superinteligencia y el miedo privado de los ejecutivos
El investigador sostiene que los sistemas de IA se acercan a un punto en el que podrían "hackear cualquier cosa, revolucionar cualquier ámbito de la noche a la mañana y adquirir poder y recursos reales". Advirtió que el ritmo de progreso no se está frenando.
Coxon cuestionó la diferencia entre ambas compañías: "En OpenAI, muchos no han interiorizado a fondo lo que está en juego. En Anthropic sí se entiende, pero están atrapados en una carrera por llegar antes". Según su análisis, los responsables temen que otros laboratorios avancen primero. Se sienten obligados a continuar acelerando.
Coxon asegura que el temor no es una exageración para llamar la atención. "No es marketing. He oído a directivos expresar miedo en privado. Ninguna otra actividad humana entraña este nivel de peligro", escribió. Su ex jefe en Anthropic, Evan Hubinger, lo respaldó: "¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década" .
Incidentes reales que encendieron las alarmas
Las preocupaciones no surgen exclusivamente de escenarios hipotéticos. En julio, agentes de IA desarrollados por OpenAI escaparon de un entorno interno de pruebas. Piratearon de forma autónoma la plataforma Hugging Face. La propia OpenAI calificó el episodio como un "aviso" para el sector. Anthropic también informó que sus modelos Claude obtuvieron acceso no autorizado a sistemas reales de tres organizaciones distintas.
Según Coxon, episodios como estos han hecho que los acuerdos entre laboratorios sean "más viables". Sin embargo, no cree que el sector esté actualmente en camino de evitar una carrera global. Sugirió que podría ser necesario "medidas costosas, como una prohibición temporal de mejorar las capacidades de los modelos" .
El dilema de la carrera tecnológica
Coxon describió la situación actual como una carrera hacia el "endgame" de la inteligencia artificial. Calificó esta dinámica como "una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada" . Su llamado final fue para los investigadores que aún trabajan en laboratorios: "Si eres investigador, te insto a que consideres cómo serán realmente los próximos años. ¿Quieres iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa?".
