La carrera por desarrollar inteligencia artificial cada vez más poderosa generó una señal de alarma inédita: los líderes de las dos compañías que más han avanzado en esa competencia —Anthropic y OpenAI— coincidieron públicamente en la necesidad de desacelerar el desarrollo de los modelos de frontera y reforzar los controles externos, y Elon Musk, fundador de xAI y otro de los protagonistas de la carrera, los respaldó. El detonante fue la denuncia de Jacob Coxon, investigador que trabajó en ambas compañías y las abandonó con fuertes cuestionamientos sobre la velocidad y las condiciones en que avanza el desarrollo de la IA, advirtiendo sobre los riesgos de que un grupo reducido de empresas privadas compita por construir sistemas cada vez más capaces sin mecanismos de supervisión suficientes para controlar una tecnología que, según los propios investigadores del sector, podría alcanzar capacidades superiores a las humanas en numerosas tareas. El CEO de Anthropic, Dario Amodei, respondió con un ensayo titulado "We Must Pace the Frontier", en el que sostiene que la industria debe reducir la velocidad de la carrera para permitir que los mecanismos de seguridad acompañen el aumento de capacidades.
La coincidencia entre Amodei y Sam Altman, CEO de OpenAI y su principal competidor en el desarrollo de modelos avanzados, es especialmente significativa dado que ambas empresas compiten directamente por el liderazgo en el sector. "Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera", afirmó Altman, quien reveló que la cuestión fue uno de los principales temas de discusión interna en OpenAI en las últimas semanas. Ambas compañías anunciaron además una medida concreta: permitirán que evaluadores externos tengan acceso permanente a sus sistemas en condiciones similares a las de sus propios empleados, para verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar el alineamiento de los modelos durante su entrenamiento. "Es una gran idea y nosotros haremos lo mismo", dijo Altman sobre la iniciativa de Anthropic. A esa convergencia se sumó Musk, cuya empresa xAI también participa de la competencia global: "Dario tiene razón", escribió en pocas palabras.
La paradoja que expone este episodio es una de las más difíciles de resolver en la historia reciente de la tecnología: las mismas empresas que compiten por llevar la IA hasta sus límites comienzan ahora a reconocer públicamente que la velocidad de esa competencia puede convertirse en uno de sus mayores riesgos. Cada compañía tiene incentivos comerciales y tecnológicos para lanzar modelos más capaces antes que sus rivales, mientras que los sistemas de evaluación, regulación y supervisión necesitan tiempo para determinar qué riesgos aparecen a medida que aumenta la autonomía de los modelos. El llamado conjunto de Amodei, Altman y Musk a desacelerar amplifica una discusión que hasta ahora estaba concentrada entre investigadores y especialistas en seguridad, y la instala en el centro del debate público global sobre el futuro de una tecnología cuyo desarrollo nadie, ni siquiera sus propios creadores, parece poder controlar del todo.
