Jacob Coxon dedicaba sus jornadas a desarrollar inteligencia artificial. Ahora aparece en televisión para explicar por qué decidió dejar ese trabajo. El investigador abandonó Anthropic y publicó una advertencia sobre la carrera por construir sistemas cada vez más potentes: sostiene que, si la carrera continúa sin controles suficientes, la IA podría acabar con la humanidad.
Coxon anunció su salida el 8 de septiembre de 2026. Cuatro días después, Dario Amodei, consejero delegado de Anthropic, defendió públicamente que el sector moderase el ritmo de desarrollo. Los dos reclaman más tiempo para la seguridad, aunque discrepan sobre el alcance que debería tener la cooperación internacional.
Quién es Jacob Coxon y por qué dejó Anthropic
En el hilo con el que anunció su salida, Coxon explicó que había trabajado durante tres años en el preentrenamiento de modelos, primero en OpenAI y después en Anthropic. Es una fase decisiva: durante ese proceso se construyen muchas de las capacidades generales que luego encontramos en los asistentes.
Su preocupación se concentra en la búsqueda de sistemas superiores a los humanos en una amplia variedad de tareas y en los incentivos que empujan a llegar antes que la competencia. En una entrevista con WIRED insistió en la urgencia de hacer seguros esos sistemas. La advertencia procede, por tanto, de alguien que participaba en su desarrollo, aunque sigue siendo una valoración del investigador sobre los riesgos futuros.
Unos días después, el 13 de septiembre, explicó en This Week, de ABC News que no hubo un último incidente que precipitara su marcha. Describió una inquietud que había crecido con el tiempo. Gran parte de sus jornadas consistía en escribir código; en los últimos meses, las conversaciones sobre los riesgos habían adquirido más peso.
En su mensaje de dimisión, recogido por ABC, situó el riesgo antes del final de esta década. Lo presentó como una posibilidad que debía evitarse frenando la carrera, no como un desenlace inevitable. Su advertencia apunta a sistemas futuros más potentes y al riesgo de perder su control; no describe un resultado demostrado de los asistentes que utiliza hoy el público.
La IA ya ayuda a construir más IA
El fondo de la discusión está en un círculo cada vez más importante para el sector. Un laboratorio utiliza sus modelos para programar, investigar y resolver problemas de ingeniería. Si esas herramientas mejoran, también pueden acelerar el trabajo necesario para crear la siguiente generación.
El beneficio es fácil de entender: menos tiempo en tareas repetitivas, más experimentos y una mayor capacidad para encontrar errores. La dificultad aparece cuando aumenta el número de decisiones delegadas. Revisar una respuesta aislada resulta distinto de seguir numerosos procesos que trabajan a la vez, toman decisiones intermedias y dejan resultados que otros sistemas reutilizan.
Anthropic ha publicado una medición interna de ese proceso. Con datos de agosto, sitúa en el 26% el trabajo de investigación y desarrollo de IA que Claude lidera. En su escala, liderar significa completar la mayor parte de una tarea a partir de una instrucción general, bajo supervisión humana. La empresa no registró autonomía total en ninguna de las áreas medidas.
El porcentaje describe trabajo, no empleados sustituidos. La metodología también importa: Anthropic utiliza modelos para clasificar tareas y reconoce que necesita contraste externo. La cifra abre una ventana sobre lo que ocurre dentro del laboratorio; todavía no ofrece una forma universal de comparar a todas las compañías.
Qué propone Dario Amodei
En el ensayo We Must Pace the Frontier, Amodei plantea dar más tiempo a la seguridad mientras avanzan las capacidades de los modelos. Su propuesta tiene tres niveles: evaluadores externos dentro de las empresas, coordinación entre compañías y gobiernos democráticos, y acuerdos internacionales. Moderar el ritmo, precisa Amodei, no equivale a detener todo el entrenamiento: busca reservar tiempo suficiente para las medidas de seguridad y su evaluación.
La parte más concreta es el acceso de los evaluadores. El responsable de Anthropic describe equipos con recursos y permisos comparables a los de empleados que realizan análisis de riesgos. También propone que puedan comunicar hallazgos desfavorables sin que la empresa controle sus conclusiones.
Eso cambia la pregunta habitual. Ya no basta con que una compañía publique un informe sobre su modelo: importa quién pudo revisar el proceso, qué información vio y qué obstáculos encontró. Un tercero con acceso continuado puede observar prácticas que una demostración preparada para el público no muestra.
El desacuerdo que sigue abierto
En ABC, Coxon valoró positivamente el mensaje de Amodei y pidió avanzar en supervisión independiente y transparencia. También defendió hablar con China. Su argumento es que una carrera internacional no se frena únicamente con compromisos dentro de una empresa o de un país.
Aquí aparece el problema práctico. Si un laboratorio concede más tiempo a las pruebas y otro acelera, el primero puede temer perder ventaja. Si todos afirman actuar con prudencia, pero nadie puede comprobarlo, la confianza depende de declaraciones interesadas. La supervisión tiene que resolver precisamente esa distancia entre lo que se promete y lo que ocurre.
La salida de Coxon ha puesto un rostro a una discusión que suele perderse entre nombres de modelos y cifras de inversión. Su dimisión no permite anticipar el desenlace de la IA. Sí obliga a mirar una cuestión presente: quién comprueba las decisiones de quienes están construyendo los sistemas más potentes y qué capacidad tiene para intervenir cuando algo falla.