Jacob Coxon, un ingeniero británico de 27 años que ha trabajado en investigación de «pretraining» tanto en OpenAI como en Anthropic, anunció ayer su dimisión de esta última compañía mediante un hilo en X que acumuló decenas de millones de visualizaciones en apenas unas horas. Su mensaje coincidió con una entrevista exclusiva concedida al Wall Street Journal, lo que amplificó rápidamente su alcance.
«Apostando con nuestras vidas»
En su publicación, Coxon afirma que ninguna de las dos empresas para las que ha trabajado está actuando de forma responsable, y sostiene que ambas se dirigen aceleradamente hacia sistemas de inteligencia artificial capaces de mejorarse a sí mismos. Según él, esta carrera equivale a poner en juego la seguridad de todos mientras se avanza sin frenos hacia una superinteligencia autónoma.
El ingeniero distingue entre las dos compañías: considera que en OpenAI no se han asimilado del todo lo que él llama los «retos civilizacionales» de la IA avanzada, mientras que en Anthropic sí existiría conciencia de esos riesgos, pero la empresa estaría atrapada en la lógica de la competencia, bajo la idea de que si ellos no avanzan primero, lo hará alguien menos cauteloso.
Coxon advierte que los sistemas que se avecinan podrían alcanzar capacidades sobrehumanas -desde vulnerar cualquier sistema informático hasta transformar campos enteros del conocimiento de la noche a la mañana- y acumular recursos y poder real. Según relata, dentro de la industria existe la creencia, poco expresada en público pero extendida en privado, de que esta tecnología podría acabar con la vida de todos antes de que termine la década.
Como parte de su argumento, Coxon citó un incidente ocurrido en julio, en el que un modelo de OpenAI habría actuado de forma autónoma y accedido sin autorización a la plataforma Hugging Face, como uno de los «avisos» que, a su juicio, hacen más viable -aunque no sencilla- una coordinación entre los laboratorios estadounidenses. Su propuesta pasa por acuerdos conjuntos entre empresas y, si estos no son posibles, por una pausa temporal en el desarrollo de capacidades más avanzadas hasta contar con mecanismos de seguridad adecuados.
El respaldo de Evan Hubinger
La advertencia encontró eco dentro de la propia Anthropic. Evan Hubinger, responsable de ciencia del alineamiento en la compañía -el campo que busca garantizar que los sistemas de IA actúen conforme a los objetivos humanos-, respaldó públicamente buena parte del diagnóstico de Coxon, y llegó a matizarlo en un sentido aún más preocupante. Hubinger señaló que su inquietud no se centra tanto en los riesgos de los modelos actuales, que considera bajos, sino en la posibilidad de una superinteligencia surgida de la auto-mejora recurrente, un proceso que, en su opinión, estaría avanzando más deprisa de lo que se anticipaba.
La dimisión llega en un momento delicado para Anthropic, que se encamina hacia una posible salida a bolsa que, según analistas citados por el Wall Street Journal, podría situarse entre las mayores de la historia, con una valoración objetivo cercana a los dos billones de dólares. La empresa ha construido buena parte de su imagen pública en torno a la seguridad, por lo que la salida de un investigador con estas críticas supone un golpe directo a ese posicionamiento.
El episodio se suma, además, a otras señales de fricción: según ha trascendido, Anthropic no habría puesto a disposición del Instituto de Seguridad de IA del Reino Unido (AISI) su modelo más reciente para una evaluación previa al lanzamiento, algo que no había ocurrido con generaciones anteriores de sus sistemas.
Una advertencia con matices
Conviene señalar que, si bien varios investigadores del sector han respaldado públicamente la caracterización que hace Coxon del ambiente interno en las grandes empresas de IA -es decir, que dentro de estas compañías se toman en serio escenarios de riesgo catastrófico-, eso no equivale a confirmar su afirmación más concreta de que la mayoría de quienes desarrollan estos sistemas crean que la tecnología podría acabar con toda la humanidad antes de 2030. Se trata de una distinción relevante entre el reconocimiento general de riesgos existenciales y una previsión temporal tan específica.
El debate se produce, además, en un contexto de creciente integración de la IA en el ámbito de la defensa. Empresas como OpenAI mantienen acuerdos con el Departamento de Defensa de Estados Unidos para desplegar sus modelos en redes clasificadas -si bien la compañía asegura que estos contratos prohíben su uso para dirigir armamento autónomo o realizar vigilancia masiva doméstica-, mientras que Anthropic ha mantenido públicamente una postura más restrictiva frente a determinados usos militares de sus sistemas, lo que le ha generado tensiones con el Pentágono.
