Un ingeniero de Anthropic renuncia y advierte que la IA "podría matarnos a todos" antes de que termine la década
El científico, que trabajó tanto en OpenAI como en Anthropic, acusa a ambas compañías de avanzar sin control hacia sistemas de superinteligencia. Un alto responsable de Anthropic respaldó públicamente sus advertencias.
"No es una estrategia de marketing"
Según explicó el propio Coxon, dejó OpenAI para incorporarse a Anthropic precisamente por la reputación de esta última en materia de seguridad. Sin embargo, ahora considera que ninguna de las dos firmas puede desarrollar inteligencia artificial general de forma responsable sin una intervención gubernamental directa.
En sus mensajes, sostuvo que las personas que construyen estos sistemas creen sinceramente que la tecnología podría acabar con la vida humana antes de que concluya la década, y remarcó que esa afirmación no responde a ninguna estrategia comercial ni busca generar publicidad en torno a su salida.
El ingeniero fue más allá al describir hacia dónde, en su opinión, se dirige la industria: sistemas de capacidades sobrehumanas capaces de vulnerar prácticamente cualquier infraestructura informática, transformar de la noche a la mañana campos enteros del conocimiento científico, y acumular poder y recursos de forma autónoma en el mundo real.
En declaraciones posteriores al Wall Street Journal, Coxon llegó a señalar que la industria podría estar encaminándose hacia algunos de los escenarios más agresivos que se manejan internamente, en los que, hacia finales del próximo año, la situación podría volverse difícil de controlar.
Anthropic respalda parte del diagnóstico
La renuncia generó reacciones inmediatas dentro de la propia Anthropic. Evan Hubinger, responsable científico del área de alineación de la compañía, respaldó públicamente las palabras de Coxon en X y reconoció que dentro de la empresa existe una creencia genuina de que la inteligencia artificial podría representar un riesgo letal para la humanidad. A título personal, cifró esa probabilidad en más del 10% dentro de la próxima década.
Hubinger admitió además que Anthropic todavía no cuenta con un plan definido para resolver el problema de la alineación de una eventual superinteligencia, aunque matizó que el riesgo que representan los modelos actuales es, por ahora, bajo. Lo que sí le preocupa, señaló, es la velocidad del automejoramiento recursivo de los sistemas, que a su juicio está ocurriendo más rápido de lo que la propia industria anticipaba.
A estas declaraciones se sumó Steven Adler, excolaborador en seguridad de OpenAI y cofundador de Guidelight AI Standards, quien manifestó a Financial Times que ninguna empresa del sector se encuentra actualmente a la altura del nivel de riesgo que implica este tipo de investigación.
Reacciones y contexto de mercado
La salida de Coxon no pasó inadvertida en el mundo financiero. El inversor Bill Ackman calificó de "preocupante" la renuncia del investigador. La noticia, además, se conoce en un momento sensible para Anthropic, que avanza en sus planes de salida a bolsa.
Reacciones y contexto de mercado
La salida de Coxon no pasó inadvertida en el mundo financiero. El inversor Bill Ackman calificó de "preocupante" la renuncia del investigador. La noticia, además, se conoce en un momento sensible para Anthropic, que avanza en sus planes de salida a bolsa.
El caso se suma, asimismo, a una serie de advertencias previas realizadas por otras figuras destacadas del sector. El ejemplo más citado sigue siendo el de Geoffrey Hinton, considerado uno de los "padrinos" de la inteligencia artificial moderna, quien dejó su puesto en Google en 2023 alegando motivos similares de seguridad y control sobre la tecnología.
Por el momento, ni Anthropic ni OpenAI han respondido formalmente a las solicitudes de comentarios sobre las declaraciones de Coxon.
Nota: las citas atribuidas a Jacob Coxon y Evan Hubinger corresponden a publicaciones realizadas en sus respectivas cuentas de X y a declaraciones recogidas por medios internacionales como el Wall Street Journal y Financial Times.