Jacob Coxon, ingeniero de software británico que trabajó durante los últimos tres años en Anthropic y anteriormente en OpenAI, renunció a su puesto al considerar que ambas empresas no están actuando con suficiente responsabilidad ante los riesgos de la inteligencia artificial. En una serie de publicaciones en X, afirmó que los sistemas avanzados podrían representar una amenaza para la humanidad durante esta década.
Coxon, de 27 años, sostuvo que el desarrollo de la IA avanza hacia sistemas capaces de superar las capacidades humanas en distintas áreas, incluyendo ciberseguridad y generación de recursos. Aseguró que existe conciencia sobre estos riesgos dentro de las compañías, pero consideró que la competencia por desarrollar modelos cada vez más avanzados dificulta una respuesta coordinada. Entre sus propuestas mencionó una pausa temporal en el aumento de las capacidades de los modelos.
Las declaraciones fueron respaldadas parcialmente por Evan Hubinger, investigador de Anthropic, quien afirmó que la empresa realmente considera posible un escenario en el que la IA provoque la extinción humana. Hubinger incluso estimó personalmente una probabilidad superior al 10% de que ocurra durante la próxima década. Estas opiniones forman parte del debate sobre los riesgos de sistemas de IA avanzados y no constituyen una predicción consensuada sobre su futuro.
