Riesgos de perder el control de la IA según un exinvestigador de Anthropic
El 5 de octubre de 2026, Jacob Coxon, exinvestigador del laboratorio Anthropic, testificó ante el Ayuntamiento de Nueva York alertando de que en el camino actual es más probable que la humanidad pierda el control sobre las inteligencias artificiales, lo que podría terminar en la extinción humana. Esta afirmación se registró oficialmente y se ha difundido por varios medios.
Coxon recordó que actualmente "no sabemos cómo controlar ningún sistema de IA" y criticó que las empresas desarrolladoras actúan con una irresponsabilidad extrema dadas las implicaciones que tienen esos riesgos. Su intervención causó impacto y estimuló la discusión sobre necesidades regulatorias urgentes.
La discusión sobre el "kill switch" y regulación para mitigar riesgos
En la audiencia se explicó que el Ayuntamiento de Nueva York estudia propuestas para exigir a los sistemas de IA que incorporen un "kill switch", un mecanismo que permita un apagado controlado por humanos para limitar riesgos potenciales. Esta medida busca evitar escenarios de pérdida de control de IA que alerta Coxon.
La audiencia y la declaración de Coxon resaltan la carencia actual de mecanismos de control efectivos y la necesidad de regulaciones prácticas que obliguen a cumplir requisitos mínimos de seguridad y control humano sobre sistemas automatizados avanzados. El caso indica un creciente reconocimiento institucional del riesgo que representa la IA sin supervisión suficiente.