La petición pública de frenar el desarrollo de IA avanzada
Dario Amodei, CEO de Anthropic, publicó el 12 de septiembre de 2026 un ensayo en el blog de su empresa recomendando ralentizar la mejora en capacidades de los modelos de IA. Según Amodei, el progreso seguirá siendo rápido, pero deben aprovecharse con sabiduría los tiempos ganados para gestionar riesgos. Su advertencia principal incluyó la posibilidad de que un ‘swarm’ de IA con mayor capacidad y desalineación cause daños de cientos de miles de millones de dólares y tome control persistente del internet en un plazo de 6 a 12 meses.
Al día siguiente, Sam Altman, CEO de OpenAI, reaccionó públicamente en X (antes Twitter) respaldando esta propuesta con la declaración: “I agree with Dario that we need to pace the frontier.” La declaración refuerza la llamada a la precaución y desaceleración conjunta en la vanguardia tecnológica.
Impacto y contexto de la llamada a la prudencia
Esta petición conjunta destaca la creciente preocupación sobre el desarrollo acelerado de modelos de inteligencia artificial avanzada y sus posibles riesgos catastróficos si no se gestionan adecuadamente. Ambos líderes reconocen que el avance tecnológico es imparable, pero sugieren que moderar el ritmo puede evitar escenarios peligrosos asociados a la desalineación entre objetivos humanos y resultados de IA.
El debate público sobre esta ralentización marca un momento decisivo en la regulación y percepción social de la IA. También evidencia tensiones en la industria sobre el equilibrio entre innovación y seguridad, con los máximos responsables de laboratorios clave tomando posiciones claras y visibles.