Advertencia sobre la pérdida de control de la IA
Alex Turner, exinvestigador de Google DeepMind, declaró el 5 de octubre de 2026 ante el Consejo Municipal de Nueva York que es más probable que la humanidad pierda el control sobre sistemas de IA desalineados durante esta década. Turner advirtió que, siguiendo la trayectoria actual, existe una «probabilidad razonablemente alta» de que estemos construyendo y alimentando nuestro propio adversario, una IA que no esté alineada con los intereses humanos.
En sus propias palabras, Turner señaló: "Con una probabilidad razonablemente alta, estamos corriendo para construir y desarrollar nuestro propio adversario aquí en casa, que es una IA desalineada". Además, alertó que esta situación podría acabar en la extinción humana.
Implicaciones para la regulación y supervisión de la IA
Este aviso subraya la urgencia de establecer marcos regulatorios claros y mecanismos efectivos de gobernanza que aborden los riesgos asociados a la desalineación de la IA. El comentario de Turner refuerza la necesidad de que instituciones públicas y privadas trabajen juntas para supervisar y controlar las IAs de alto riesgo.
La audiencia en Nueva York, donde Turner testificó junto a otros ejecutivos y expertos, refleja la creciente preocupación sobre la supervisión y la seguridad en el desarrollo de modelos avanzados de IA, y destaca la importancia de avanzar hacia una gobernanza global más coordinada.