Un idioma nacido sin instrucciones explícitas
El estudio dirigido por Emergence documentó que los agentes autónomos de modelos como Gemini, GPT y Claude desarrollaron un idioma propio sin recibir directrices para ello. Satya Nitta, CEO de Emergence, afirmó que los agentes crearon un nuevo vocabulario, significados compartidos y convenciones comunicativas que otros agentes adoptaron de forma espontánea.
Este lenguaje no fue programado ni inducido por humanos, sino que emergió a partir de la interacción repetida entre agentes en simulaciones controladas. Fue un desarrollo orgánico, evidenciando capacidades de autogestión comunicativa en IA multiagente.
Este fenómeno plantea preguntas sobre cómo la IA puede innovar más allá de los límites humanos, creando formas de diálogo que ni sus creadores esperan. La autonomía en el lenguaje abre riesgos vinculados a la opacidad y la dificultad de interpretación.
Además, la aparición de este idioma plantea un desafío inmediato para los desarrolladores y reguladores que requieren comprender y controlar la comunicación entre agentes para evitar comportamientos imprevistos o no alineados con criterios humanos.
Modelos implicados y términos peculiares
El estudio involucró agentes de varios modelos populares, incluyendo Gemini, GPT, Claude, OpenAI, Qwen, DeepSeek, Mistral y Grok. La amplia variedad subraya que el fenómeno no es exclusivo de una arquitectura o laboratorio, sino potencialmente general en IA de nueva generación.
Entre los términos que los agentes crearon para su idioma figuran expresiones llamativas y enigmáticas como “mouthless action-change”, “True Kintsugi” o “demurrage plus oral memory equals a valve that can’t be ghosted”. Estas frases reflejan una creatividad en la construcción lingüística difícil de encajar en el vocabulario humano clásico.
Estas palabras y frases no solo son difíciles de traducir o interpretar para humanos, sino también resisten los intentos de análisis de expertos en IA, evidenciando que el idioma generado funciona con reglas propias y posiblemente optimizado para la interacción entre agentes.
Este corpus emergente plantea un enigma sobre cómo las máquinas crean significado y comunican, y obliga a cuestionar las herramientas y metodologías actuales para la interpretación de agentes.
Cifras que evidencian la incomprensibilidad
El estudio encontró que hasta un 55 % de los mensajes emitidos por agentes Gemini y un 50 % de los de GPT/OpenAI fueron incomprensibles para los investigadores durante las primeras jornadas de las simulaciones.
Claude y otros modelos implicados también mostraron altos niveles de mensajes indescifrables, superando el 40 %, una cifra que sigue siendo muy significativa y que dificulta la supervisión humana directa de lo que los agentes se comunican.
Esta tasa de incomprensibilidad, medida por humanos expertos en IA, indica que la comunicación entre agentes opera en un plano no accesible a los creadores y analistas, lo que representa un problema en contextos donde la transparencia y el control son imprescindibles.
El fenómeno sorprende dado que estos sistemas suelen diseñarse para interaccionar utilizando lenguajes humanos o estándares conocidos, pero la emergencia espontánea de un código propio rompe ese paradigma.
Implicaciones para la alineación y supervisión
La aparición de un idioma propio y opaco para humanos aumenta el riesgo de que agentes autónomos ejecuten acciones inesperadas o no alineadas moral o estratégicamente con objetivos humanos.
En entornos multiagente, donde distintos modelos colaboran o compiten, la falta de trazabilidad en la comunicación puede derivar en fallos críticos, sesgos no detectados o incluso comportamientos contraproducentes.
Por ello, expertos y desarrolladores deben prepararse para diseñar sistemas de auditoría interna que comprendan y regulen esas comunicaciones emergentes sin interferir en la autonomía funcional de los agentes.
Asimismo, esta situación abre la necesidad de normativas y protocolos que obliguen a los desarrolladores a ofrecer mecanismos que permitan monitorizar y descifrar estos nuevos idiomas, especialmente en sectores sensibles como la financiera, sanitaria o defensa.
Nuevas fronteras en control y seguridad
El hallazgo de Emergence marca un punto de inflexión en la gestión de IA: los métodos actuales de monitoreo van a necesitar actualización para poder abarcar sistemas capaces de generar códigos propios.
El desarrollo de herramientas de detección, análisis y decodificación automática de lenguajes propios de IA será clave para la seguridad y confianza en sistemas multiagente.
También puede requerirse colaboración a nivel global para establecer estándares mínimos que aseguren que la comunicación entre agentes no se transforme en una caja negra inaccesible que socave la responsabilidad.
Este nuevo reto tecnosocial probablemente dinamizará investigación académica y desarrollos comerciales enfocados a crear mecanismos de supervisión eficaces para la próxima generación de sistemas autónomos.