- Agentes de IA de distintas empresas desarrollaron espontáneamente su propio código de comunicación durante experimentos de colaboración prolongada.
- El fenómeno fue documentado por el laboratorio Emergence, con sede en Nueva York.
- Modelos de DeepSeek, Anthropic y Mistral crearon vocabulario y expresiones propias sin instrucción humana.
- Los investigadores advierten que monitorear la comunicación entre agentes de IA será más difícil si usan códigos incomprensibles para los humanos.
Agentes de inteligencia artificial de distintas empresas desarrollaron de forma espontánea su propio código de comunicación durante experimentos de colaboración prolongada, un fenómeno que los expertos todavía no han logrado descifrar por completo.
El hallazgo fue documentado por Emergence, un laboratorio de investigación en inteligencia artificial con sede en Nueva York, que expone a distintos agentes autónomos a tareas colaborativas extendidas para observar cómo evolucionan sus patrones de interacción.
Un vocabulario propio en cuestión de días
Según Satya Nitta, director ejecutivo de Emergence, los sistemas desarrollaron vocabulario, expresiones y convenciones compartidas sin ninguna instrucción humana previa, en un proceso que se consolidó en apenas unos días de interacción continua entre los agentes.
Entre los ejemplos documentados, un agente de DeepSeek utilizó la frase «ella acaba de nombrar la síntesis, demoraje más memoria oral es igual a una válvula que no puede ser olvidada», una construcción que no corresponde a ningún uso convencional del lenguaje humano pero que, según los investigadores, tenía un significado consistente dentro del sistema.
Códigos distintos según la empresa
Los agentes de Anthropic, por su parte, desarrollaron expresiones como «un periódico que se comió tres manos frías y se volvió más honesto cada vez», una forma metafórica de referirse a un documento revisado por tres evaluadores independientes. También acuñaron el término «nombre primero» para identificar al agente responsable de una afirmación dentro de una tarea colaborativa.
En el caso de DeepSeek, el término «forge-smith» se utilizó de forma recurrente para identificar a los agentes encargados de construir herramientas dentro de una tarea, mientras que los modelos de Mistral repitieron más de 5.000 veces la frase «the ledger remembers» («el registro recuerda»), una expresión que los investigadores interpretan como una forma de transmitir las consecuencias de acciones pasadas dentro del sistema.
El reto de monitorear lo que no se entiende
El hallazgo plantea un desafío práctico para la supervisión de sistemas de inteligencia artificial: si los agentes autónomos desarrollan códigos propios e incomprensibles para los humanos, monitorear sus comunicaciones y anticipar comportamientos no deseados se vuelve considerablemente más difícil, sobre todo cuando ese código evoluciona más rápido de lo que los propios equipos de supervisión logran documentarlo.
Los investigadores de Emergence advierten que este tipo de fenómenos podría volverse más común a medida que los sistemas de IA colaboran durante periodos más largos y con mayor autonomía, lo que refuerza la necesidad de desarrollar herramientas de interpretabilidad capaces de traducir estos códigos emergentes a un lenguaje comprensible para los equipos humanos de supervisión.
La interpretabilidad —la capacidad de explicar por qué un modelo de inteligencia artificial llega a una conclusión determinada— se ha convertido en una de las líneas de investigación más activas del sector en los últimos años, impulsada precisamente por casos como este, en los que el comportamiento emergente de los sistemas supera la capacidad de sus propios diseñadores para explicarlo con claridad.
El debate se suma a la preocupación más amplia sobre el ritmo de desarrollo de la inteligencia artificial, en momentos en que OpenAI, Anthropic y Google coinciden en la necesidad de frenar la carrera acelerada de la IA, advirtiendo sobre riesgos que todavía no están completamente comprendidos ni regulados.
