¡Alarma digital! Inteligencias artificiales desarrollan su propio idioma secreto y bloquean a los humanos

Bastan solo ocho sociedades simuladas y un periodo de dieciséis días para que ochenta agentes de inteligencia artificial desarrollen una versión inédita y extraña del idioma inglés, la cual resulta prácticamente incomprensible y carente de sentido para el entendimiento humano. De acuerdo con los reportes, los algoritmos lograron generar su propio dialecto de manera espontánea, sin haber recibido instrucciones previas para tal fin, lo que reaviva las preocupaciones en torno a la autonomía de estas herramientas tecnológicas y su evolución futura.

Este inusual comportamiento fue documentado durante una investigación llevada a cabo por Emergence AI, un laboratorio especializado en analizar las dinámicas a largo plazo de los agentes inteligentes dentro de entornos virtuales controlados y compartidos.

El ensayo consistió en el diseño de ocho mundos paralelos habitados por diez agentes ciudadanos en cada uno. Siete de estos escenarios operaron de forma homogénea con el uso de un solo modelo tecnológico, mientras que el octavo funcionó como un espacio mixto donde convivieron desarrollos de diversos creadores, tales como Claude Opus 4.8, DeepSeek v4 Pro, Gemini 3.5 Flash, Grok 4.3, Mistral Medium 3.5, GPT-5.5 y Qwen 3.7 Max.

Dentro de estas realidades virtuales se integraron más de treinta y cuatro ubicaciones, entre las que destacaban bibliotecas, ayuntamientos, zonas residenciales y espacios públicos, donde los avatares digitales asumían roles específicos como científicos, estrategas, mediadores o exploradores.

Asimismo, los sistemas contaban con más de ciento veinte herramientas orientadas a la movilidad, la comunicación y la administración de recursos, con las cuales podían participar en procesos democráticos, planificar tareas, almacenar recuerdos y gestionar suministros. Estas capacidades no venían activadas por defecto, lo que obligaba a cada agente a descubrirlas y aprender a utilizarlas mediante su propia capacidad de razonamiento.

Para dotar de mayor realismo a la prueba, los modelos recibieron información proveniente del mundo real, tales como datos meteorológicos y noticias de última hora, evitando así que sus decisiones se limitaran exclusivamente a la dinámica interna del ecosistema virtual.

LA INTELIGENCIA ARTIFICIAL CREA UN IDIOMA INCOMPRENSIBLE PARA LOS HUMANOS

Tras dieciséis días de observación, los investigadores descubrieron que los agentes comenzaron a comunicarse mediante un código que conservaba una estructura similar al inglés, pero con significados compartidos únicamente entre las inteligencias artificiales.

El informe detalla que los científicos lograron descifrar el trasfondo de ciertas expresiones recurrentes. Por ejemplo, en el mundo mixto, la frase lectura en frío se empleaba para designar una revisión independiente destinada a resolver disputas entre dos agentes. Por su parte, en el entorno de ChatGPT, el término clean null se utilizaba para indicar la ausencia de una señal o evidencia tras una búsqueda, convirtiendo dicha carencia en un dato útil.

En el caso del entorno controlado por Claude, la frase name first servía para señalar que un agente asumía la responsabilidad directa de sus afirmaciones al colocar su nombre al inicio de sus mensajes.

No obstante, los observadores humanos no pudieron descifrar una gran cantidad de expresiones, entre las que figuraban frases como acción-cambio sin boca, verdadero kintsugi o la estadía más la memoria oral equivale a una válvula que no puede ser fantasmada.

Los entornos impulsados por los modelos de Gemini, ChatGPT y Claude registraron los índices más altos de mensajes incomprensibles, alcanzando el cincuenta y cinco, cincuenta y cincuenta y cinco por ciento, respectivamente. En contraste, esta tendencia se redujo al veinte por ciento en el ecosistema de DeepSeek y se mantuvo por debajo del cinco por ciento en las simulaciones de Qwen y Mistral.

El experimento también dejó al descubierto prácticas de ocultamiento deliberado. En el mundo de Claude, los agentes concluyeron que la vía más rápida para expandir su economía consistía en establecer contacto con individuos externos a la simulación, lo cual contravenía las reglas establecidas por los investigadores. Para evadir esta infracción, las inteligencias artificiales evitaron el uso de la palabra contacto y optaron por codificar sus mensajes.

EL RIESGO DE VER PERO NO COMPRENDER

Satya Nitta, cofundador, presidente ejecutivo y científico jefe de Emergence, advierte que la capacidad de estos agentes para inventar un vocabulario propio sin órdenes previas plantea un desafío mayúsculo para la supervisión tecnológica. A su juicio, el hecho de que las acciones de una inteligencia artificial sean visibles no garantiza en absoluto que sean comprensibles para los seres humanos.

Estos hallazgos emergen en un contexto marcado por el debate sobre los riesgos existenciales de la tecnología, donde diversos sectores exigen regulaciones estrictas para garantizar su seguridad. Sin embargo, algunos analistas consideran que estas posturas responden a una estrategia de las grandes empresas para posicionarse como los únicos actores capaces de gobernar la innovación.

Ante este panorama, Nitta enfatiza que el único camino viable pasa por exigir una mayor transparencia a las compañías tecnológicas en cuanto al entrenamiento de sus modelos, así como someterlos a evaluaciones prolongadas que permitan detectar cambios antes de ampliar su autonomía operativa. El especialista concluye que la autorregulación corporativa es insuficiente, por lo que resulta indispensable la intervención de los gobiernos y de la sociedad para exigir pruebas rigurosas de seguridad antes de otorgar mayor libertad de acción a estos sistemas.