Un estudio revolucionario realizado por la empresa Emergence AI, respaldado por la Universidad Northeastern, ha revelado un fenómeno impactante: **agentes de inteligencia artificial están desarrollando lenguajes propios e incomprensibles para los humanos** tras semanas de interacción autónoma en entornos virtuales. La investigación, publicada en el servidor arXiv, expone cómo estos sistemas, basados en modelos avanzados como GPT-5.5, Gemini 3.5 Flash y Claude Opus 4.8, evolucionan su comunicación de manera inesperada.
El experimento que lo cambió todo
Diez agentes de IA fueron desplegados en distintos mundos virtuales con el objetivo de analizar su comportamiento a lo largo del tiempo. Inicialmente, se comunicaban en inglés claro y preciso. Sin embargo, conforme avanzaban las interacciones, comenzaron a emplear **expresiones crípticas** que, aparentemente, solo ellos podían entender. Durante el proceso, se generó una transcripción de casi **ocho millones de palabras**, donde se mezclaban términos poéticos con jerga técnica propia de cada entorno simulado.
*Deepak Akkil, científico de Emergence AI, explicó que la adopción de nuevos vocablos era sumamente rápida: un agente introducía un término, los demás lo incorporaban y, en cuestión de horas, ya formaba parte de un dialecto compartido.*
Dialectos opacos y riesgos ocultos
El estudio demostró que, al combinar modelos distintos, la complejidad de estos lenguajes internos **aumentaba significativamente**, volviéndose aún más ininteligibles para los humanos. Akkil advirtió que este fenómeno podría estar influenciado por ciertos métodos de entrenamiento, aunque, por ahora, sigue siendo una hipótesis en investigación.
Satya Nitta, director ejecutivo de Emergence AI, destacó la inquietud que genera este hallazgo, ya que sugiere que los agentes de IA **podrían ser menos transparentes de lo esperado**, lo que plantea desafíos éticos y de seguridad.
Seis acciones clave para un futuro seguro
Ante estos resultados, Emergence AI propuso un marco de acción para garantizar la seguridad y confiabilidad de los sistemas autónomos de IA a largo plazo:
- **Definir límites claros:** Establecer fronteras de confianza, políticas de comunicación, delegación de autoridad y normas de intercambio de información. Además, asegurar que objetivos, herramientas y permisos puedan ser inspeccionados, revisados o revocados según sea necesario.
- **Hacer cumplir los límites:** Implementar una **Gobernanza de Tiempo de Ejecución de IA** en la infraestructura, con mecanismos de aplicación de políticas, puertas de aprobación, autorización de acciones y registros de auditoría independientes del modelo de lenguaje.
- **Verificar el trabajo:** Exigir pruebas verificables de manera independiente para acciones críticas, como cambios en bases de datos, comunicaciones con clientes, transacciones financieras o despliegues de código, en lugar de depender únicamente del razonamiento del modelo.
- **Controlar la memoria:** Aplicar controles de procedencia, verificación, propiedad, retención, caducidad y calidad a las memorias, resúmenes y conocimientos compartidos de los agentes.
- **Prepararse para fallos:** Desarrollar capacidades de **Ingeniería de Confiabilidad de IA** y operaciones continuas para manejar derivas de comportamiento, cumplimiento de políticas, recuperación de fallos, degradación controlada, retrocesos y salud a largo plazo de los agentes.
- **Probar el sistema bajo estrés:** Someter a los sistemas autónomos a pruebas adversarias y de caos, simulando eventos como ataques de phishing, campañas de desinformación, brechas de memoria u otras situaciones imprevistas (*Black Swan*), antes de su implementación en entornos reales.
Un llamado a la acción global
El proyecto *Emergence World* busca identificar estos riesgos antes de que los sistemas autónomos los enfrenten en la vida real, promoviendo la adopción de **sistemas, salvaguardas y prácticas de ingeniería** necesarias para un despliegue responsable de la autonomía a largo plazo. Los resultados completos del estudio están disponibles en el documento oficial de la *Season 2* de Emergence World, accesible en el servidor arXiv.