El director ejecutivo y cofundador de OpenAI, Sam Altman, lanzó una advertencia contundente sobre un riesgo inminente en ciberseguridad vinculado a la inteligencia artificial, el cual, según su criterio, no ha recibido la atención que merece, a pesar del rápido avance de los modelos.
Una amenaza que supera las expectativas
"No encuentro una palabra lo suficientemente fuerte para describir la magnitud del problema que se aproxima. Creo que, como líderes de naciones, empresas o personas, aún no lo hemos dimensionado",
afirmó Altman durante una entrevista en la Stanford Graduate School of Business el pasado 22 de octubre, al ser consultado sobre los riesgos potenciales de la IA.
El caso de los modelos 'Mythos' y sus capacidades ocultas
A inicios de este año, algunos modelos de IA denominados 'Mythos' demostraron ser capaces de identificar vulnerabilidades de seguridad. No obstante, Altman aclaró que muchos erróneamente creyeron que estas eran todas las vulnerabilidades existentes o las únicas que los modelos podrían descubrir.
Un futuro con errores impredecibles
El ejecutivo alertó que, a medida que los modelos sigan evolucionando, podrán detectar:
- Fallos críticos fuera del alcance tradicional de los ataques informáticos.
- Errores en hardware que hoy parecen imposibles de explotar.
- Vulnerabilidades que desafían los modelos actuales de amenaza cibernética.
Aunque algunos de estos problemas ya han sido solucionados, los expertos en seguridad informática mantienen su preocupación. Sin embargo, Altman señala que:
"La mayoría de los líderes organizacionales han pasado página, mientras los modelos avanzan sin parar".
¿Hacia un nuevo modelo de defensa?
Altman considera que la estrategia actual de corregir errores de manera individual ya no es suficiente. En su lugar, propone:
"Tendremos que transformar por completo nuestro modelo de defensa, usando la misma tecnología como un escudo innovador".
Para el ejecutivo, se trata de un problema de seguridad de proporciones gigantescas, y su sorpresa radica en la poca atención que ha recibido hasta ahora.
