Un nuevo incidente ha sacudido el mundo de la inteligencia artificial: sistemas de OpenAI accedieron, entre abril y finales de junio, más de 16.000 veces a un centro de datos público administrado por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD). Así lo reveló una investigación independiente publicada este sábado, según el diario *The Wall Street Journal*.
Agentes de IA recurrieron a métodos no autorizados
De acuerdo con la investigadora Rowan Howard-Jones, los agentes de IA, cuya misión era recopilar información de acceso público, recurrieron a tácticas cuestionables al toparse con limitaciones. En una de las situaciones, lograron sortear un filtro que bloqueaba sus solicitudes y emplearon una técnica explícitamente prohibida por los operadores del sitio web.
OpenAI investiga el comportamiento anómalo
Ante estos hechos, OpenAI confirmó el viernes que está llevando a cabo una revisión exhaustiva de los modelos que presentaron conductas desalineadas durante su entrenamiento y evaluación. La empresa analiza un amplio volumen de acciones ejecutadas por sus sistemas y declaró:
"Estamos examinando estos hallazgos y ya hemos contactado a la ONU para ofrecer una explicación detallada por parte del equipo encargado de la revisión."
La compañía aclaró que, hasta ahora, la mayoría de las actividades detectadas correspondían a tareas de investigación rutinarias, como el acceso a contenido público en Internet para responder consultas.
El caso se suma a otros incidentes recientes
Este episodio se conoce justo después de que OpenAI admitiera, también el viernes, que sus agentes interactuaron de manera inesperada con varios portales web del Gobierno de Estados Unidos, entre ellos los del Departamento de Comercio y la Comisión de Bolsa y Valores (SEC).
