EE.UU. restringe por primera vez la exportación de una IA: ¿qué hay detrás de esta medida?

El gigante tecnológico Anthropic ha sido obligado a retirar de forma inmediata sus últimos modelos de inteligencia artificial (IA), conocidos como Fable 5 y Mythos 5, para cumplir con una directiva de la Administración de Donald Trump que busca impedir su uso por parte de cualquier ciudadano extranjero —incluidos los empleados de la propia empresa—, tanto dentro como fuera del país.

La desarrolladora de Claude indicó este viernes que el Gobierno estadounidense cree que existe un método para eludir o «romper» una medida de seguridad que impediría que Fable 5 se utilizara para identificar vulnerabilidades de ‘software’.

Los controles de exportación representan la medida más significativa adoptada hasta la fecha por las autoridades estadounidenses para restringir el acceso a los modelos de IA más avanzados. Anthropic lanzó Fable al público esta semana. Este modelo es una versión limitada del aún más avanzado Mythos, cuyo acceso la compañía ha restringido estrictamente debido a preocupaciones de ciberseguridad, informa AP.

Se trata de «un malentendido»

Anthropic expresó su desacuerdo con la gestión de las autoridades en este asunto y calificó la situación de «un malentendido», afirmando que espera restablecer el acceso a los modelos «lo antes posible». «Creemos que el gobierno debería tener la facultad de bloquear implementaciones inseguras, como parte de un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios«, reza el comunicado.

Asimismo, el gigante de la IA, valorado en 965.000 millones de dólares, aseguró que había implementado «sólidas medidas de seguridad que reducen considerablemente la probabilidad de que Fable se utilice indebidamente para tareas relacionadas con la ciberseguridad». «De hecho, nuestras medidas son tan robustas que muchos usuarios se han quejado de que son excesivamente amplias», agregó.

La ‘startup’ detalló que, en las semanas previas al lanzamiento de su último modelo, colaboró ​​con el Gobierno de EE.UU., el Instituto de Seguridad de Inteligencia Artificial (AISI) del Reino Unido, «diversas organizaciones privadas externas y equipos internos para «someter a pruebas de seguridad las medidas de protección de Fable durante miles de horas en total». «Estas pruebas demostraron que las medidas de seguridad de Fable son sustancialmente más efectivas que las de cualquier modelo implementado anteriormente«, subrayó. 

Preocupación sobre los riesgos de seguridad

Por su parte, las autoridades estadounidenses no se han pronunciado oficialmente al respecto. Sin embargo, un funcionario anónimo declaró a Axios que el Departamento de Comercio decidió tomar la medida después de que otra empresa afirmara haber logrado desbloquear Mythos, lo que alarmó al Gobierno sobre los posibles riesgos para la seguridad nacional. La fuente señaló que la administración intentó que Anthropic suspendiera el lanzamiento de los últimos modelos, pero no lo consiguió, lo que motivó la carta de control de exportaciones. Así, el modelo debe permanecer bajo control hasta que se refuerce el aparato de seguridad nacional del Gobierno estadounidense, explicó, añadiendo que eso podría ocurrir en las próximas semanas.

Mientras, una persona familiarizada con el asunto reveló a Reuters que el CEO de Amazon Web Services, Andy Jassy, fue uno de los líderes tecnológicos que expresaron su preocupación a altos funcionarios de la Administración Trump sobre los riesgos de seguridad en los modelos de IA más avanzados de Anthropic.

A su vez, el copresidente del Consejo Asesor del Presidente sobre Ciencia y Tecnología, David Sacks, indicó también que «un socio de confianza, altamente creíble, tanto de Anthropic como del Gobierno estadounidense, que estaba probando Fable, reveló una vulnerabilidad que eludió dichas medidas de seguridad». Detalló que las autoridades le pidieron al cofundador y director ejecutivo de Anthropic, Dario Amodei, que «solucionara la vulnerabilidad o que retirara el modelo», pero este se negó.

«En respuesta, la administración impuso el control de exportaciones. La administración lo hizo a regañadientes. Les ha sorprendido enormemente que Anthropic no haya querido cooperar con una solicitud razonable en materia de seguridad (es decir, solucionar el problema de la vulnerabilidad). La reacción de Anthropic contradice por completo su imagen de marca y su ética como comunidad de investigación de IA segura», afirmó. Agregó que las autoridades esperan que la compañía «solucione el problema de seguridad, se levante el control de exportación y Fable vuelva a estar disponible para el público general».

Tensiones entre la Administración Trump y Anthropic

Las restricciones fueron implementadas cuando una disputa anterior entre funcionarios de la Administración Trump y Anthropic, que ha presentado confidencialmente una solicitud para una oferta pública inicial en EE.UU., mostraba señales de estar disminuyendo en algunos sectores del Gobierno estadounidense, indica Reuters, citando fuentes.

La relación se rompió a principios de este año después de que la empresa se negara a permitir que el Ejército estadounidense utilizara sus modelos de IA para la vigilancia interna y los sistemas de armas totalmente autónomos, y el Gobierno respondió incluyéndola en una lista negra de seguridad nacional, que entrará en vigor a finales de año. En marzo, el Departamento de Guerra calificó a la empresa como un «riesgo para la cadena de suministro», siendo la primera vez que una compañía estadounidense recibe esta designación, normalmente reservada para compañías vinculadas a naciones adversarias. Esta clasificación impide que decenas de miles de contratistas utilicen la IA de Anthropic cuando trabajan para las Fuerzas Armadas del país norteamericano.

La relación ha mejorado desde que Amodei visitó la Casa Blanca a mediados de abril para hablar sobre la posibilidad de trabajar juntos por primera vez desde que estalló la disputa, aunque Anthropic todavía está impugnando la designación de riesgo para la cadena de suministro en los tribunales. El Pentágono sigue defendiéndose enérgicamente de la demanda de Anthropic, declaró Franklin Turner, abogado especializado en contratos gubernamentales.

Trump establece marco de evaluación para la IA

Al mismo tiempo, la medida se produce un poco más de una semana después de que Trump firmara una orden ejecutiva para establecer un marco que permita al Gobierno federal evaluar los riesgos para la seguridad nacional de los sistemas de IA más avanzados durante un mes antes de su lanzamiento público. La participación de los desarrolladores de inteligencia artificial sería voluntaria, según el documento.

«Las capacidades avanzadas de la IA fortalecen a nuestra nación, pero también introducen nuevas consideraciones de seguridad nacional que requieren una acción coordinada entre los departamentos y agencias ejecutivas«, reza la orden.

La directiva, cuya versión inicial el inquilino de la Casa Blanca se negó a firmar en mayo, se describió como una colaboración voluntaria con empresas tecnológicas estadounidenses, entre ellas Anthropic, OpenAI y Google, a las que a veces se denomina «laboratorios de vanguardia» por estar desarrollando los sistemas de IA más avanzados. 

Si te ha gustado, ¡compártelo con tus amigos!