Anthropic, sobre el uso de su IA en el ataque a escuela de niñas en Irán: «No cruza nuestras líneas rojas»

El uso de inteligencia artificial en el ataque del 28 de febrero contra la escuela primaria femenina de la ciudad de Minab, en el sur de Irán, no cruzó las líneas rojas de Anthropic, cuyo modelo Claude, según la prensa, habría servido a los militares estadounidenses para apuntar contra el blanco, declaró el director ejecutivo de la compañía, Dario Amodei.

Entrevistado por Bloomberg, fue preguntado si Claude desempeñó un papel en aquella masacre, que dejó 168 muertos, la mayoría de ellos niñas. «Eso de lo que usted está hablando es un caso que ni siquiera infringe nuestras líneas rojas«, respondió.

Al matizar que en Anthropic no saben con exactitud cómo se utilizaron esos modelos de IA, reconoció que «los errores que ocurren durante la guerra son realmente terribles» y señaló que estaban dispuestos a «arriesgar el futuro» de la empresa para limitar ciertos usos de su producto, preocupados porque el número de víctimas pudiera multiplicarse por 100.

«Diría que, por lo general, el uso de estos modelos es apropiado«, concluyó Amodei, remarcando que, aunque la IA brinde asistencia en el ámbito militar, es un humano quien toma la decisión final. «Fue un humano quien tomó aquella decisión, no Claude«, subrayó, en referencia al ataque contra la escuela de niñas iraní.

También indicó que Anthropic se opone a las armas y los sistemas de toma de decisiones totalmente autónomos e insiste en que en todo momento deben ser los humanos quienes dan la autorización final.

• Bloomberg reportó a principios de marzo que, en su ofensiva contra Irán, el Ejército de EE.UU. utilizó el ‘software’ de análisis y vigilancia de Palantir, que incorpora el modelo Claude de Anthropic.