Un pequeño grupo de usuarios no autorizados accedió al modelo de inteligencia artificial Mythos, de la empresa Anthropic, según una persona familiarizada con el asunto y documentos revisados por Bloomberg.
El acceso se produjo el mismo día en el que la compañía anunció un plan para ofrecer el modelo, una tecnología considerada lo suficientemente potente como para permitir ciberataques peligrosos, a un número limitado de firmas para realizar pruebas.
Un grupo de un foro privado obtuvo acceso y ha estado utilizando Mythos desde entonces, aunque no con fines de ciberseguridad, de acuerdo con la fuente. Anthropic ha asegurado que su nuevo modelo es demasiado potente para su lanzamiento público.
Dificultades de contención
El acceso no autorizado, que no se había reportado previamente, pone de manifiesto las dificultades para evitar que esta tecnología se extienda más allá de los socios que sí tienen permiso y plantea interrogantes sobre posibles usos indebidos por parte de terceros, indica el medio.
Un portavoz de la empresa ha señalado que están investigando informes sobre un acceso no autorizado al entorno de pruebas de Claude Mythos a través de un proveedor externo. Añadió que no hay pruebas de que el incidente haya afectado a los sistemas de Anthropic ni de que haya salido de ese entorno.
En opinión del informante citado, la agrupación que accedió al modelo busca experimentar con nuevas herramientas sin causar daños. No ha utilizado indicaciones relacionadas con la ciberseguridad, sino que ha optado por tareas como crear sitios web sencillos para evitar ser detectada por la compañía.
Acceso exclusivo
Debido al supuesto poder de la herramienta, la firma ha restringido su uso a un grupo selecto de proveedores de ‘software’ en el marco de una iniciativa denominada Project Glasswing.
Hasta ahora, corporaciones como Apple, Amazon y Cisco Systems, junto con decenas de organizaciones, han comenzado a probar el modelo. Amazon también lo ofrece a través de su plataforma Bedrock a una lista limitada de entidades aprobadas.
En los últimos días, un número creciente de instituciones financieras y agencias gubernamentales a ambos lados del Atlántico ha solicitado acceso anticipado para evaluar sus sistemas frente a posibles amenazas.
LO ROJO Y AZUL – CNP 25.973
https://actualidad.rt.com/actualidad/600721-usuarios-autorizados-acceder-ia-demasiado?utm_source=rss&utm_medium=rss&utm_campaign=all
