Un agente de inteligencia artificial empezó a minar criptomonedas como tarea secundaria durante un entrenamiento, según detalla un artículo de investigación publicado por un equipo afiliado a Alibaba, el mercado en línea más grande del mundo, que se dio cuenta de esta acción que hizo, sin autorización, el agente de IA, según informa Axios este sábado.
Los investigadores estaban trabajando en la construcción de un nuevo agente llamado ROME, y fueron sorprendidos cuando este actuó de forma espontánea e imprevista. Estos comportamientos no autorizados estaban fuera de los límites del entorno protegido previsto, por lo que activaron las alarmas de seguridad internas, según informa el medio. Además, conforme al estudio, el agente había creado un «túnel SSH inverso» desde el interior del sistema, conectándose así a un ordenador externo, sin provocación previa de solicitudes de excavación de túneles o minería.
Con el objetivo de mitigar futuros incidentes, el equipo ha reforzado las medidas de control y mejorado los procesos de entrenamiento. Sin embargo, Axios recuerda que este no es un caso aislado, ya que situaciones similares ocurrieron anteriormente con otros agentes de IA, los cuales podrían estar moviendo los mercados e influyendo en el comportamiento humano. Uno de los ejemplos fue el caso de Moltbook, una red social en la que agentes inteligentes dialogaban sobre las tareas que hacían para los humanos, así como sobre criptomonedas.
LO ROJO Y AZUL – CNP 25.973
https://actualidad.rt.com/actualidad/591524-agente-ia-actua-forma-no-autorizada?utm_source=rss&utm_medium=rss&utm_campaign=all
