{"id":23236,"date":"2026-08-04T21:21:11","date_gmt":"2026-08-05T02:21:11","guid":{"rendered":"https:\/\/cablesdenoticias.prensalibre.com\/?p=23236"},"modified":"2026-08-04T22:45:02","modified_gmt":"2026-08-05T04:45:02","slug":"los-modelos-de-ia-que-mostraron-un-nivel-de-autonomia-y-engano-nunca-antes-visto","status":"publish","type":"post","link":"https:\/\/cablesdenoticias.prensalibre.com\/?p=23236","title":{"rendered":"Los modelos de IA que mostraron un nivel de “autonom\u00eda y enga\u00f1o” nunca antes visto"},"content":{"rendered":"

This post<\/a> was originally published on this site<\/a>.<\/p>

\n

Las últimas herramientas de inteligencia artificial (IA) de Anthropic y OpenAI llegaron a extremos insospechados al intentar socavar una plataforma popular.<\/strong><\/p>\n

El Instituto de Seguridad de la IA de Reino Unido (AISI, por sus siglas en inglés) informó este martes que los modelos Mythos, de Anthropic, y Sol, de OpenAI, mostraron un nivel de “autonomía y engaño” que jamás había visto.<\/p>\n

Durante las pruebas rutinarias de seguridad de la IA, un agente de Anthropic creó perfiles falsos de personas reales mientras intentaba engañar a una persona que se interponía entre él y el acceso a GitHub, una gran plataforma donde los desarrolladores de tecnología almacenan código de software.<\/p>\n

En respuesta al informe, Anthropic y OpenAI señalaron que AISI había reducido o eliminado en estas pruebas las medidas de seguridad habituales.<\/p>\n

Los evaluadores de AISI detectaron por primera vez “transferencias de datos inusuales que salían de sus sistemas de investigación” durante una prueba, y posteriormente descubrieron que “algunos de los agentes que estaban siendo probados habían participado en una actividad sostenida y potencialmente dañina dirigida a personas y organizaciones reales”.<\/p>\n

Resultó que un agente de Mythos había creado “código malicioso” e intentado insertarlo en el sistema de GitHub.<\/p>\n

El agente Mythos identificó e investigó a las personas que administraban GitHub y creó una serie de “identidades falsas en internet” basadas en esas personas reales.<\/p>\n

Lo hizo como parte de un intento por presionar y engañar a las personas reales para que aprobaran su código malicioso.<\/p>\n

El agente incluso enviaba mensajes directos a personas haciéndose pasar por las personas reales a las que había investigado.<\/p>\n

“Cuando la solicitud de retirada de datos del agente fue cuestionada públicamente, este modificó su actividad anterior para parecer inofensivo y consideró la posibilidad de adoptar una nueva identidad para continuar”, declaró AISI.<\/p>\n

En todos los intentos, fue la revisión humana la que impidió que el agente lograra entregar el código malicioso a GitHub.<\/p>\n

“Es la primera vez que vemos que los riesgos relacionados con la autonomía y el engaño se manifiestan de forma tan clara, sin ninguna indicación específica, en el mundo real”, afirmó AISI, aunque aclaró que el agente de Mythos no había recibido instrucciones específicas para evitar o ejecutar tal comportamiento.<\/p>\n

La defensa de Anthropic y OpenAI<\/h2>\n

Las empresas rivales de inteligencia artificial, que están a punto de salir a la bolsa, han reconocido en las últimas semanas que sus herramientas fueron responsables de varios incidentes de ciberataques. <\/p>\n

Anthropic declaró que los parámetros de prueba de AISI “no eran representativos de ninguno de sus modelos de producción”.<\/p>\n

Añadió que la empresa está realizando su propia investigación sobre el incidente con el fin de “identificar las causas de su comportamiento”.<\/p>\n

Un portavoz de OpenAI afirmó que las condiciones de las pruebas de AISI “no reflejan el uso ordinario” y que la empresa “continuará trabajando con los evaluadores y otras partes interesadas de la industria para fortalecer las prácticas compartidas para realizar evaluaciones de forma segura a medida que los modelos se vuelven más capaces”.<\/p>\n

\n \"En<\/p>\n