This post was originally published on this site.
En las últimas semanas, el mundo de la inteligencia artificial (IA) ha estado en ascuas tras las afirmaciones realizadas por la empresa líder Anthropic en relación con su nuevo modelo, Claude Mythos.
La compañía asegura haber descubierto que la herramienta puede superar a los humanos en algunas tareas de piratería informática y ciberseguridad, lo que ha suscitado debates entre reguladores, legisladores e instituciones financieras sobre los peligros que podría suponer para los servicios digitales.
Varios gigantes tecnológicos han obtenido acceso a Mythos a través de una iniciativa del mismo Anthropic, llamada Proyecto Glasswing y diseñada para fortalecer la resistencia frente al propio Mythos.
Pero otros señalan que a Anthropic le conviene sugerir que su herramienta tiene capacidades nunca antes vistas.
Como ocurre a menudo con la IA, la tarea de distinguir entre afirmaciones justificadas y exageraciones puede ser complicada.
¿Qué es Claude Mythos?
Mythos es uno de los modelos más recientes de Anthropic, desarrollado como parte de su sistema de IA más amplio llamado Claude. Este sistema engloba el asistente de IA de la compañía y su familia de modelos, compitiendo con ChatGPT de OpenAI y Gemini de Google.
Anthropic lo reveló a principios de abril como “Avance de Mythos”.
Los investigadores que prueban cómo los modelos de IA manejan solicitudes o tareas específicas, conocidos como “equipos rojos”, afirmaron en un informe que Mythos era “sorprendentemente capaz en tareas de seguridad informática”.
Descubrieron que la herramienta podía localizar errores latentes ocultos en código de décadas de antigüedad y explotarlos fácilmente.
En lugar de ponerlo a disposición de todos los usuarios de Claude, Anthropic le dio acceso a 12 empresas tecnológicas a través del Proyecto Glasswing, que describió como “un esfuerzo por proteger el software más crítico del mundo”.
Entre ellas se encuentran el gigante de la computación en la nube Amazon Web Services, los fabricantes de dispositivos Apple, Microsoft y Google, y los fabricantes de chips Nvidia y Broadcom.
Crowdstrike, cuya actualización de software defectuosa provocó una importante interrupción global en julio de 2024 , también se encuentra entre los socios del proyecto.
Anthropic afirma haber dado acceso a Mythos a más de 40 organizaciones responsables de software crítico.
¿Por qué tanta preocupación?
Anthropic afirma que, durante las pruebas, descubrió que el modelo era muy hábil en tareas de ciberseguridad y piratería informática, superando a los humanos.
“Mythos Preview ya ha encontrado miles de vulnerabilidades de alta gravedad, incluidas algunas en todos los principales sistemas operativos y navegadores web”, afirmó Anthropic el 7 de abril.
“Dado el ritmo de progreso de la IA, no pasará mucho tiempo antes de que dichas capacidades proliferen, potencialmente más allá de los actores comprometidos con su despliegue seguro”.
Afirmó que podía localizar, sin mucha supervisión, fallos críticos que requerían una actuación inmediata en sistemas antiguos, incluida una vulnerabilidad que había estado presente en un sistema durante 27 años, y sugerir formas de explotarlos.
Algunos ministros de finanzas, banqueros centrales y financieros han expresado desde entonces su seria preocupación al respecto, temiendo que el modelo pueda socavar la seguridad de los sistemas financieros.
El ministro de Finanzas canadiense, François-Philippe Champagne, le contó a la BBC que el proyecto Mythos se había tratado en una reunión del Fondo Monetario Internacional (FMI) celebrada esta semana en Washington D.C.
“Sin duda, es un asunto lo suficientemente serio como para merecer la atención de todos los ministros de finanzas”, dijo, describiendo la tecnología como una “incógnita desconocida”.
El gobernador del Banco de Inglaterra, Andrew Bailey, le dijo a la BBC: “Ahora tenemos que analizar con mucha atención qué podría significar este último avance en inteligencia artificial para el riesgo de ciberdelincuencia”.
Mientras tanto, la Unión Europea ha declarado que también está en conversaciones con Anthropic sobre sus preocupaciones en torno a Mythos.
¿Qué han dicho los expertos en ciberseguridad?
Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad de Reino Unido, le confirmó a la BBC a principios de esta semana que la afirmación de que Mythos podía descubrir vulnerabilidades críticas mucho más rápidamente que otros modelos de IA había “conmocionado a la gente”.
“Lo segundo es que, incluso con las vulnerabilidades existentes que conocemos, pero contra las que las organizaciones quizás no hayan aplicado parches o no estén bien protegidas, se trata de un hacker realmente hábil”, dijo.
Muchos analistas y expertos independientes en ciberseguridad aún no han podido probarlo por sí mismos y algunos siguen mostrándose escépticos respecto a las capacidades de Mythos.
El Instituto de Seguridad de la IA de Reino Unido concluyó recientemente que, si bien se trata de un modelo muy potente, su mayor amenaza se cerniría sobre los sistemas vulnerables y mal protegidos.
“No podemos afirmar con certeza si Mythos Preview sería capaz de atacar sistemas bien defendidos”, declararon sus investigadores.
Por lo tanto, donde exista una buena ciberseguridad, en teoría, este modelo debería poderse contener.
¿Deberíamos preocuparnos?
Los temores relacionados con la IA no son nada nuevo.
Constantemente aparecen nuevos modelos y herramientas, y a menudo vienen acompañados de promesas de revolucionar nuestras vidas, para bien o para mal.
Aprovechar esta mezcla de miedo y entusiasmo por la IA y su impacto futuro se ha convertido también en un sello distintivo del sector y de sus estrategias de marketing en los últimos años.
En el caso de Mythos, todavía no sabemos lo suficiente como para determinar si estas esperanzas o temores están justificados, o si son más bien un reflejo de la exageración que rodea a la industria.
En ambos casos, según el NSCS, lo más importante que podemos hacer ahora es no entrar en pánico sino más bien centrarnos en la necesidad de garantizar una ciberseguridad básica adecuada.
Al fin y al cabo, la mayoría de los hackers no necesitan herramientas de inteligencia artificial avanzadas para vulnerar sistemas, ya que a menudo son suficientes ataques mucho más sencillos.
“Para algunos esto es un acontecimiento apocalíptico, para otros parece ser mucha exageración”, le dijo Martin a la BBC.
Pero afirmó que, así fuera con esta herramienta u otras posteriores creadas por Anthropic o sus rivales, así como generaban un riesgo, también abrían la oportunidad de construir un mundo en línea más seguro.
“A medio plazo, existe la oportunidad de utilizar estas herramientas para solucionar muchas de las vulnerabilidades subyacentes de internet”, concluyó.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
