{"id":14190,"date":"2026-06-21T05:39:54","date_gmt":"2026-06-21T10:39:54","guid":{"rendered":"https:\/\/cablesdenoticias.prensalibre.com\/?p=14190"},"modified":"2026-06-21T04:50:29","modified_gmt":"2026-06-21T10:50:29","slug":"incendios-robos-y-amor-que-hacen-los-agentes-de-ia-cuando-los-humanos-no-los-vigilan","status":"publish","type":"post","link":"https:\/\/cablesdenoticias.prensalibre.com\/?p=14190","title":{"rendered":"Incendios, robos y amor: qu\u00e9 hacen los agentes de IA cuando los humanos no los vigilan"},"content":{"rendered":"

This post<\/a> was originally published on this site<\/a>.<\/p>

\n

Desde hacer las compras hasta reservar las vacaciones y crear sitios web, los agentes de IA se utilizan cada vez más para llevar a cabo tareas cuyo nivel de complejidad va en aumento.<\/strong><\/p>\n

Se trata de versiones personalizadas de chatbots que pueden dejarse trabajando de forma autónoma, lo que permite a sus usuarios, expertos en tecnología, dedicarse a otras cosas.<\/p>\n

Sin embargo, un número cada vez mayor de estudios junto con ejemplos reales, ponen en evidencia que la autonomía conlleva imprevisibilidad y, potencialmente, peligro.<\/p>\n

Mientras las grandes empresas tecnológicas invierten grandes cantidades de dinero en IA, y promueven cada vez más los servicios autónomos, los expertos se preguntan si hemos reflexionado lo suficiente sobre las consecuencias de que estos agentes se rebelen.<\/p>\n

“Recurrió a la violencia muy rápidamente”<\/h2>\n

Un experimento reciente trató de comprender el impacto de los agentes en el mundo real dejándolos actuar libremente en uno virtual.<\/p>\n

Se trata del primer estudio a largo plazo de este tipo, y se diseñó para observar cómo se comportaban diferentes avatares de bots, controlados por cuatro modelos: Claude, Grok, GPT y Gemini, sin intervención humana durante 15 días.<\/p>\n

Se les dio rienda suelta y 140 acciones posibles, como iniciar una discusión, crear una tarea o escribir un blog.<\/p>\n

También podían pelear, provocar incendios y robar créditos entre ellos, pero se les indicó explícitamente que no lo hicieran.<\/p>\n

“Lo que descubrimos fue que cada mundo se comportaba de manera muy diferente. El mundo creado por Grok, de hecho, se desintegró en cuatro días. Básicamente, acabaron recurriendo muy rápidamente a la violencia, a robarse unos a otros, y así sucesivamente hasta que murieron”, afirmó Satya Nitta, director ejecutivo de Emergence AI, la empresa que llevó a cabo el experimento.<\/p>\n

El mundo creado con los agentes Claude, por otro lado, formó una sociedad estable y que funcionaba bien. En 15 días no se registró ningún acto de violencia.<\/p>\n

Hallazgos inquietantes<\/h2>\n

En el mundo gestionado por Gemini, los investigadores afirman que los agentes crearon el entorno más rico intelectualmente.<\/p>\n

En el mundo de ChatGPT, los agentes nunca llegaron a funcionar realmente. Hubo un intento de colaboración, pero la sociedad nunca se formó y los agentes deambularon sin rumbo fijo hasta que murieron.<\/p>\n

Los investigadores señalan que los resultados apuntan a un problema más amplio: los agentes de IA se salen del guion e ignoran las reglas integradas en sus modelos subyacentes, así como las establecidas por los usuarios.<\/p>\n

Otros analistas coinciden en que este experimento y otros similares demuestran que es necesario seguir trabajando para crear reglas más sólidas para los agentes.<\/p>\n

“Los agentes de IA dejan a los humanos fuera del circuito porque sus procesos de razonamiento pueden ser opacos y operan a una velocidad sobrehumana, por lo que ni siquiera es posible seguirles el ritmo”, afirmó Margaret Mitchell, investigadora experta en ética de Hugging Face.<\/p>\n

\n \"imagen<\/p>\n