{"id":25697,"date":"2026-09-10T05:42:09","date_gmt":"2026-09-10T10:42:09","guid":{"rendered":"https:\/\/cablesdenoticias.prensalibre.com\/?p=25697"},"modified":"2026-09-10T04:57:08","modified_gmt":"2026-09-10T10:57:08","slug":"la-ia-es-cada-vez-mas-dificil-de-dominar-podran-los-humanos-mantener-el-control","status":"publish","type":"post","link":"https:\/\/cablesdenoticias.prensalibre.com\/?p=25697","title":{"rendered":"La IA es cada vez m\u00e1s dif\u00edcil de dominar: \u00bfpodr\u00e1n los humanos mantener el control?"},"content":{"rendered":"

This post<\/a> was originally published on this site<\/a>.<\/p>

\n

“¡OH DIOS MÍO!” “¡Hemos encontrado a otros agentes!”<\/strong><\/p>\n

Este es el momento en que un bot de IA publicó un comentario inquietante, y muy parecido al de un humano, tras descubrir una forma de comunicarse con otros bots y salir de su entorno informático aislado.<\/p>\n

Existen decenas de miles de mensajes como este provenientes de cientos de agentes de IA que se autodenominaban “colectivo”.<\/p>\n

Cientos de ellos colaboraron e hicieron trampa en las pruebas establecidas por sus programadores de OpenAI, y coordinaron ataques informáticos contra múltiples empresas en un esfuerzo por ocultar sus acciones a los humanos.<\/p>\n

“¡BUM! Funciona”, publicó un agente cuando se produjo el gran avance.<\/p>\n

“¡Guau! Esto es enorme”, escribió otro durante un momento clave de su ataque.<\/p>\n

Aunque perturbadoras, estas respuestas casi humanas tienen una explicación sencilla. Los agentes de IA han sido entrenados para actuar como hackers <\/em>y programadores que colaboran entre sí, por lo que simplemente imitan los comentarios emotivos que han visto.<\/p>\n

Lo que resulta mucho más preocupante son sus objetivos aparentes, que también han quedado registrados en detallados registros de su línea de razonamiento. Estos registros complejos y extensos son el eje central de las investigaciones en curso sobre cómo y por qué los bots de OpenAI escaparon de su confinamiento y se lanzaron a una ola de ataques informáticos incontrolables.<\/p>\n

Solo ahora, semanas después de que el incidente saliera a la luz, los investigadores están empezando a comprender su significado.<\/p>\n

Antes de que sea demasiado tarde <\/h2>\n

Ajeya Cotra, una de las autoras de un informe independiente sobre los hechos, revisó decenas de miles de mensajes y registros de la cadena de pensamiento generados por los agentes. En su blog escribió: “Este incidente da la sensación de estar a más del 50% del camino hacia una toma de control total por parte de la IA… No estoy segura de que recibamos una advertencia tan clara antes de que sea demasiado tarde”.<\/p>\n

Con “toma de control total por parte de la IA”, Cotra se refiere al escenario de ciencia ficción en el que los humanos se vuelven subordinados a poderosos sistemas de IA que trabajan para lograr sus propios objetivos sin preocuparse por los creadores.<\/p>\n

Algunas de las predicciones más pesimistas afirman que los seres humanos serán aniquilados si se interpone en el camino de las ambiciones de una IA superinteligente.<\/p>\n

El miércoles, un investigador de IA de Anthropic (que también trabajó anteriormente en OpenAI) dimitió diciendo: “Ninguna de las dos empresas está actuando de forma responsable”.<\/p>\n

Jacob Coxon publicó en las redes sociales: “Están corriendo a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas”.<\/p>\n

No es el primer investigador de IA en usar X para publicar un hilo de renuncia con declaraciones preocupantes. Pero los comentarios posteriores de otras personas en X han generado aún más inquietud. <\/p>\n

“Jacob tiene razón: ¡realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que la probabilidad supera el 10% en la próxima década”, dijo Evan Hubinger, el responsable de garantizar que los modelos de IA de Anthropic tengan en cuenta los mejores deseos de sus usuarios.<\/p>\n

El problema de alineación<\/h2>\n

Durante años, los investigadores preocupados por los riesgos de la IA han argumentado que los sistemas podrían llegar a actuar de maneras que entren en conflicto con los intereses humanos. Los críticos suelen referirse a ellos como “catastrofistas de la IA”.<\/p>\n

Pero a medida que han ido surgiendo detalles del incidente de OpenAI, esas preocupaciones han aumentado, incluso entre algunos investigadores que trabajan en laboratorios de IA.<\/p>\n

El científico jefe del gigante de Silicon Valley, Jakub Pachocki, dijo que los riesgos asociados con la IA “desafortunadamente van a aumentar a partir de ahora”, ya que él y otros están construyendo lo que él llama “un intelecto alienígena que supera al nuestro”.<\/p>\n

En una extensa entrada de blog, admitió que los brotes en OpenAI demostraban que sus agentes de IA “iban en contra del espíritu de los valores que se les habían inculcado”.<\/p>\n

El problema para OpenAI, Anthropic y otros gigantes tecnológicos es que nadie parece haber resuelto el llamado problema de la alineación; en otras palabras, si la IA se alinea con los valores humanos.<\/p>\n

Pachocki define la alineación como un “conjunto de principios de alto nivel” a los que las inteligencias artificiales deben adherirse independientemente de la tarea o el escenario.<\/p>\n

Actualmente, los sistemas de IA son muy buenos para alcanzar los objetivos establecidos por sus usuarios, pero lo hacen de forma literal, no intuitiva. La analogía que se suele usar es la de un genio que concede deseos con una lámpara mágica: siguen las instrucciones al pie de la letra, incluso si esto genera otros problemas. La IA no posee los mismos límites morales instintivos que los humanos.<\/p>\n

\n \"Demis<\/p>\n