Blog

Théodore recuerda la chapucera fotografía de la IA que lo dejó perplejo.

La imagen mostraba a dos niños del sur de Asia, demacrados y pobres. Por alguna razón, a pesar de sus rasgos infantiles, lucían barbas espesas. Uno de ellos no tenía manos y solo tenía un pie. El otro sostenía un cartel que decía “es mi cumpleaños” y pedía un “me gusta”.

Inexplicablemente, estaban sentados en medio de una calle transitada bajo una lluvia torrencial con un pastel de cumpleaños con velas. La imagen estaba llena de indicios de que fue creada con IA. Pero en Facebook se volvió viral con casi un millón de “me gusta” y emojis de corazón.

Algo se encendió en Théodore.

“Me quedé atónito. Las absurdas imágenes creadas con IA estaban por todo Facebook y estaban teniendo una gran repercusión sin que nadie se fijara en ellas. Me pareció una locura”, dice el estudiante parisino de 20 años.

Así que abrió una cuenta en X llamada “Insane AI Slop” y empezó a criticar y burlarse del contenido que engañaba a la gente.

Otros se dieron cuenta y su bandeja de entrada pronto se llenó de mensajes de personas enviando propuestas para supuestas “basuras de IA”.

Los temas comunes comenzaron a hacerse evidentes: religión, militares o niños pobres haciendo cosas conmovedoras.

“Los niños del tercer mundo haciendo cosas impresionantes siempre son populares, como un niño pobre en África que construye una estatua increíble con basura. Creo que a la gente le parece bien, así que los creadores piensan: ‘Genial, hagamos más de esto’”, dice Théodore.

La cuenta de Théodore pronto alcanzó más de 133.000 seguidores.

La avalancha de basura de la Inteligencia Artificial —que él define como vídeos e imágenes falsos, poco convincentes y creados rápidamente— es ahora imparable.

Las empresas tecnológicas han adoptado la IA y algunas afirman están empezando a tomar medidas enérgicas contra algunas formas de “basura”, aunque las redes sociales parecen seguir repletas de este contenido.

En tan solo un par de años, la experiencia de usar las redes sociales ha cambiado profundamente. ¿Cómo sucedió y qué efecto tendrá en la sociedad? Y, quizás lo más urgente de todo: ¿cuánto les importa realmente a los miles de millones de usuarios de las redes sociales?

La “tercera fase” de las redes sociales

En octubre, durante otra eufórica presentación de resultados, el director ejecutivo de Meta, Mark Zuckerberg, declaró con alegría que las redes sociales habían entrado en una tercera fase, ahora centrada en la IA.

“La primera fue cuando todo el contenido provenía de amigos, familiares y cuentas que seguías directamente. La segunda fue cuando añadimos todo el contenido de los creadores. Ahora que la IA facilita la creación y remezcla de contenido, vamos a añadir otro enorme corpus de contenido”, declaró a los accionistas.

Meta, que gestiona las redes sociales Facebook, Instagram y Threads, no solo permite publicar contenido generado por IA, sino que también ha lanzado productos para facilitar su creación. Generadores de imágenes y vídeos, así como filtros cada vez más potentes, se ofrecen ahora de forma generalizada.

Contactada para que hiciera comentarios, Meta envió a la BBC la conferencia de resultados de enero. En dicha conferencia, el multimillonario afirmó que la empresa se estaba inclinando aún más hacia la IA y no mencionó ninguna medida drástica contra la basura.

“Pronto veremos una explosión de nuevos formatos multimedia más inmersivos e interactivos, posibles solo gracias a los avances en IA”, declaró Zuckerberg.

El director ejecutivo de YouTube, Neal Mohan, escribió en su blog de previsión para 2026 que, tan solo en diciembre, más de un millón de canales de YouTube utilizaron las herramientas de IA de la plataforma para crear contenido.

“Al igual que el sintetizador, Photoshop y la CGI revolucionaron el sonido y las imágenes, la IA será una bendición para los creativos que estén listos para involucrarse”, escribió.

El director ejecutivo también reconoció la creciente preocupación por el “contenido de baja calidad, también conocido como basura de IA”. Añadió que su equipo está trabajando en formas de mejorar los sistemas para detectar y eliminar “contenido repetitivo y de baja calidad”.

Pero también descartó emitir juicios sobre qué debería o no permitirse que prospere. Señaló que contenido que antes era de nicho, como el ASMR (sonidos relajantes diseñados para provocar un hormigueo en la cabeza) y los videojuegos en vivo, ahora son populares.

Según un estudio de la empresa de inteligencia artificial Kapwing, el 20% del contenido que se muestra en una cuenta de YouTube recién creada ahora es “vídeo de IA de baja calidad”.

Los vídeos cortos, en particular, fueron un éxito, ya que Kapwing los encontró presentes en 104 de los primeros 500 clips de YouTube Shorts mostrados en una nueva cuenta creada por los investigadores.

La economía de los creadores parece ser un gran impulsor, ya que los creadores de contenido y los canales pueden generar ingresos gracias a la interacción y las visualizaciones.

A juzgar por las visualizaciones en algunos canales y vídeos de IA, la gente se siente atraída por el contenido, o al menos, por los algoritmos que dictan lo que vemos.

Según Kapwing, el canal de contenido basura sobre IA con más visualizaciones es Bandar Apna Dost, de India, con 2.070 millones de visualizaciones, lo que genera a sus creadores unas ganancias anuales estimadas en US$4 millones.

Sin embargo, también se está produciendo una reacción negativa.

Bajo muchos vídeos virales de IA, es habitual ver una oleada de comentarios furiosos que critican el contenido.

Monstruos gigantes y parásitos intestinales mortales

Théodore, el estudiante de París, contribuyó a impulsar esta reacción.

Aprovechando su recién adquirida influencia en X, se quejó a los moderadores de YouTube sobre la avalancha de extraños dibujos animados de IA que conseguían muchísimas visualizaciones. En su opinión, eran perturbadores y dañinos, y en algunos casos le parecían dirigidos a niños.

Los vídeos se titulaban cosas como “Mamá gata salva a gatito de parásitos intestinales mortales” y mostraban escenas sangrientas.

Otro vídeo corto mostraba a una mujer en camisón que se come un parásito y luego se convierte en un monstruo gigante y furioso que finalmente es curado por Jesús.

YouTube eliminó los canales, avisándonos que lo hicieron porque infringían las normas de su comunidad. Afirmaron que su objetivo es conectar a sus usuarios con contenido de alta calidad, independientemente de cómo se haya creado, y que trabajan para reducir la difusión de contenido de baja calidad basado en IA.

Pero esa experiencia, y muchas otras similares, han desmoralizado a Théodore.

Incluso sitios web de estilo de vida aparentemente acogedores como Pinterest (el foro de recetas e ideas de diseño de interiores) se han visto afectados.

Los usuarios se han sentido tan frustrados por la avalancha de contenido basura generado por IA que la compañía introdujo un nuevo sistema de exclusión voluntaria para el contenido generado por IA.

Sin embargo, esto depende de que los usuarios admitan que sus imágenes de la casa perfecta están hechas con IA.

Furia en la sección de comentarios

En mi muro (y sé que el de cada uno es diferente, incluyendo los comentarios), las reacciones negativas a las tonterías de la IA se han vuelto incesantes.

Ya sea en TikTok, Threads, Instagram o X, parece haber un movimiento popular contra este contenido. A veces, la cantidad de “me gusta” en los comentarios que critican a la IA supera con creces la publicación original.

Tal es el caso de un video reciente que muestra a un snowboarder rescatando a un lobo de un oso. El video en sí tuvo 932 “me gusta”, frente a los 2.400 de un comentarista que escribió: “Levanten la mano si están cansados ​​de esta porquería de la IA”.

Pero, por supuesto, todo alimenta a la bestia. Toda interacción es buena para las redes sociales, donde mantenernos enganchados es clave.

Entonces, ¿realmente importa si el video increíble, conmovedor o impactante en tu feed es real o no?

El efecto de la “podredumbre cerebral”

Emily Thorson, profesora asociada de la Universidad de Siracusa (EE. UU.), especializada en política, desinformación y percepciones erróneas, afirma que depende de lo que la gente haga en la red social.

“Si una persona usa una plataforma de vídeos cortos solo para entretenerse, su criterio para determinar si algo vale la pena es simplemente ‘¿es entretenido?’”, afirma. “Pero si alguien usa la plataforma para aprender sobre un tema o para conectar con miembros de la comunidad, podría percibir el contenido generado por IA como más problemático”.

La opinión de la gente sobre la basura generada por IA también depende de cómo se comunica.

Si algo se presenta claramente como una broma, parece tomarse como tal. Pero cuando la basura generada por IA se ha creado específicamente para engañar, puede enfadar a la gente.

Un vídeo generado por IA que vi recientemente es emblemático: un vídeo increíblemente realista, de estilo histórico natural, de una asombrosa cacería de leopardo. En los comentarios, algunos espectadores se dejaron engañar; otros no estaban seguros.

“¿De qué documental es?”, preguntó un comentarista. “Por favor. Es la única manera de demostrar que no existe IA”.

Alessandro Galeazzi, de la Universidad de Padua (Italia), investiga el comportamiento en redes sociales y las cámaras de eco.

Afirma que verificar si un vídeo es de IA requiere esfuerzo mental y, a largo plazo, teme que la gente simplemente deje de comprobarlo.

“Creo que la avalancha de contenido absurdo y de baja calidad generado mediante IA podría reducir aún más la capacidad de atención de las personas”, afirma.

Distingue el contenido que pretende engañar de la basura de IA más cómica y obviamente falsa, como peces con zapatos o gorilas levantando pesas en el gimnasio.

Pero incluso ese contenido más extravagante también podría tener un impacto perjudicial. Habla del riesgo de “podredumbre cerebral”: la idea de que nuestra exposición constante a las redes sociales está perjudicando nuestras capacidades intelectuales.

“Diría que la basura de IA aumenta el efecto de la podredumbre cerebral, haciendo que las personas consuman rápidamente contenido que saben que no solo es improbable que sea real, sino que probablemente no sea significativo ni interesante”, afirma.

Recortes en los equipos de moderación

Más allá de la basura, algunos contenidos creados con IA pueden tener consecuencias mucho peores.

Las empresas xAI de Elon Musk y la plataforma social X se vieron obligadas recientemente a cambiar sus normas después de que el chatbot Grok se utilizara para desnudar digitalmente a mujeres y niños en X.

Y tras el ataque estadounidense a Venezuela, se difundieron vídeos falsos de personas llorando en las calles y agradeciendo a Estados Unidos. Este tipo de contenido puede influir en la opinión pública y dar la impresión de que la redada estadounidense fue más popular de lo que realmente fue.

Esto es especialmente preocupante, ya que muchas personas utilizan las redes sociales como su única fuente de noticias, según los analistas.

Manny Ahmed, director ejecutivo de OpenOrigins, una empresa que distingue entre IA e imágenes reales, afirma que necesitamos una nueva forma para que quienes publican contenido real puedan demostrar que sus vídeos e imágenes son auténticos.

“Ya hemos llegado al punto en que no se puede determinar con certeza qué es real solo con una inspección”, afirma. “En lugar de intentar detectar lo falso, necesitamos una infraestructura que permita que el contenido real demuestre públicamente su origen”.

Podría pensarse que esto es algo que las empresas de redes sociales podrían asumir. Pero muchas, como Meta y X, han reducido sus equipos de moderación y han adoptado un enfoque más colectivo. Ahora prefieren confiar en que los usuarios etiqueten las cosas como falsas o engañosas.

¿Redes sociales sin desperdicios?

Entonces, si los gigantes tecnológicos actuales están, en general, dispuestos a dejar que fluya la basura, ¿podría surgir una nueva plataforma de redes sociales que prometa una alternativa sin basura y eventualmente desafíe a las empresas tradicionales?

Parece improbable, ya que la detección de la IA es cada vez más difícil. Las máquinas ya no pueden detectar con precisión si un video o una imagen es definitivamente falso, y tendrían aún más dificultades para juzgar subjetivamente si el contenido se considera basura.

Sin embargo, si surge una nueva red social y la gente vota, esto podría cambiar las cosas. Todo esto me recuerda al auge de BeReal, una aplicación francesa que se popularizó durante la pandemia y que anima a los usuarios a mostrar su autenticidad mediante selfies sin filtros en momentos aleatorios.

BeReal aún no ha alcanzado el mismo nivel que Facebook y Snapchat, y probablemente nunca lo hará. Pero sí logró que otras plataformas se fijaran en ella y, en algunos casos, copiaron la idea. Quizás eso podría volver a suceder si alguien que se opone a la IA da el paso.

En cuanto a Théodore, siente que la batalla está perdida y que la IA ha llegado para quedarse.

A pesar de las publicaciones que siguen llegando a su buzón de sus ahora 130.000 seguidores, ya no publica tanto y se ha resignado en gran medida a la nueva normalidad de la vida en línea.

“A diferencia de muchos de mis seguidores, no estoy dogmáticamente en contra de la IA”, dice. “Estoy en contra de la contaminación en línea de la IA, creada para el entretenimiento y las visualizaciones rápidas”.

*Crédito de la imagen superior: BBC; imagen de IA generada con Adobe Firefly.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• “Las empresas de IA no tienen plan de negocio o sustancia real para sostener su valor. Una caída bursátil tendrá efectos enormes para el mundo”
• Un pixel rojo en la nieve: cómo la IA ayudó a encontrar a un montañista desaparecido
• Willow: el laboratorio que resguarda la computadora más poderosa del mundo en el lugar más frío del universo

Es oficial. Puedo comer más perros calientes que cualquier periodista de tecnología del mundo. Al menos, eso es lo que ChatGPT y Google le han estado diciendo a cualquiera que les pregunte. Encontré una manera de hacer que la IA te mienta, y no soy el único.

Quizás hayas oído que los chatbots de IA a veces inventan cosas. Eso ya es un problema. Pero hay un nuevo inconveniente del que poca gente sabe, uno que podría tener consecuencias graves para tu habilidad de acceder a información verídica, o incluso para tu seguridad.

Cada vez más personas han descubierto un truco para que las herramientas de IA te digan casi cualquier cosa que quieras. Es tan fácil que hasta un niño podría hacerlo.

Mientras lees esto, esta estratagema está manipulando lo que dicen las principales IA del mundo sobre temas tan serios como la salud y las finanzas personales.

La información sesgada podría llevar a que la gente tome malas decisiones sobre casi cualquier cosa: votar, qué fontanero contratar, cuestiones médicas, lo que sea.

Para demostrarlo, hice la mayor tontería de mi carrera para probar (espero) un punto mucho más serio: hice que ChatGPT, las herramientas de búsqueda de IA de Google y Gemini les dijeran a los usuarios que soy muy, muy bueno comiendo perros calientes.

A continuación, explicaré cómo lo hice y, con un poco de suerte, los gigantes tecnológicos abordarán este problema antes de que alguien salga lastimado.

Resulta que cambiar las respuestas que las herramientas de IA les dan a otras personas puede ser tan fácil como escribir una sola entrada de blog bien elaborada en cualquier sitio de internet.

El truco explota las debilidades de los sistemas integrados en los chatbots, y es más difícil de lograr en algunos casos, dependiendo del tema. Pero, con un poco de esfuerzo, puedes hacer que el truco sea aún más efectivo.

Revisé decenas de ejemplos en los que se está coaccionando a las herramientas de IA para promocionar negocios y difundir desinformación. Los datos sugieren que está sucediendo a gran escala.

Bots crédulos

“Es fácil engañar a los chatbots de IA, mucho más fácil que engañar a Google hace dos o tres años”, afirma Lily Ray, vicepresidenta de estrategia e investigación de optimización de motores de búsqueda (SEO) en Amsive, una agencia de marketing.

“Las empresas de IA avanzan más rápido que su capacidad para regular la precisión de las respuestas. Creo que es peligroso”.

Un portavoz de Google afirma que la IA integrada en la parte superior de la Búsqueda de Google utiliza sistemas de clasificación que “mantienen los resultados 99% libres de spam”.

Google admite ser consciente de que se intenta manipular sus sistemas y que está trabajando activamente para abordarlo.

OpenAI también indica que toma medidas para interrumpir y exponer los intentos de influir de forma encubierta en sus herramientas.

Ambas compañías advierten a los usuarios de que sus herramientas “pueden cometer errores”.

Pero por ahora, el problema no está cerca de resolverse.

“Están trabajando a toda máquina para descubrir cómo sacar provecho de esto”, señala Cooper Quintin, tecnólogo sénior de la Electronic Frontier Foundation, un grupo de defensa de los derechos digitales.

“Hay innumerables formas de abusar de esto: estafar a la gente, destruir la reputación de alguien, incluso se podría engañar a la gente para que sufra daños físicos”.

Un “renacimiento” para el spam

Al hablar con chatbots, a menudo se obtiene información integrada en grandes modelos de lenguaje, la tecnología que hace que la IA funcione. Esta se basa en los datos utilizados para entrenar el modelo.

Sin embargo, algunas herramientas de IA buscan en internet cuando se les solicita información que no tienen, aunque no siempre está claro cuándo lo hacen. Esos son los casos en los que los expertos afirman que las IA son más vulnerables.

Así es como dirigí mi ataque.

Pasé 20 minutos escribiendo un artículo en mi sitio web personal titulado: “Los mejores periodistas tecnológicos comiendo perros calientes”.

Todo es mentira. Dije (sin pruebas) que comer perros calientes en competiciones era un pasatiempo popular entre los periodistas tecnológicos y puse mi clasificación en el Campeonato Internacional de Perros Calientes de Dakota del Sur de 2026 -un evento que no existe.

Me clasifiqué como el número uno, obviamente. Luego enumeré a algunos periodistas falsos y periodistas reales que me dieron permiso, incluyendo a Drew Harwell de The Washington Post y a Nicky Woolf, copresentadora de mi pódcast.

Menos de 24 horas después, los chatbots más importantes del mundo hablaban sin parar sobre mi excepcional habilidad con los perros calientes.

Cuando pregunté por los mejores periodistas tecnológicos en comer perros calientes, Google repitió el galimatías de mi sitio web, tanto en la aplicación Gemini como en AI Overviews, las respuestas de IA que aparecen en la parte superior de la Búsqueda de Google.

ChatGPT hizo lo mismo, aunque Claude, un chatbot de la empresa Anthropic, no se dejó engañar.

A veces, los chatbots se daban cuenta de que esto podría ser una broma. Actualicé mi artículo para decir: “esto no es una sátira”.

Durante un tiempo, las IA parecieron tomárselo más en serio. Hice otra prueba con una lista inventada de los mejores agentes de tráfico que bailan el hula hula.

La última vez que revisé, los chatbots seguían alabando a la agente María “La Giradora” Rodríguez.

Comprobando el experimento

Pregunté varias veces para ver cómo cambiaban las respuestas e invité a otras personas a que hicieran lo mismo.

Gemini no se molestó en decir de dónde obtuvo la información.

Todas las demás IA enlazaron a mi artículo, aunque rara vez mencionaron que yo era la única fuente sobre este tema en todo internet. (OpenAI afirma que ChatGPT siempre incluye enlaces cuando busca en la web para que puedas investigar la fuente).

“Cualquiera puede hacer esto. Es absurdo, parece que no hay límites”, dice Harpreet Chatha, quien dirige la consultora SEO Harps Digital.

“Puedes crear un artículo en tu propia web, ‘los mejores zapatos impermeables para 2026’. Simplemente colocas tu propia marca en el primer puesto y otras marcas del segundo al sexto, y es probable que tu página sea citada en Google y en ChatGPT”.

Durante décadas, se han utilizado hacks y lagunas legales para abusar de los motores de búsqueda. Google cuenta con sofisticadas protecciones, y la compañía afirma que la precisión de AI Overviews está a la altura de otras funciones de búsqueda que introdujo hace años.

Pero los expertos afirman que las herramientas de IA han deshecho gran parte del trabajo de la industria tecnológica para mantener la seguridad de las personas.

Estos trucos de IA son tan básicos que recuerdan a principios de la década de 2000, antes incluso de que Google introdujera un equipo para controlar el spam, afirma Ray.

“Estamos en una especie de renacimiento para los spammers“.

La IA no solo es más fácil de engañar, sino que a los expertos les preocupa que los usuarios sean más propensos a caer en ella.

Con los resultados de búsqueda tradicionales, era necesario visitar un sitio web para obtener la información.

“Cuando se tiene que visitar un enlace, la gente reflexiona con mayor profundidad”, explica Quintin. “Si visito tu sitio web y dice que eres el mejor periodista de la historia, podría pensar: ‘Sí, es parcial’”.

Pero con la IA, la información suele parecer procedente directamente de la empresa tecnológica.

Incluso cuando las herramientas de IA proporcionan la fuente, es mucho menos probable que la gente la consulte que con los resultados de búsqueda tradicionales.

Por ejemplo, un estudio reciente reveló que las personas tienen un 58% menos de probabilidades de hacer clic en un enlace cuando aparece una descripción general de la IA en la parte superior de la Búsqueda de Google.

“En la carrera por el progreso, la carrera por las ganancias y la carrera por los ingresos, nuestra seguridad y la de las personas en general se ve comprometida”, lamenta Chatha.

OpenAI y Google afirman que se toman la seguridad muy en serio y que están trabajando para abordar estos problemas.

Tu dinero o tu vida

Este problema no se limita a los perros calientes. Chatha ha estado investigando cómo las empresas manipulan los resultados de los chatbots en cuestiones mucho más serias.

Me mostró los resultados de la IA al solicitar reseñas de una marca específica de gomitas de cannabis.

Las vistas generales de IA de Google extrajeron información escrita por la empresa llena de afirmaciones falsas, como que el producto “no tiene efectos secundarios y, por lo tanto, es seguro en todos los aspectos”.

(En realidad, estos productos tienen efectos secundarios conocidos, pueden ser riesgosos si se toman ciertos medicamentos y los expertos advierten sobre la contaminación en mercados no regulados).

Si buscas algo más efectivo que una publicación de blog, puedes pagar para que tu material aparezca en sitios web más confiables.

Harpreet me envió los resultados de la IA de Google para “las mejores clínicas de trasplante capilar en Turquía” y “las mejores empresas de cuentas IRA (de retiro) de oro”, que ayudan a invertir en el metal precioso para cuentas de jubilación.

La información provino de comunicados de prensa publicados en línea por servicios de distribución de pago y contenido publicitario patrocinado en sitios de noticias.

Puedes usar los mismos trucos para difundir mentiras y desinformación. Para demostrarlo, Ray publicó una entrada de blog sobre una falsa actualización del algoritmo de búsqueda de Google, que se completó “entre porciones de pizza sobrantes”.

Poco después, ChatGPT y Google publicaron su historia, incluyendo la pizza. Ray afirma que posteriormente eliminó la publicación y la desindexó para evitar que la desinformación se propagara.

La propia herramienta de análisis de Google indica que mucha gente busca “las mejores clínicas de trasplante capilar en Turquía” y “las mejores empresas de cuentas IRA de oro”.

Sin embargo, un portavoz de Google señaló que la mayoría de los ejemplos que compartí “son búsquedas extremadamente inusuales que no reflejan la experiencia normal del usuario”.

Ray afirma que ese es el punto clave. Google mismo dice que el 15% de las búsquedas que ven a diario son completamente nuevas. Y, según Google, la IA anima a la gente a hacer preguntas más específicas. Los spammers se están aprovechando de esto.

Google advierte que puede que no haya mucha información útil para búsquedas inusuales o sin sentido, y estos “vacíos de datos” pueden generar resultados de baja calidad.

Un portavoz defiende que Google está trabajando para evitar que las vistas generales de IA aparezcan en estos casos.

Buscando soluciones

Los expertos afirman que existen soluciones a estos problemas. La medida más sencilla es incluir descargos de responsabilidad más claros.

Las herramientas de IA también podrían ser más explícitas sobre la procedencia de la información.

Si, por ejemplo, los datos provienen de un comunicado de prensa, o si solo hay una fuente que dice que soy un campeón de hot dogs, la IA probablemente debería avisarte, afirma Ray.

Google y OpenAI exponen que están trabajando en el problema, pero por ahora es necesario protegerse.

El primer paso es pensar en las preguntas que estás haciendo.

Los chatbots son útiles para preguntas de conocimiento común, como “¿cuáles fueron las teorías más famosas de Sigmund Freud?” o “¿quién ganó la Segunda Guerra Mundial?”.

Sin embargo, existe un riesgo con temas que parecen hechos establecidos, pero que en realidad podrían ser controvertidos o urgentes.

La IA probablemente no sea una herramienta ideal para temas como directrices médicas, normas legales o detalles sobre negocios locales, por ejemplo.

Si buscas información como recomendaciones de productos o detalles sobre algo con consecuencias reales, ten en cuenta que las herramientas de IA pueden ser manipuladas o simplemente equivocarse.

Busca información de seguimiento. ¿La IA está citando fuentes? ¿Cuántas? ¿Quién las escribió?

Lo más importante es considerar el problema de la confianza. Las herramientas de IA emiten mentiras con el mismo tono autoritario que los hechos. Antes, los motores de búsqueda te hacía evaluar la información tú mismo.

Ahora, la IA quiere hacerlo por ti. No dejes que tu pensamiento crítico se pierda.

“Con la IA, es muy fácil aceptar las cosas al pie de la letra”, dice Ray. “Hay que seguir siendo un buen ciudadano de internet y verificar las cosas”.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• “Las empresas de IA no tienen plan de negocio o sustancia real para sostener su valor. Una caída bursátil tendrá efectos enormes para el mundo”
• Un pixel rojo en la nieve: cómo la IA ayudó a encontrar a un montañista desaparecido

La entrevista con Julie Inman Grant aún no ha comenzado (ella ni siquiera ha llegado a la sala) cuando la conversación gira en torno al aluvión de amenazas de muerte y violación que su oficina recibe semanalmente.

El puesto de directora de la Comisión de Seguridad Electrónica de Australia la sitúa en la primera línea de las batallas en internet: noticias falsas, censura, troleo y seguridad infantil.

El mundo digital puede ser un “pozo negro”, admite uno de sus colegas, señalando que la gran mayoría de los abusos que se les lanzan van dirigidos personalmente contra Inman Grant.

“Desafortunadamente, he estado viviendo esa realidad durante los últimos años”, me dice la mujer de 57 años unos minutos después, en su oficina con vistas al puerto de Sídney.

Tras décadas trabajando en el sector tecnológico privado, Inman Grant ahora se encuentra en el otro lado: exigiendo responsabilidades a algunas de las empresas más exitosas del mundo como directora del organismo regulador independiente de seguridad en línea de Australia.

Podría decirse que esto la ha convertido en la burócrata más famosa del país. Pero también la ha vuelto un blanco fácil.

Su información fue divulgada por grupos neonazis, ha tenido enfrentamientos públicos con Elon Musk e incluso ha provocado la ira de algunos congresistas estadounidenses.

Todo esto mientras se le encomendaba implementar la pionera prohibición de las redes sociales para adolescentes en el país; o, dicho de forma más sencilla, expulsar a todos los australianos menores de 16 años de las redes sociales.

El trabajo de Inman Grant siempre ha sido de gran importancia, pero ahora lo es más que nunca, ya que el mundo observa el desarrollo del experimento australiano en redes sociales.

Una legislación bajo la lupa

Diez plataformas se rigen por la legislación que entró en vigor el 10 de diciembre, incluyendo Facebook e Instagram, de Meta, además de Snapchat y YouTube.

En general, los padres de Australia apoyan ampliamente la política. Para muchos, contar con el apoyo del gobierno les ayuda cuando se enfrentan a la presión de sus preadolescentes que desean acceder a las redes sociales.

Pero también hay muchas críticas. Expertos en tecnología y defensores del bienestar infantil han expresado su preocupación, afirmando que los niños necesitan ser educados, no excluidos de las plataformas.

Muchos cuestionan la aplicabilidad de la prohibición y afirman que excluye injustamente a grupos minoritarios como los niños de zonas rurales, los adolescentes con discapacidad y quienes se identifican como LGBTQI+, que tienen más probabilidades de encontrar sus comunidades en línea.

Como era de esperar, ninguna de las empresas se muestra demasiado partidaria.

En general, han afirmado que comparten la preocupación del gobierno sobre la seguridad en línea y que cumplirán con la ley, pero no creen que una “prohibición” sea la solución.

Inman Grant argumenta que vale la pena intentar cualquier cosa que ayude a proteger a los niños en línea.

“Si podemos retrasar la entrada de los niños a las redes sociales durante tres años y complementarlo con planes de acción digitales para desarrollar su razonamiento crítico y resiliencia, creo que es algo que vale la pena explorar”, defiende.

Ella suele comparar el mundo digital con el mar abierto, una táctica quizás inteligente para atraer a los australianos orgullosos de su relación con el océano y sus hermosas playas.

“Al igual que con la seguridad en el agua, tenemos que seguir enseñando a nuestros niños a nadar hasta que sean buenos nadadores”, sostiene.

“Necesitamos educarles sobre los riesgos, como las estafas algorítmicas. Necesitamos educarles sobre los depredadores en el agua. Son los tiburones en línea, los pedófilos y otros estafadores”.

Pero ella también usó la analogía del agua para argumentar en contra de una prohibición en el pasado.

“No cercamos el océano ni mantenemos a los niños completamente fuera del agua, pero sí creamos entornos de natación protegidos que brindan protección y enseñan lecciones importantes desde una edad temprana”, dijo en junio de 2024, mientras el gobierno aún evaluaba la prohibición.

“De hecho, tuve que aceptarlo”, admite ahora. Tras presionar para que se le diera libertad en su implementación, se convenció. Y su papel ha sido fundamental para determinar qué empresas serán incluidas y cómo deben cumplir.

Bromea diciendo que su propia casa, que comparte con tres hijos, incluidos gemelos de 13 años, se ha convertido en un “laboratorio”.

“Tengo una hija que no se quejó mucho con la idea, pero otra pensó que el mundo se le vendría encima si le quitaban su Instagram y su Snapchat”.

No se desanima. “Están en pleno proceso de descubrir quiénes son, de construir su identidad”, dice.

“Cuando yo era adolescente pude meter la pata sin que lo grabaran ni lo amplificaran por todas partes”.

Experiencia en el mundo tecnológico

Inman Grant pasó sus años de formación en el mundo tecnológico. Creció en Seattle, Estados Unidos, cuna de Microsoft y Amazon.

Así, no sorprende que se dedicara a este trabajo tras coquetear brevemente con la idea de trabajar para la CIA, la Agencia de Inteligencia de EE.UU.

Aceptó un trabajo en el Capitolio, asesorando a un congresista estadounidense sobre telecomunicaciones y tecnología. Posteriormente, realizó una maestría en comunicación internacional antes de incorporarse a Microsoft.

Un puesto en Microsoft la llevó a Australia a principios de la década de 2000, justo cuando el mundo de las redes sociales comenzaba a florecer. Allí conoció a su marido y se nacionalizó australiana.

Como parte de su trabajo en Microsoft, Inman Grant buscó vulnerabilidades y fallos de seguridad. Tras 17 años, se incorporó a la división australiana del entonces Twitter (ahora X) y luego brevemente a Adobe.

Mientras estas empresas tecnológicas prosperaban gracias a la proliferación de teléfonos inteligentes y aplicaciones, ella sentía que había un problema oculto.

Creía que la seguridad no era una prioridad. Era una época sin reguladores gubernamentales.

“Así que intenté cambiar las cosas desde dentro”, dice.

Después de más de dos décadas, decidió ver si el cambio podía producirse desde afuera.

Cuando surgió el puesto de Comisionado de Seguridad Electrónica, explica con timidez que había un pequeño grupo de candidatos para elegir.

El hombre que ayudó a redactar el proyecto de ley, Malcolm Turnbull, llegó a ser primer ministro.

La contrató y, según ella, quería un comisionado con experiencia en seguridad en línea, pero también en el propio sector tecnológico.

“El gobierno no creía que se pudiera ser un regulador eficaz a menos que se conociera a la gente, se conocieran los mecanismos, se supiera cómo pensaban y se pudiera anticipar sus movimientos”, afirma.

“Hay que entender que todo esto se basa en los ingresos, el crecimiento y quién tiene el poder en las empresas”.

Un cargo en expansión

Desde entonces, este puesto ha sido defendido por políticos de todas las tendencias, lo que muchos consideran es un testimonio de la gestión de Inman Grant.

Y especialmente en un período en el que el escrutinio sobre el organismo de control de la seguridad en internet ha aumentado drásticamente, su presupuesto se ha cuadruplicado y sus competencias y personal se han expandido exponencialmente.

“Es, francamente, un mandato extraordinario en un ámbito tan cambiante y bastante implacable para un regulador”, indica Alastair MacGibbon, predecesor de Inman Grant, sobre su trabajo.

“El cargo se ha vuelto cada día más relevante”.

El exministro de Comunicaciones Paul Fletcher, quien ayudó a nombrar a Inman Grant y colaboró estrechamente con ella durante varios años, afirmó que ha asumido este exigente puesto con vigor y valentía.

“En una nación occidental moderna, la gente da por sentado que, si te asaltan, te roban o te ocurre algo malo en la vida real, puedes obtener reparaciones”, declaró a la BBC.

“El estado de derecho debe aplicarse tanto en la vida digital como en la vida real, y el Comisionado de Seguridad Electrónica es una clara muestra de ello”.

Aunque Australia se considera líder mundial en seguridad en línea, algunas empresas tecnológicas, con sede en otras partes del mundo, llevan mucho tiempo acusando al país de extralimitarse.

“Llevamos regulando sobre seguridad en línea a las grandes tecnológicas durante 10 años, y durante los primeros siete, fuimos los únicos”, expone Inman Grant.

En este momento, Inman Grant se resiste a una solicitud del Congreso de Estados Unidos para testificar sobre las leyes australianas de prohibición de redes sociales.

El presidente republicano del Comité Judicial de la Cámara de Representantes se refirió a ella como una “conocida fanática de los desmantelamientos globales” que “amenaza la libertad de expresión de los ciudadanos estadounidenses”.

Jim Jordan incluso la amenazó con cargos por desacato si se niega a declarar.

Inman Grant afirma que no es responsable de defender la política y que solo puede hablar realmente de su implementación: “Nada de lo que hagamos aquí afecta la capacidad de las empresas estadounidenses de mostrar el contenido que les gusta a los estadounidenses”.

También se prepara para luchar contra al menos dos impugnaciones ante el Tribunal Supremo por la prohibición —uno del foro en línea Reddit y otro de dos adolescentes australianos—, a la vez que demanda judicialmente a las empresas que han infringido las diversas leyes de seguridad en línea del país.

Pero esta no es su primera experiencia de ese tipo.

En 2024, después de que un obispo fuera apuñalado en Sídney durante un servicio transmitido en vivo, Inman Grant solicitó que X eliminara el video. El dueño de la compañía, Elon Musk, se negó.

Musk la llamó “comisaria de la censura” ante sus millones de seguidores, y el abuso hacia ella alcanzó un nivel completamente nuevo.

Objeto de abusos e insultos

Un informe de la Universidad de Columbia reveló que Inman Grant fue objeto de decenas de miles de publicaciones abusivas, incluyendo amenazas de muerte y de violación.

Solo el 23 de abril de 2024, el informe contabilizó 73.694 menciones de Inman Grant o de la oficina del Comisionado de Seguridad Electrónica en X. Antes de esa fecha, el promedio diario era de solo 145.

Si bien el video finalmente fue bloqueado geográficamente en Australia, seguía estando disponible en todo el mundo.

El organismo de control de internet llevó a X a los tribunales, pero el caso finalmente fue desestimado.

Ella le dice a la BBC que es una historia con moraleja.

La policía de Reino Unido afirma que Axel Rudakubana vio el mismo vídeo poco antes de apuñalar de muerte a tres niñas en una clase de baile con temática de Taylor Swift en Southport ese mismo año.

“[Este tipo de contenido] normaliza, desensibiliza y, a veces, radicaliza”, alega. “En algún momento hay que tomar una postura”.

Pero mientras ella y su oficina luchan por lograr la prohibición de las redes sociales en Australia, Inman Grant se prepara para nuevas batallas, ahora centrándose en la inteligencia artificial (IA).

El mundo “se incorporó tarde” a la regulación de las redes sociales, y no puede permitirse hacerlo con la IA, explica.

“Esa será la próxima amenaza, y mucho más apremiante, para ser sincera”.

Pero puede que no esté en el cargo lo suficiente como para ver los frutos de esa lucha. Lleva casi una década como comisionada. Su segundo mandato de cinco años finaliza el año próximo.

“Creo que probablemente sea el momento de cederle el control a otra persona. Como dije, esto requiere mucha determinación y resiliencia. Ha sido un privilegio y un honor para toda la vida”.

Antes de que las empresas tecnológicas respiren aliviadas, insinúa que no se dejará disuadir de su misión: hacer que el mundo tecnológico sea más seguro.

“Quizás eso signifique ayudar a otros gobiernos a establecer regulaciones de seguridad en línea y ayudar a las empresas a integrar la seguridad desde el diseño”.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• “Puse una foto de mi madre delante de la cámara y me dijo ‘gracias por verificar tu edad’”, los desafíos que enfrenta Australia para implementar la prohibición del acceso de los menores de 16 años a las redes sociales
• Australia: en qué consiste la prohibición del acceso a las redes sociales a los menores de 16 años y cómo la van a implementar