¿Qué pasa cuando el mayor experto en ‘deepfakes’ ya no confía en sus propios ojos?

Los correos –como solía pasar con los peores– empezaron a llegar un domingo por la mañana. Hany Farid abrió el primer mensaje en su casa, en las colinas que rodean Berkeley, y vio un enlace a un video viral que supuestamente mostraba un misil estadounidense impactando en una escuela primaria de Irán, donde habían muerto más de 150 personas, la mayoría menores. “¿Es esto un engaño de internet o un crimen de guerra internacional?”, decía una nota. “Estamos intentando verificar qué es real”.

Farid tomó un lápiz y un bloc de notas, se inclinó hacia su computadora y procedió a verlo. Vio un cielo azul, cables de telefonía y unas cuantas palmeras meciéndose con el viento. Entonces, un misil atravesó la pantalla, nítido e inconfundible, incluso a 800 km/h. Parecía una escena de un videojuego. En los últimos días, Farid había revisado decenas de videos convincentes, generados por IA, de bombardeos falsos, accidentes aéreos falsos, incendios falsos y ejecuciones falsas. Su instinto era dudar. Estaba casi seguro de que este video también era falso.

Mordisqueó el lápiz y lo volvió a ver, ralentizando el video y analizándolo cuadro por cuadro. La cámara temblaba de una forma que parecía creíble para un aficionado grabando con un celular. Las sombras eran geométricamente precisas. Vio cómo el misil impactaba en un edificio y notó un breve retraso antes de oír una explosión y gritos agudos, lo que parecía consistente con la velocidad del sonido. Quizá el video era real. Ya había sido visto al menos 1,1 millones de veces en las redes sociales. Con cada segundo que pasaba se iba convirtiendo en realidad, fuera real o no.

“Cualquiera puede crear un video de cualquier cosa o persona, haciendo o diciendo lo que sea”, escribió Farid como respuesta. “Esto tomará un poco de tiempo”.

Durante más de dos décadas, Farid, de 60 años, había sido el principal experto mundial en el campo de la investigación forense digital, pero en los últimos seis meses había dejado de confiar en sus propios ojos. Había construido una carrera basada en distinguir la realidad visual de las imágenes ultrafalsas –o deepfakes–, atendiendo diariamente peticiones de gobiernos, organizaciones de derechos humanos, periodistas, fuerzas del orden y miles de personas más que se sentían cada vez más confundidas y engañadas por el mundo digital. Las propias investigaciones de Farid habían demostrado que ya casi nadie podía distinguir una fotografía real de una creación digital, una voz real de un clon de IA, un video real de una fabricación total. Últimamente, él mismo estaba fallando en sus propias pruebas.

“Siento que me estoy quedando ciego”, dijo Farid. Le preocupaba que la IA estuviera ocultando la verdad, distorsionando la realidad, fracturando las democracias y, poco a poco, quebrándolo a él también. Él y su esposa habían empezado a hacer planes para irse de California y cambiar la cultura tecnológica de Silicon Valley por una granja en la zona rural de Vermont.

Reinició el video y volvió a reproducir el clip. Cielo. Bomba. Humo. Gritos. En la última hora, más de una decena de medios de comunicación le habían escrito para preguntarle sobre el video. Había sido publicado y compartido por una agencia de noticias oficial iraní, pero eso no significaba gran cosa para Farid, porque recientemente había visto ultrafalsos creados y compartidos por gobiernos extranjeros y por personal de la Casa Blanca. Geolocalizó el video usando una base de datos con millones de imágenes de todo el mundo, y el resultado apuntaba a una calle de Minab, Irán, a unos cientos de metros de una escuela primaria.

Quizá el video en sí era real, pensó Farid, pero alguien había insertado un misil Tomahawk en la escena. Estabilizó el video para eliminar el temblor y luego trazó la trayectoria del misil a través de una serie de fotogramas fijos, buscando inconsistencias. La trayectoria del misil era recta, su velocidad constante. Amplió la imagen para medir los píxeles y calculó que el misil parecía medir alrededor de 5,5 metros de largo, exactamente el tamaño adecuado.

Cielo, bomba, humo, gritos. Lo vio al menos cien veces más, dudando de su instinto y revisando sus cálculos. Durante la mayor parte de su carrera, se había encargado de identificar las pocas falsificaciones que había en un mundo de verdades compartidas. Pero ahora las falsificaciones eran la norma y la verdad era evasiva. Incluso después de un día entero de análisis y consultas con otros expertos visuales –todos confirmaron la autenticidad del video–, él no se atrevía a declararlo real.

“En general, no encontramos pruebas convincentes de que el video sea falso o haya sido manipulado”, escribió Farid.

Apagó la computadora y salió a la calle. Recorrió las colinas de Berkeley en su bicicleta de montaña, acelerando cada vez más, cortando el viento. Se fumó un puro y se fue a la cama, y más tarde, esa misma noche, volvió al video en sueños. Ahora no contaba píxeles ni medía sombras. Estaba dentro de la escuela, sentado en un aula con niños de 10 años, viendo cómo detonaba la ojiva, absorbiendo la onda expansiva, tosiendo polvo y escuchando los gritos de los niños. Se despertó y volvió a la computadora, buscando noticias sobre el atentado en internet.

“No puedes matar a 100 niñas y limitarte a decir ‘ups’”, le escribió a un colega mientras leía publicaciones en redes sociales. Algunas personas citaban el análisis de Farid para confirmar que el video era real. Otras lo descartaban como alguien supuestamente sesgado y decían que el video parecía falso. Ya habían empezado a aparecer en línea varios videos nuevos generados con IA sobre el atentado, en los que se veía a generales falsos dando órdenes o a padres falsos llorando la muerte de niñas falsas. El internet ya estaba dejando atrás lo que resultaría ser uno de los bombardeos más mortales de la guerra, y entonces Farid vio llegar una nueva solicitud a su bandeja de entrada. Era un video diferente, que mostraba otra explosión en otra parte del mundo.

“¿Por favor podrías ayudarnos a entender qué diablos está pasando aquí realmente?”.

Esa era la pregunta que llegaba a su bandeja de entrada una decena de veces al día: ¿Qué demonios estaba pasando?

¿De verdad estaba el presidente Joe Biden llamando a miles de votantes demócratas el día antes de las primarias de New Hampshire para decirles que no votaran? ¿De verdad el presidente Donald Trump estaba lanzando bolsas de basura por una ventana de la Casa Blanca? ¿Esas fotos de niñas de noveno grado desnudas que estaban circulando en un bachillerato de Pensilvania eran reales, o se trataba de imágenes que un compañero había generado con una aplicación gratuita? ¿De verdad estaba Tom Hanks anunciando un dudoso plan dental a sus fans? ¿De verdad estaba el director de la empresa pidiendo una transferencia de 25 millones de dólares en la videollamada de Zoom, o se trataba de un impostor norcoreano? ¿Era una pistola de verdad lo que estaba en la mano de Alex Pretti, o solo una sombra? ¿De verdad era una hija de 12 años la que pedía ayuda a gritos por teléfono, diciendo que la habían secuestrado?

“Echo de menos los días en que era un video borroso de un tiburón nadando por la calle”, dijo Farid una noche, sentado en la terraza trasera de su casa con su esposa, Emily Cooper. Dejó el teléfono y se sirvió un whisky. “La tecnología se está volviendo demasiado buena. Me lleva a un lugar oscuro”.

“¿Porque ya no puedes saber con solo verlo?”, preguntó Cooper.

“Porque nadie puede”, respondió Farid. “No confío en nada. Cada imagen que veo, trazo líneas para las sombras y hago cálculos geométricos en mi cabeza, intentando averiguar qué es lo que estoy viendo. Se acabó. En uno o dos años, todo nuestro sistema visual será completamente inútil”.

“¿Y entonces qué? ¿Te rindes? ¿Te retiras?”.

“No lo sé”, dijo.

Farid y Cooper se habían conocido quince años antes, cuando él fue a dar una conferencia a la Universidad de California, en Berkeley, aún convencido de que tenía las soluciones. Su padre había trabajado durante 50 años como químico en Eastman Kodak, y Farid había crecido visitando el cuarto oscuro, viendo cómo las fotografías se revelaban en baños químicos y se convertían en pruebas. Más tarde ayudó a diseñar una huella digital que detectaba pornografía infantil oculta en internet, una tecnología que dio lugar a más de 30 millones de reportes de abuso al año, cientos de arrestos y varios rescates. Cuando los ultrafalsos comenzaron a propagarse por internet, creó un software para detectar el momento en que la boca de una persona se desincroniza con el audio. Cofundó una empresa, GetReal Security, y ayudó a inventar herramientas para medir la iluminación, las sombras y los puntos de fuga, comparando las imágenes de internet con la física del mundo real.

Cooper era una destacada científica de la visión en Berkeley. Ella investigaba cómo los humanos perciben la realidad mientras su marido investigaba cómo se podía falsificar esa realidad. Habían colaborado en estudios sobre deepfakes, pero en los últimos meses esa investigación había empezado a seguirles hasta casa. En lugar de ocuparse de un caso cada pocas semanas, Farid trabajaba como asesor y perito, manejando una decena de casos al día o más. Por primera vez en su carrera se había convertido no solo en analista, sino también en víctima: alguien falsificó su número de teléfono y usó inteligencia artificial para clonar su voz. El hacker llamó a uno de los colegas de Farid en un caso delicado, suplantándolo y presionando para obtener información confidencial. Ahora Farid y Cooper habían decidido no dar nunca por sentada la identidad del otro. Inventaron una palabra clave para confirmar que eran reales al inicio de cualquier llamada delicada.

Farid echó un vistazo a su teléfono y vio un correo nuevo: “Estoy verificando este video viral de una madre y un niño que se acercan a un ataúd cubierto con una bandera, que sospechamos que fue generado con IA”, decía. Dejó el teléfono a un lado y miró desde el porche las colinas de Berkeley, la bahía de San Francisco y el sol poniéndose sobre el puente Golden Gate.

“Ya no soporto este lugar”, dijo. “Estos gigantes tecnológicos van a destruirlo todo mientras sigan obteniendo una ganancia. No les interesa nada que vaya a frenarlos”.

“Me pone nerviosa, por nuestros estudiantes”, dijo Cooper. “Empieza a darme miedo”.

Ella no creía en la exageración. Su marido podía ser impulsivo e irascible: un optimista por naturaleza que se había vuelto cada vez más pesimista ante la evidencia. Ella se atenía a la precisión y a los hechos, pero incluso esos se habían vuelto innegables. Su propia investigación se centraba en la percepción tridimensional y el diseño de pantallas, pero la amplia crisis que se estaba desarrollando en su campo era imposible de ignorar.La gente pasaba cada vez más tiempo en interiores, mirando pantallas, y menos tiempo mirando el horizonte, lo que a veces provocaba que el globo ocular se alargara de forma permanente. El resultado a menudo era visión borrosa, tasas de miopía en aumento, un mayor riesgo de enfermedades oculares y una inminente epidemia de ceguera evitable que muchos de sus colegas habían empezado a considerar una crisis de salud pública.

La posible cura era la luz natural y las vistas lejanas, y durante los últimos meses habían buscado propiedades en la zona rural de Vermont. Al final compraron una cabaña de la década de 1920 a media hora del Dartmouth College, donde podían trabajar como profesores titulares mientras Farid seguía analizando imágenes para su empresa. La propiedad tenía 40 hectáreas de senderos boscosos para caminar, sin ninguna otra casa a la vista.

“Necesito un reinicio”, dijo Farid. “Aire, espacio. Tengo muchas ganas de sentirme lejos”.

Su teléfono se iluminó sobre la mesa.

“¿Crees que siquiera es posible escapar?”, preguntó Cooper.

“Probablemente no”, respondió Farid. “Al menos no completamente. Pero tenemos que averiguarlo”.

Bajó de las colinas en su motocicleta para dar su última conferencia pública del semestre de primavera en Berkeley, pasando junto a las vallas publicitarias de IA que se habían vuelto ubicuas en toda el área de la Bahía de San Francisco. Eran de empresas emergentes que prometían reinventar la medicina, revolucionar la educación y transformar el futuro de los negocios. “Deja de contratar humanos”, decía un anuncio. Farid estacionó su auto en el campus y entró en el aula, donde 75 estudiantes lo miraban.

Era uno de los profesores más populares de Berkeley: enérgico, directo al hablar y genuinamente entusiasmado con los avances en tecnología de IA que constituían el núcleo de sus cursos. Tenía agentes de IA que escribían código por él. Tenía un coche que se podía conducir solo por la autopista. En su teléfono tenía aplicaciones que podían pulir la redacción de sus correos electrónicos o convertir una foto de su cajón de especias en una receta de chili para una cena entre semana. Pero los estudiantes de informática de sus clases estaban batallando para encontrar trabajo, ya que las empresas estaban esperando para ver qué podían hacer las máquinas. Por primera vez en su carrera, Farid a veces se encontraba frente a los estudiantes sin saber qué decirles.

Pensó en una pintura que no había salido de su cabeza desde que era un joven profesor en Dartmouth, donde la biblioteca albergaba un mural del artista mexicano José Clemente Orozco. Este mostraba a un grupo de académicos representados como esqueletos con sus togas de graduación, aferrándose a libros, de espaldas a un mundo en llamas, mientras uno de ellos daba a luz a un esqueleto bebé que sostenía un nuevo título. “Gran parte del mundo académico se conforma con dar vueltas a problemas esotéricos y protegerse mutuamente de la verdad”, dijo Farid. Había pasado su carrera intentando no ser ese esqueleto. Creía que era su responsabilidad darse la vuelta y enfrentarse al fuego.

“Esta tecnología se está usando como arma contra nosotros”, les dijo a los estudiantes. “El tren ya salió de la estación. Está acelerando a una velocidad increíble”.

Caminaba de un lado a otro al frente del aula y empezó a mostrar diapositivas de videos generados por IA de los últimos años. Una imagen falsa del Pentágono explotando había sacudido brevemente el mercado bursátil en 2023, eliminando más de 500 millardos de dólares en cuestión de minutos. Las imágenes ultrafalsas de la guerra en Ucrania aún eran bastante fáciles de identificar, con explosiones descoloridas y edificios deformes. Las de Gaza eran mucho mejores. Al inicio de la guerra de Irán, era prácticamente imposible distinguir videos cortos generados con IA de los videos reales. Ahora, miles de agentes del gobierno norcoreano estaban solicitando empleos a distancia en empresas estadounidenses, utilizando IA para hacerse pasar por estadounidenses en tiempo real en videollamadas de Zoom y luego financiando un programa de armas nucleares con sus salarios. Un delincuente sin conocimientos técnicos, dijo Farid, ahora podía usar una foto fija y un clip de audio de 10 segundos para suplantar a cualquier persona en internet.

“Quizá pienses que puedes fijarte y notar la diferencia mientras estás ahí sentado deslizando en tu teléfono”, dijo. “Créeme, no puedes. Ahí es donde entran en juego nuestros métodos”.

Él había ayudado a inventar herramientas algorítmicas para verificar los gestos, las inflexiones vocales y el flujo sanguíneo de una persona. Cuando una persona real hablaba, los ojos se dilataban y el corazón bombeaba sangre hacia y desde la cara. A veces Farid podía medir diferencias sutiles en el color de la piel para ver el latido del corazón de una persona en tiempo real, mientras que una persona hecha con IA no mostraba signos de actividad vital.

Farid dijo que seguía confiando en que podía resolver casi cualquier misterio de la IA, pero el problema era que cada investigación llevaba tiempo. La vida media de una publicación en redes sociales era de menos de 90 segundos. “En 20 minutos, todo el asunto básicamente ha terminado”, dijo Farid. Muchas veces, terminaba su análisis, levantaba la vista de la computadora y se daba cuenta de que el daño ya estaba hecho. Una falsedad se había convertido en un hecho. Un hecho se había difuminado en una duda.

Entre la concurrencia alguien levantó la mano, y Farid señaló a un estudiante de la primera fila.

“Entonces, crear deepfakes es fácil, barato, rápido y confiable”, dijo el estudiante. “Detectarlos es costoso y difícil”.

“Sí”, dijo Farid.

“¿Hay alguna solución en un futuro cercano, o simplemente estamos perdidos?”.

Hizo una pausa y respiró hondo. Pensó en el mural de Orozco, en la escuela de Irán, en los ultrafalsos que se amontonaban en su bandeja de entrada y en la granja que lo esperaba en Vermont. Seguía creyendo que había soluciones. Pero primero quería que la gente entendiera a qué se enfrentaban.

“En gran medida, estamos perdidos”, dijo.

La motosierra rugió al arrancar una mañana de martes a finales de primavera, y Farid se puso las gafas protectoras y sintió cómo las vibraciones iban de sus manos a su pecho. Cortó un arce caído y vio cómo la madera se dividía en troncos limpios, que Cooper luego introducía en la cortadora y colocaba en una pila ordenada. Cortar, dividir, apilar. Llevaban menos de dos semanas en Vermont y ya se habían sumergido de lleno en el trabajo.

Su cabaña estaba al final de un camino de tierra, en una colina empinada con vista a los valles fluviales y a las Montañas Verdes. No había servicio de recolección de basura, reparto de correo ni otras casas a la vista. Para pasar el invierno, tendrían que quitar la nieve de su propio camino y calentar la casa. Farid calculó que necesitarían unas 10 toneladas de leña. Trabajaron durante una hora y luego dieron un paso atrás para observar la pila.

“Vamos genial”, dijo Farid. “Es tan satisfactorio ver cómo crece”.

“¿Estás cansado?”, dijo Cooper.

“Me siento bien”, dijo él. “Sigamos. Necesitamos más”.

Se pusieron botas y se adentraron en el bosque en busca de leña seca. Habían ido descubriendo su propiedad poco a poco, aprendiendo solos a volver a tomarse las cosas con calma, a observar con atención: un prado florecido de trillium y violetas silvestres, un arroyo primaveral que caía en cascada sobre granito cubierto de musgo, un mirlo de alas rojas zambulléndose en un pequeño estanque, una cabaña abandonada que se desmoronaba hasta los cimientos. Ahora llegaron a un claro en lo alto de la colina, y Cooper se detuvo a contemplar las montañas circundantes mientras Farid recorría el perímetro. Encontró un abedul caído, tomó una rama y llamó a Cooper por encima del viento.

“¿Qué te parece?”, preguntó.

“Es precioso”, dijo ella.

Lo vio llevar el abedul de vuelta a través del prado, sosteniéndolo por encima de la cabeza como un trofeo. Desde que habían llegado a Vermont, casi podía ver cómo se le quitaba un peso de encima, y Cooper también lo estaba sintiendo. Ella bebía su té por la mañana, saboreando el silencio y dejando que la mirada se perdiera en el paisaje. Estaba probando a escribir ficción. En otoño, Cooper y Farid volverían a trabajar e investigar en Dartmouth, pero aún faltaban unos meses. La última vez que habían vivido en Vermont, habían dependido de una inestable conexión telefónica a internet, sin el ancho de banda necesario para participar en reuniones por Zoom, ver videos en streaming o muros interminables en redes sociales. Tal vez ese nivel de desconexión era posible de nuevo.

Llevaron la madera de abedul al cobertizo y Farid encendió la motosierra. Cortar, dividir, apilar. Trabajaron hasta que el prado se sumió en la penumbra, los hombros de él ardían y el serrín le cubría los brazos. Dio un paso atrás y vio que la pila de leña tenía más de un metro de altura y cubría una pared del cobertizo casi por completo.

“Mira lo que hicimos hoy”, dijo. “Este es el avance más tangible que he logrado en cualquier trabajo en los últimos seis meses”.

“¿Ya estás cansado?”, dijo Cooper.

“Agotado”, respondió. En Vermont se estaba acostando con el sonido de la motosierra todavía zumbándole en los oídos y dormía hasta la mañana siguiente.

El primer correo llegó antes del amanecer.

Durante la noche, el internet se había inundado con otra oleada de imágenes falsas, entre ellas cientos de Cole Tomas Allen, quien había irrumpido en la cena de corresponsales de la Casa Blanca con una escopeta en un intento de asesinar al presidente Trump. Ahora había un video de seguridad mejorado con IA en Facebook que mostraba a Allen pasando junto a guardias que en realidad no existían. En X había fotos manipuladas de Allen posando junto a Tom Hanks y Barack Obama. Había sido corredor de los Dallas Cowboys. Había sido astronauta en la misión Artemis II. Había sido el chofer privado de Taylor Swift y del papa León XIV.

“Cada vez que hay una noticia importante, nos ahogamos en esta bazofia”, dijo Farid.

Se guardó el teléfono en el bolsillo y salió. Cortó leña y dio un paseo por los senderos con Cooper, pero los correos seguían llegando como siempre.

“Estamos viendo este video nuevo del incidente del vuelo 179 de United”, decía uno.

“Estoy verificando un video que supuestamente muestra cómo se bombardea una mezquita en el sur del Líbano”.

“He estado encarcelado desde 2019 por pruebas de video falsas”.

Se desvió del sendero y se adentró más en el bosque, buscando el límite de la propiedad. Subió una colina y encontró un viejo muro de piedra, a la altura del pecho y de al menos 30 metros de largo, que atravesaba el centro del bosque. Farid se quedó ahí un rato, pasando la mano por el musgo y las piedras grises descoloridas antes de volver al sendero y mirar su teléfono.

“Me gustaría pedirte ayuda para investigar material de abuso sexual transmitido en directo”.

“¿Es esta una explosión real en el aeropuerto de Dubái? ¿Podrías aportar tu experiencia?”.

Volvió sobre sus pasos hacia la entrada de su propiedad. Pasó junto a la pila de leña y entró en la casa.

“Voy a ponerme al día con algo de trabajo”, le dijo a Cooper.

“Bueno”, dijo ella. “Bien. Yo también”.

Él se instaló en su oficina y encendió la computadora. Fuera de la ventana, los abedules se mecían con el viento y el sol se ocultaba tras las Montañas Verdes. Subió el volumen, abrió un video y escuchó una serie de explosiones. Se inclinó hacia el resplandor azulado del monitor y observó cómo ardía el fuego.

Eli Saslow escribe reportajes en profundidad sobre el impacto de los grandes temas nacionales en la vida de las personas.

Erin Schaff es fotoperiodista del Times y cubre historias en todo Estados Unidos.