This post was originally published on this site.
Advertencia: Este artículo contiene lenguaje que puede resultar ofensivo.
Meredith Whittaker tiene poca paciencia con el catastrofismo de la IA que domina los titulares; opina que las advertencias de que la IA se vuelva contra la humanidad son un temor “que no tiene fundamento científico”.
“El riesgo es muy real”, afirma el director de la Fundación Signal, que gestiona la aplicación de mensajería cifrada del mismo nombre, “pero no se trata de las historias de fantasmas de las que hablan esos jóvenes exaltados”.
En cambio, ella cree que el peligro más inmediato reside en el uso negligente de la tecnología.
Ella cita un presunto incidente, reportado por CNN, en el que un chatbot utilizado por la inteligencia estadounidense inventó información sobre un buque chino que transportaba material nuclear, lo que supuestamente llevó a Estados Unidos a preparar una respuesta militar.
“Estuvimos a punto de entrar en guerra con China”, le dijo a la BBC.
“Un sistema que produce información errónea y que casi nos lleva a una guerra con China no debería considerarse superinteligente bajo ningún concepto”.
Signal tiene entre 40 y 70 millones de usuarios, una cifra insignificante comparada con WhatsApp, que cuenta con miles de millones.
Pero es conocida por su firme postura en la protección de la privacidad de los usuarios: oculta quién envía un mensaje desde sus propios servidores, limitando los datos disponibles para observadores externos o piratas informáticos.
Protesta del Proyecto Maven
La revista Time nombró a Whittaker una de las personas más influyentes en el campo de la IA. Se mueve con soltura en los foros donde se debate su futuro, desde las salas de juntas de Silicon Valley hasta Londres, Davos y el Vaticano.
Estudió literatura en la universidad y se unió a Google en 2006 como empleada temporal, sin tener un título en informática.
A finales de 2017 se dio a conocer cuando un colega le habló del Proyecto Maven, un contrato secreto de Google con el Departamento de Defensa de EE.UU. para desarrollar inteligencia artificial para la localización de objetivos mediante drones.
Comprendió lo que significaba “comprimir la cadena de ataque”: reducir el tiempo entre que una máquina señala un objetivo y alguien decide disparar, disminuyendo así las deliberaciones al respecto.
Junto con miles de colegas, se opuso firmemente a esta idea.
“Esto va a servir para blanquear información errónea y datos falsos”, recuerda haber argumentado públicamente.
Al año siguiente, Whittaker ayudó a organizar una huelga en la que unos 20.000 empleados protestaron contra la gestión de la empresa en varios asuntos, incluyendo lo que consideraban la introducción apresurada de nuevas tecnologías.
Google rescindió el contrato y Palantir lo asumió.
Ella establece una conexión directa entre Maven y el ataque con misiles estadounidenses contra una escuela en Irán este año, que, según afirma, se basó en el sistema y en información de inteligencia obsoleta que identificaba la escuela como un objetivo militar.
“Esto es precisamente de lo que advertíamos en 2017”, afirma.
En respuesta, Palantir declaró a Global Women que “no había pruebas de que el software de Palantir tuviera la culpa en esta terrible tragedia”.
Añadió que “Palantir no es responsable de los datos subyacentes ni de la identificación de deficiencias de inteligencia”.
Y a principios de este año, su director para el Reino Unido y Europa, Louis Mosley, declaró a la BBC que “siempre hay una persona involucrada, por lo que siempre hay una persona que toma la decisión final”.
El ejército estadounidense aún no ha publicado las conclusiones de su investigación sobre el ataque a Minab, pero el secretario de Defensa, Pete Hegseth, ha dicho que “nunca atacaría objetivos civiles”.
“Tengo carácter”
Los gobiernos, incluido el del Reino Unido, abogan por un mayor acceso a las conversaciones en las aplicaciones de mensajería. Afirman que esto es para proteger a las mujeres y a los niños.
En la Semana Tecnológica de Londres de 2026, el entonces primer ministro Keir Starmer afirmó que se esperaría que las empresas tecnológicas detectaran y bloquearan las imágenes de desnudos en los dispositivos de los niños, o se enfrentarían a leyes al respecto.
Whittaker argumenta que los niños podrían eludir cualquier medida de este tipo, calificando el enfoque del gobierno como “un régimen sin precedentes de controles de comunicación e información”.
El Departamento de Ciencia, Innovación y Tecnología le dijo a la BBC que está preparando una legislación al respecto.
¿Abandonaría Signal algún país, incluido el Reino Unido, que le obligara a debilitar su cifrado?
“¡Sí! Dios mío, tengo carácter”, dice. “No cambia según mi estado de ánimo. No cambia según los asesores”.
Ante la perspectiva de exponer a personas “que dependen de nosotros, a veces en situaciones de vida o muerte, a una vigilancia que podría usarse en su contra”, afirma, “abandonaríamos el mercado”.
La aplicación está bloqueada total o parcialmente en Rusia, China e Irán.
Rani Govender, responsable de seguridad infantil en línea de la Sociedad Nacional para la Prevención de la Crueldad contra los Niños, declaró a la BBC que reciben testimonios de niños que han sido víctimas de manipulación y que han accedido a plataformas con cifrado de extremo a extremo, donde se les obliga a crear material de abuso sexual infantil.
“Las empresas tecnológicas son responsables de las decisiones de diseño que toman, y no pueden ignorar los riesgos que esas decisiones pueden generar para los niños.”
Pero Signal cuenta con el apoyo de algunos grupos de mujeres, a menudo procedentes del Sur Global, que son usuarias de la aplicación.
“En tiempos de vigilancia estatal y ciberataques, Signal es una herramienta de supervivencia”, afirma Hera Hussain, fundadora de la organización benéfica Chayn, que lucha contra el abuso de género y que desarrolla su actividad en todo el sur de Asia.
“Cualquier plataforma puede ser utilizada también por personas malintencionadas, y debemos aceptar esa realidad.”
¿Qué hacemos con las cocinas?
Le planteé a Whittaker un caso de Canadá, donde agentes de policía compartieron mensajes racistas y misóginos en un grupo de Signal que solo se filtraron cuando uno de ellos los hizo llegar a los medios de comunicación.
El abogado de uno de los agentes dijo que los hombres creían que Signal era tan privado y seguro como su propia casa.
“Si tuvieran esa conversación en la cocina y su hermano los delatara, ¿sería algo así como: ‘¿Qué estamos haciendo con las cocinas?’?”, pregunta.
“Tiene que funcionar para todos o no funciona para nadie. Este es el principio de los derechos fundamentales. Se aplican incluso a los imbéciles.”
Señala el caso de una mujer estadounidense encarcelada después de que Meta entregara mensajes que demostraban que había ayudado a su hija a acceder al aborto en un estado donde estaba penalizado.
Según ella, la comunicación privada protege a las personas de muchos tipos de daño: “un cónyuge abusivo, un agente de la ley misógino con acceso a una base de datos o un gobierno autoritario que no cree que las mujeres deban recibir educación”.
Le hago una pregunta: “¿Qué le diría a una mujer que quiere entrar en el sector tecnológico pero se siente intimidada por el aspecto de género de la profesión?”
“¿Te encanta?”, responde.
“¿Te sientas frente a una terminal y sientes una oleada de energía? ¿Disfrutas experimentando con sistemas de IA y definiéndolos?”, añade.
Luego hace una pausa y dice: “¿Eres capaz de desenvolverte en entornos interesantes y complicados donde no todo el mundo va a estar tranquilo? Porque no hay nada más peligroso que ser un cobarde frente a un matón.”
Información adicional de Katie Roberts.
- Esto forma parte de la serie Mujeres Globales del Servicio Mundial de la BBC, que comparte historias importantes y no contadas de todo el mundo.
Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.
- Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
- Y no olvides suscribirte aquí a nuestro newsletter para recibir cada viernes una selección especial de nuestro mejor contenido.
Leave a Reply