Blog

El papa León XIV publicó el lunes su primera encíclica, uno de los documentos más importantes que revela la doctrina de un pontífice sobre un tema religioso o social, y lo hizo con una presentación personal y acompañado de invitados que no son parte de la Iglesia, algo que llamó la atención.

En Magnifica Humanitas (“Magnífica Humanidad”), León XIV hace una advertencia al mundo sobre las posibilidades y los riesgos que representan los modelos de inteligencia artificial (IA), en particular si no se sustentan en una base ética en beneficio colectivo de la humanidad.

Uno de los riesgos, señala, es que tiene el potencial de desplazar masivamente a muchos trabajadores a nivel mundial.

Entre los invitados a la presentación estaba Christopher Olah, un joven canadiense de 33 años que en la última década se ha vuelto conocido en el mundo tecnológico por su amplio trabajo para desentrañar la compleja forma en la que funcionan los LLM (Large Language Model, o Modelo de Lenguaje Grande).

Esos LLM son el “cerebro” de chatbots como Claude, que ayudó a crear el propio Olah, y como ChatGPT, de OpenAI; Gemini, de Google; Copilot, de Microsoft; Grok, de SpaceXAI; o DeepSeek, de High-Flyer.

Todos ellos han estado aumentando su capacidad a un ritmo acelerado. pero aún son una tecnología con cierto grado de descontrol y enigma, incluso entre los propios desarrolladores.

“Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante”, dijo Olah en El Vaticano, luego de la presentación de la encíclica del Papa.

Y la incertidumbre de su avance, sumado a que están en manos de unas pocas firmas privadas con intereses propios, plantea un debate en el que, a juicio de León XIV, debería participar todo el mundo y no solo unos cuantos líderes tecnológicos.

Federico Peinado, profesor en el departamento de software e IA de la Universidad Complutense de Madrid, señala a BBC Mundo que estos dilemas es lo que curiosamente “une dos mundos aparentemente tan distantes”, el de la Iglesia católica con la IA.

“Esto habla de un Papa que es muy consciente del tiempo en el que vive: estamos ante una revolución con la inteligencia artificial y mucha gente está preocupada por las posibles consecuencias”, apunta.

Según Olah, el mundo necesita de “críticos competentes que les digan a los laboratorios cuándo se equivocan”, así como “voces morales que no se dejen doblegar por los incentivos”, según señaló en la presentación de la encíclica en El Vaticano.

¿Pero quién es ese joven que ha tomado la bandera de desentrañar los misterios de la IA y que no deja de reconocer que él mismo es parte de estas empresas en conflicto de intereses?

Su entrada a la escena de la IA

La preparación y trayectoria de Olah ha sido poco convencional para el mundo tecnológico mismo.

Nació en Toronto, Canadá, y se educó en el exclusivo colegio privado The Abelard School, donde desde joven demostró gran capacidad.

Según sitios especializados, Olah nunca obtuvo un título universitario de una institución en particular, pues fue más autodidacta que alumno. Presentó una serie de exámenes del sistema AP Scholar para acreditar sus conocimientos.

Con apenas 18 años, ingresó al equipo de Google Brain, donde realizó investigaciones sobre redes neuronales cuando estaban en desarrollo los LLM.

Ahí fue coautor de un documento que ha sido citado como pionero en la materia, Inceptionism: Going deeper into neural networks (“Incepcionismo: una inmersión en las redes neuronales”), que en términos generales desentrañaba cómo la IA entiende las imágenes.

Al interior del lenguaje de los LLM, no hay una “palabra” o código únicos para identificar, por ejemplo, un cable para cargar un celular, pero hay algoritmos que se unen en las redes neuronales para llegar a eso.

Y el trabajo de Olah y sus colegas Alexander Mordvintsev y Mike Tyka fue considerado como una de las primeras formas de “ver” cómo interactúan esas redes neuronales.

En 2018 fue reclutado por OpenAI, la empresa que ya trabajaba en el modelo que daría vida al popular ChatGPT de la actualidad y donde el joven investigador continuó su análisis de los circuitos neuronales.

Eso hasta 2020, cuando se produjo una gran separación dentro de esa firma

Ese año, un grupo de especialistas liderados por los hermanos Dario y Daniela Amonei se separaron tras un desacuerdo sobre el rumbo que estaba tomando OpenAI, a cuya dirección acusaban de priorizar un modelo comercial de IA más que el desarrollo controlado y seguro de tal tecnología.

Olah se sumó al grupo de Amonei para fundar su firma, Anthropic, siendo el joven investigador uno de los más influyentes en la investigación de cómo los LLM construyen sus circuitos neuronales artificiales.

La “Constitución” de la IA

El trabajo de exploración de Olah al interior de la IA lo llevó a ser incluido en la lista de los más influyentes en ese campo por la revista Time.

“Eso es milagroso, pero también plantea retos para la seguridad. Si no sabes cómo funciona un nuevo sistema tan potente, ¿cómo puedes estar seguro de que no es peligroso? Aquí entra Chris Olah”, destacaba la publicación en 2024.

Y es que Olah ha desarrollado con otros la idea de elaborar una “Constitución de la IA”, explica Peinado, que consistiría en “inculcar” a los LLM principios inquebrantables que respondan al beneficio humano colectivo.

De la mano de esto está la idea de la “interpretabilidad mecánica”.

“Esto viene a ser lo siguiente: nosotros estábamos creando inteligencias artificiales sin saber lo que había dentro. Básicamente teníamos la capacidad de crearlas, pero se cultivaban -como dice el Papa en la encíclica- en lugar de crearse”, explica Peinado.

“Se las somete a todo internet y ellas solas aprenden -estoy simplificando mucho-, pero es algo así: no sé exactamente a qué se están dedicando las neuronas artificiales que tiene, pero funciona, que es lo asombroso del asunto”, prosigue

“Y lo que quiere hacer Chris Olah es entenderlo. Es como el estudio del cerebro humano, que es demasiado complejo. Y no es algo moral, es científico saber para qué sirven. Y a él le parece que es algo que tenemos que conseguir entender”.

En su trabajo con Claude, Olah ha identificado esas capas neuronales que trabajan en conjunto en algunas áreas.

“Es un análisis parecido al de la neurociencia aplicada al cerebro humano: no lo conocemos a la perfección, no tenemos el mapa neurona a neurona, pero sí sabemos qué regiones sirven para qué funciones”, añade Peinado.

Olah no es el único experto en la materia, pero es uno de los que más ha avanzado en su estudio, y eso explicaría su participación en la presentación de la encíclica.

¿Quién ocupa el vacío?

En su participación en El Vaticano, Olah destacó tres áreas que, según él, requieren atención urgente para controlar a la IA y que no genere efectos adversos generalizados:

• abordar el riesgo de grandes pérdidas de puestos de trabajo;
• garantizar que los beneficios de la IA lleguen a todo el mundo;
• controlar el comportamiento de los LLM.

“El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?”, preguntó Olah a la audiencia en El Vaticano, además de añadir que grandes empresas y gobiernos están recibiendo presiones.

Anthropic ya entró en disputa con el gobierno de Donald Trump hace unos meses por negarse a poner su LLM a disposición del Departamento de Defensa para sus objetivos militares.

Para algunos críticos, es conflictivo que Anthropic sea juez y parte en el destino de la IA, pero otros consideran que es la única firma que se ha tomado en serio esto.

“La ética también es un ingrediente de marketing, porque a mucha gente le cuesta creer que haya una preocupación ética en las grandes empresas, cuando parece que todo se mueve por el dinero, que es precisamente lo que critica la encíclica. La pregunta es: ¿qué parte es real y qué parte es posicionamiento?”, plantea Peinado.

Para el experto, “el problema de fondo es que los gobiernos han perdido el liderazgo en este tema. Todo esto lo están llevando empresas privadas, estadounidenses o chinas (…) Y Anthropic ha cogido la bandera de la ética ocupando ese vacío que nadie más ha querido tomar”.

El propio Christopher Olah reconoce que es parte de estas empresas, pero dice que está involucrado en un debate no solo con la Iglesia católica, sino con otras religiones con las que ha tenido diálogo.

La pregunta de fondo -considera Peinado- es si deben ser las propias empresas quienes se autocensuren y sean responsables, o si esa responsabilidad corresponde a los gobiernos y a los usuarios.

“Siendo algo que va a ser tan importante a nivel mundial, lo razonable sería que existiera algún organismo internacional que estableciera una ética común aplicable a todas las inteligencias artificiales”, expone.

“Como lo ha hecho la Iglesia, todos los organismos -la Unión Europea, la ONU, los gobiernos- tienen que ponerse muy en serio con esto”.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• León XIV pide en su primera encíclica como papa “desarmar” a la inteligencia artificial y advierte de sus peligros
• Por qué los chatbots de IA pueden estar volviéndote más tonto
• Por qué las grandes compañías de IA quieren que les tengamos miedo

Advertencia: este artículo contiene detalles sobre violencia doméstica y muerte que algunos lectores pueden encontrar perturbadores.

Habían pasado meses desde que Kristil Krug, una mujer casada y madre de tres hijos, empezó a recibir los mensajes.

El acoso había surgido de la nada en otoño de 2023, cuando un hombre que afirmaba ser su exnovio comenzó a bombardearla con mensajes de texto y correos electrónicos cada vez más amenazantes.

La mujer, residente en el estado estadounidense de Colorado, acudió a la policía local en busca de ayuda; el detective asignado a su caso envió órdenes judiciales a Google y a los operadores de telefonía móvil, con la esperanza de descubrir la identidad de su acosador digital.

Pero pasaron semanas sin respuesta por parte de las empresas tecnológicas y sin indicios de quién podría estar enviándole esos mensajes, mientras Krug vivía sumida en el miedo, constantemente en estado de máxima alerta.

La mujer de 43 años llegó incluso a portar un arma mientras llevaba a sus hijos a la escuela para protegerse. Pero no fue suficiente.

Una mañana de diciembre, al volver a casa y estacionar en su garaje, su agresor la sorprendió por la espalda antes de que pudiera entrar en la casa, golpeándola mortalmente en el cráneo y apuñalándola en el corazón.

Una llamada de su marido al mediodía para comprobar que todo estuviera bien condujo rápidamente al hallazgo de su cadáver. El ataque dio a la policía la justificación necesaria para acelerar la ejecución de la orden judicial.

En cuestión de horas se reveló la identidad del acosador, que no era su exnovio: había sido su marido todo el tiempo.

“Hoy estaría viva”

Daniel Krug fue condenado a cadena perpetua en abril tras ser declarado culpable en Colorado de acoso, asesinato y suplantación de identidad.

Su familia asistió consternada al juicio, tratando de asimilar no solo la magnitud de lo ocurrido, sino también la tragedia de saber que las grandes empresas podrían haber revelado la identidad del acosador de Krug mucho antes.

“Estoy segura de que hoy estaría viva”, afirmó la prima de Krug, Rebecca Ivanoff, una exfiscal especializada en violencia doméstica que vive en Oregón. “Habría podido elaborar un plan de seguridad y él nunca habría tenido la oportunidad de acercarse a ella por la espalda como lo hizo”.

Ivanoff, los padres de Kristil y el resto de la familia comenzaron a trabajar para cambiar la ley y salvar otras vidas. La clave, creían, era establecer protocolos que obligaran a las empresas de comunicaciones a responder más rápidamente a la policía en casos de acoso o violencia doméstica.

Según la prima de Krug, todas las personas a las que acudieron con su propuesta —desde agentes policiales hasta legisladores— dijeron que era “obvio” que así debería ser.

El 1 de mayo, Oregón se convirtió en el primer estado en aprobar la Ley Kristil, que obliga a las empresas de redes sociales a responder en un plazo de 72 horas y a las empresas de telecomunicaciones en un plazo de cinco días a las órdenes judiciales de las fuerzas del orden en casos de acoso y violencia doméstica.

Antes de eso, no existían normas sobre cuándo debían responder las empresas ni sobre las consecuencias en caso de incumplimiento. La familia de Krug espera que la legislación se apruebe pronto en su estado natal, Colorado, en otros estados e incluso a nivel federal.

“Esto al menos me ayuda a creer que no tengo que ver su muerte como una estadística sin sentido más… que ella es solo otra víctima de la violencia doméstica”, dijo la madre de Krug, Linda Grimsrud.

Al enterarse de que la ley se había aprobado, dijo, sintió casi lo mismo que al escuchar la lectura del veredicto de culpabilidad del juicio de su exyerno. Pero, afirma, ella, el resto de la familia y quienes los apoyan apenas están empezando, con la esperanza de que la ley se extienda a otros estados, a nivel federal e incluso al extranjero.

Las cuestiones que motivan la Ley Kristil “resuenan profundamente con los retos a los que nos enfrentamos a nivel internacional”, afirmó la profesora Asher Flynn, del Centro de Excelencia ARC para la Eliminación de la Violencia contra las Mujeres de la Universidad de Monash.

Un problema a otra escala

En muchos otros países tampoco existe ningún requisito legal que obligue a las empresas a actuar. Al igual que en EE. UU., en Australia la policía puede solicitar que se agilicen las notificaciones en circunstancias que pongan en peligro la vida.

“Sin embargo, estas vías son discrecionales y dependen de que la policía identifique y califique la situación como urgente”, señaló la profesora Flynn. “Esto significa que los casos solo pueden escalarse a los mecanismos de respuesta de emergencia una vez que el riesgo se ha intensificado claramente, en lugar de en las primeras fases del acoso o el control coercitivo”.

Nicole Westmarland, profesora de criminología y directora del Centro de Investigación sobre Violencia y Abuso de Durham (Reino Unido), señaló cómo el acoso ha ido “transformándose” a lo largo de los años.

Westmarland califica el abuso facilitado por la tecnología como un “problema de salud pública mundial” que las fuerzas policiales han tenido dificultades para enfrentar de manera generalizada.

“Solíamos hablar de violencia y abuso propiciados por la tecnología; creo que ese término ya casi no sirve, porque… prácticamente todo está facilitado por la tecnología”, afirmó. “Se trata de un cambio radical”.

En Oregón, uno de los principales promotores del proyecto de ley, el congresista Kevin Mannix había sido el autor de la primera ley estatal contra el acoso en 1995. Ha sido testigo de esa “transformación” a lo largo de las décadas y “reconoció inmediatamente el problema” cuando se enteró del caso de Kristil.

El “tiempo habitual” que tardan las empresas en tramitar las órdenes judiciales es “de unas seis semanas, porque tienen un sistema de tipo ‘primero en llegar, primero en salir’”, explicó.

“Es claro que, en la situación de Kristil, si las empresas de comunicaciones hubieran facilitado su información de inmediato, probablemente ella no habría sido asesinada”, asegura Mannix. “Y al ver eso, nos dimos cuenta de que necesitábamos una categoría especial de orden judicial dedicada a situaciones de violencia doméstica y acoso”.

Privacidad y seguridad

Mannix, republicano y legislador veterano, se reunió con las empresas de comunicaciones para negociar y afirmó que estas “reconocieron que no estábamos planteando una orden judicial generalizada, sino una específica para estas situaciones”.

La BBC solicitó comentarios a Google y los operadores de telefonía móvil a los que se les notificaron órdenes judiciales en el caso de Krug, pero no recibió respuesta inmediatamente.

En el pasado, Google ha señalado que recibe un gran volumen de solicitudes policiales a diario y ha afirmado que cuenta con un equipo dedicado las 24 horas del día, los 7 días de la semana, a atender las solicitudes de emergencia.

La madre de Krug se refirió al delicado equilibrio entre la privacidad y la seguridad en lo que respecta a este tipo de casos.

“Es un tema complicado, ¿verdad?, porque tiene que ver con… la libertad de expresión y tus derechos y libertades”, dijo. “Pero es que no creo que, sobre todo en esta era tecnológica… la gente tenga cómo esconderse”.

Meg Garvin, directora ejecutiva del Instituto Nacional de Derecho de las Víctimas de Delitos, afirmó que ella también consideraba que la ley era “sin duda un paso en la dirección correcta”, aunque también se sentía “un poco molesta por el hecho de que hayamos tenido que aprobar una ley para intentar subsanar esta laguna”.

Espera que la legislación sirva como “una especie de llamada de atención”.

“Las jurisdicciones que no la tienen, y las empresas de esas jurisdicciones, deberían hacer un examen de conciencia y preguntarse: ¿por qué no daríamos prioridad automáticamente a las solicitudes de información que implican riesgos para las personas?”, afirmó.

Que no se repita

La madre de Krug se ha volcado en la defensa de esta causa en su propia jurisdicción, visitando a los legisladores en el Congreso de Colorado junto con el padre de Kristil para recabar apoyos para la ley que lleva su nombre.

Mientras tanto, ambos se centran igualmente en ayudar a criar a los hijos de Kristil, que ahora tienen 17, 13 y 11 años.

Krug, que siempre fue muy protectora de sus hijos, querría defender a sus hijas y a su hijo de la atención mediática y de cualquier dolor, pero también apoyaría el trabajo que se está realizando en su honor, aseguró su madre.

“Estaría orgullosa de que podamos… intentar que la familia de otra persona no tenga que pasar por semejante sufrimiento, o al menos causar una pequeña onda en el estanque”, dijo Grimsrud sobre la bailarina, que era además una mente brillante de la ingeniería bioquímica y tenía un agudo sentido del humor.

“Siento con toda mi alma que ella está ahí y que quiere vernos triunfar… si puede hacer algo bueno por otras familias, sé que estaría orgullosa de esto”.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• Cuáles son las 5 formas de violencia digital más comunes (y cómo protegerse)
• Qué son los incels, el oscuro movimiento que aparece en la aclamada serie “Adolescencia”

Desde tu peso y tus expresiones faciales hasta tu destino, los automóviles recopilan una cantidad asombrosa de datos sobre ti. Parte de esa información podría incluso aumentar el costo de tu seguro. Sin embargo, puedes tomar algunas medidas sencillas para limitar lo que saben sobre ti.

Los automóviles solían ser sinónimo de libertad.

Cuando recibí por primera vez las llaves del viejo Toyota familiar, aquello fue un rito de iniciación, una señal de que ya tenía la edad suficiente para alejarme de la mirada vigilante de mis padres y adentrarme en un mundo donde el tiempo y las decisiones eran exclusivamente mías.

Las cosas cambian.

Los automóviles modernos son computadoras sobre ruedas, y las grandes corporaciones los están utilizando para absorber detalles íntimos de tu vida y ganar más dinero.

Si crees que conducir hoy en día es una oportunidad para estar solo y alcanzar la independencia, piénsalo de nuevo.

Y al parecer, la situación está a punto de empeorar.

Las propias compañías automotrices te lo confirmarán si te tomas la molestia de examinar detenidamente sus políticas de privacidad.

La información que recopilan puede incluir datos de ubicación precisos sobre todos los lugares a los que vas, quién te acompaña en el vehículo, qué radio sintonizas y si te abrochas el cinturón de seguridad, si manejas a una velocidad excesiva o si frenas de manera brusca.

Algunos vehículos pueden llegar a recabar numerosos detalles que quizá ni esperarías, tales como tu peso, edad, raza y expresiones faciales. ¿Te rascas la nariz?

Algunos automóviles disponen de cámaras en el interior orientadas hacia el asiento del conductor y la mayoría vienen equipados con conexiones a internet capaces de transmitir esos datos mientras conduces sumergido en una dichosa ignorancia.

El destino de la información

Todo esto constituye un problema de privacidad que puede repercutir negativamente en tu bolsillo.

Entre los principales clientes de estos datos que proveen los autos se encuentran las compañías de seguros, las cuales los utilizan para aplicar tarifas más elevadas a ciertos clientes.

Sin embargo, resulta imposible saber con certeza cuál es el destino final de la información.

Algunas compañías automotrices admiten vender los datos, pero no tienen la obligación de revelar quiénes son los compradores. Esto sin mencionar el hecho de que podría resultarte una situación un tanto inquietante.

Según los expertos, la mayoría de los conductores no tiene la menor idea de que todo esto está sucediendo.

“La gente se sorprendería por la cantidad de puntos de datos que su automóvil recopila y transmite a otras personas, ya sea al fabricante o aplicaciones de terceros”, dice Darrell West, del Centro de Innovación Tecnológica del Brookings Institute en Washington DC.

“Básicamente esto significa que tu vida puede ser recreada segundo a segundo”, agrega.

A su vez, una ley federal de EE.UU. está a punto de aumentar la cantidad de datos que el automóvil puede recopilar sobre la vida del conductor.

Pronto requerirá que las compañías automotrices estadounidenses instalen cámaras biométricas infrarrojas y otros sistemas para escanear el lenguaje corporal, rastrear los ojos y otros aspectos del comportamiento, para detectar si la persona está borracha o cansada para conducir.

Pero también abrirá un nuevo tesoro de datos sobre la salud y los hábitos. No hay reglas que limiten lo que las compañías de automóviles pueden hacer con esa información.

Por supuesto, también hay beneficios.

Los autos conectados a Internet pueden ser más convenientes. Los sensores que tienen incorporados pueden hacer que la conducción sea más segura y cómoda.

Las compañías de seguros podrían decidir cobrarte menos porque eres un buen conductor.

Pero con los fabricantes de automóviles listos para expandir sus imperios de datos, este es un momento crítico para entender lo que está sucediendo bajo el capó y cómo te afecta.

La conexión a Internet

Si tu auto es relativamente nuevo, probablemente esté conectado a internet.

La consultora McKinsey descubrió que el 50% de los automóviles en la carretera en 2021 tenían conexiones a internet y predijo que el número aumentará al 95% para 2030.

Si tu automóvil está conectado a internet, es casi seguro que la privacidad sea un problema que atender.

Las compañías de automóviles también pueden ver cuándo conectas tu teléfono al sistema de infoentretenimiento, o si usas ciertas aplicaciones hechas para conducir.

Algunos conductores también utilizan el sistema de telemetría de las compañías de seguros, que los monitorean a cambio de posibles descuentos.

Un análisis de 2023 realizado por Mozilla, el fabricante del navegador Firefox, examinó las políticas de privacidad de 25 marcas de automóviles. No todos cumplieron con los estándares de privacidad y seguridad que Mozilla utiliza para comparar marcas.

Mozilla dijo que los autos son “la peor categoría de productos que hemos revisado en materia de privacidad”.

Según el informe, las compañías de automóviles se reservan el derecho de recopilar detalles que incluyen tu nombre, edad, raza, peso, detalles financieros, expresiones faciales, tendencias psicológicas y más.

La política de privacidad de Kia, por ejemplo, sugiere que la compañía puede incluso recopilar detalles sobre tu “vida sexual” y tu salud general.

El portavoz de Kia, James Bell, asegura que la compañía nunca ha recopilado datos sobre la vida sexual o la salud de los conductores.

Estos detalles solo aparecen en la política de privacidad de Kia porque la compañía está enumerando la definición de California de “datos confidenciales”.

Bell dice que las prácticas de privacidad de Kia son transparentes y que la empresa solo comparte datos con las compañías de seguros si los conductores optan por participar.

Sin embargo, la empresa no explicó qué tipo de “datos confidenciales” recopila.

Algo de eso puede ser difícil de imaginar, pero los autos están llenos de sensores: en los asientos, el salpicadero, el motor, el volante, lo que sea.

Muchos vehículos, por ejemplo, tienen cámaras por dentro y por fuera.

Si estás haciendo algo en un auto moderno, lo más probable es que haya una forma de que las empresas lo sepan.

Mozilla encontró que 19 de las compañías de automóviles dijeron que podrían vender los datos, y eso es exactamente lo que está sucediendo.

Por ejemplo, tanto las agencias estatales como las federales de Estados Unidos tomaron medidas contra General Motors (GM) por supuestamente vender datos de ubicación de automóviles sin consentimiento.

Los senadores estadounidenses han acusado a Honda y Hyundai de prácticas similares, y estos son solo los ejemplos que el público conoce.

“Están tomando toda la información que recopilan sobre ti, que es mucha, y la están usando para hacer inferencias sobre quién eres, qué tan inteligente eres, cuál es tu perfil psicológico, cuáles son tus creencias políticas”, dice Jen Caltrider, una analista de privacidad que dirigió la investigación de automóviles de Mozilla.

“Esas son las cosas en las que la gente no piensa necesariamente”.

Básicamente no hay reglas sobre quién puede comprar estos datos o para qué se usan, dice Caltrider.

Se puede usar para intentar venderte productos. Las empresas podrían usarlo en las decisiones de contratación.

Las fuerzas del orden podrían comprar datos de automóviles cuando no tienen una orden de registro. Una vez que sale de tu tablero, no tienes control sobre dónde termina.

Puede que esté empeorando

Se trata de algo más que empresas que husmean en tu vida privada.

Por ejemplo, General Motors vendió información de conductores a una empresa llamada LexisNexis, un corredor de datos que compra y vende detalles sobre los consumidores.

Un conductor, que obtuvo una copia de esos datos, supuestamente descubrió que LexisNexis tenía 130 páginas de información, detallando cada viaje que él y su esposa hicieron durante seis meses.

Esa persona le dijo a The New York Times que después de que los costos de su seguro aumentaran un 21%, un agente de seguros le dijo que sus datos habían sido uno de los factores para la subida.

GM y LexisNexis no respondieron a una solicitud de comentarios.

La Comisión Federal de Comercio de Estados Unidos tomó medidas, y GM ahora tiene prohibido vender datos de vehículos durante cinco años, pero es libre de eanudar la práctica después, siempre y cuando obtenga el consentimiento expreso de los conductores y siga otras condiciones.

Mientras tanto, LexisNexis y otras empresas siguen vendiendo datos de vehículos que obtienen de otros fabricantes de automóviles y aplicaciones que la gente usa mientras conduce.

Los acuerdos entre compañías de seguros, fabricantes de automóviles y corredores de datos están muy extendidos, y mientras las prácticas se expliquen en las políticas de privacidad que tú aceptas, todo es perfectamente legal.

“Las compañías de seguros han estado recopilando grandes cantidades de datos de consumidores, especialmente sobre cómo conducen, y los han utilizado para tratar de cobrar a las personas precios más altos, negar la cobertura o dividir y dividir a los consumidores en varias categorías”, dice Michael DeLong, un defensor de los clientes de seguros de automóviles para la Federación del Consumidor de América, una organización sin fines de lucro con sede en Estados Unidos.

Las compañías de automóviles dicen que obtenen su permiso antes de rastrearte.

En la práctica, eso generalmente significa aceptar formularios y políticas de privacidad cuando configuras el sistema de infoentretenimiento o las aplicaciones conectadas a tu automóvil.

En algunos vehículos aparecen cada vez que arrancas el motor. ¿Los leíste? Por supuesto que no.

Protecciones legales

En Estados Unidos, no existe una ley de privacidad a nivel nacional. Las protecciones en estados individuales son fragmentarias y, según algunos expertos en privacidad, no van lo suficientemente lejos.

El panorama es un poco mejor en Europa, incluido en Reino Unido, donde hay protecciones especiales para ciertas categorías sensibles de información y los consumidores tienen algunos derechos que les permiten acceder a sus datos y decirles a las empresas que los eliminen.

Pero tampoco es un problema resuelto en Europa.

“Los europeos todavía están en deuda con las políticas de privacidad”, dice Caltrider. “Y tienes que contar con que las regulaciones se sigan y apliquen, y eso es algo que no siempre sucede, especialmente con los autos”.

El problema no es nuevo, pero hay razones para pensar que se está acelerando.

La ley de Estados Unidos exige que los fabricantes de automóviles pronto necesiten instalar “tecnología avanzada de prevención de la conducción errática” en los nuevos vehículos de pasajeros en los próximos años.

La tecnología está destinada a evitar que las personas conduzcan si están borrachas, cansadas o no aptas para manejar utilizando cámaras infrarrojas u otros sistemas.

El problema, dicen Caltrider y otros, es que la ley no incluye disposiciones que aborden lo que sucede con los datos que estos sistemas crean.

Un portavoz de la Administración Nacional de Seguridad del Tráfico en Carreteras de Estados Unidos (Nhtsa), que se encarga de hacer cumplir la norma, dice que “está comprometida a reducir las muertes por conducción por discapacidad utilizando todas las herramientas a nuestra disposición”.

Y que “continúa abordando temas críticos y complejos”, como las preocupaciones sobre la privacidad.

Es probable que la implantación de esta ley se retrase porque la tecnología no está lista, pero los defensores de la privacidad están haciendo sonar la alarma.

“Necesitamos mantener a los conductores ebrios fuera de la carretera, y sería genial si hubiera una garantía de que los datos no se utilizarían para otros fines, pero eso no es lo que está sucediendo”, indica Caltrider.

“Muchos de los avances de recopilación de datos que vemos en los automóviles se hacen bajo el pretexto de la seguridad”

Esto podría entregar a la industria automotriz un tesoro equivalente a información médica sin salvaguardias.

Medidas para limitarlo

Como ocurre con tantos asuntos de privacidad, el problema de los datos del automóvil no es uno que se pueda resolver por completo, pero hay medidas que puedes tomar.

Por un lado, “no te inscribas en el programa de telemática de seguros si tienes alguna preocupación sobre la privacidad”, sugiere DeLong.

Los riesgos de privacidad son significativos y la recompensa no es una garantía.

Un análisis del estado de Maryland encontró que el 31% de los conductores vieron caer sus tarifas de seguro, pero los precios subieron para el 24% de los conductores y el 45% no encontró ningún cambio.

En Reino Unido, la UE y algunos estados de EE.UU., puedes solicitar una copia de los datos que las empresas recopilan sobre ti y puedes optar por no vender o compartir esos datos. También puedes exigir que las empresas los eliminen.

Algunos fabricantes de automóviles ofrecen configuraciones de privacidad que puedes ajustar y que pueden limitar el intercambio y la recopilación de datos.

Busca estas opciones en los ajustes del sistema de infoentretenimiento de tu vehículo, así como en cualquier aplicación complementaria que funcione con él.

Consumer Reports (donde trabajé anteriormente) cuenta con una guía detallada que puedes consultar para obtener más información.

Pasos como estos pueden ayudar, dice Caltrider, pero no debería ser tu responsabilidad hacer todo este trabajo para evitar que las empresas violen tu privacidad.

“Hasta que todo el juego cambie, hasta que tengamos nuestros datos, los controlemos y las empresas tengan que pedirnos permiso para usarlos, creo que este problema va a empeorar cada vez más”.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• Los lentes inteligentes de Meta preocupan porque son “una invasión de la privacidad”, aunque se están vendiendo más que nunca
• Cómo una quemadura de sol inspiró a una profesora de química a desarrollar una nueva manera de almacenar energía

Los problemas relacionados con una nueva generación de “lentes inteligentes” parecen estar acumulándose.

Pese a ello, algunas de las mayores empresas tecnológicas del mundo se están preparando para vender millones de pares en los próximos años.

Hombres que llevan puestos los lentes Ray-Ban de Meta -la apuesta de la compañía detrás de Facebook en el mercado de las gafas “inteligentes” o con IA- están abordando mujeres que salen de la playa, entran en una tienda o simplemente permanecen de pie en la calle con el fin de grabar sus reacciones ante preguntas casuales o frases para ligar, sin su conocimiento ni consentimiento.

Las mujeres solo descubren la existencia de los vídeos en los que aparecen después de que estos se han vuelto populares y, con frecuencia, hayan generado comentarios abusivos en internet.

Además, cuentan con escasos recursos legales, porque la toma de fotografías o videos en espacios públicos se considera, por lo general, una actividad lícita.

Una mujer le contó a la BBC que, cuando le pidió a la persona que había publicado una grabación suya hecha en secreto que la retirara, esta le respondió que hacerlo constituía “un servicio pago”.

Los lentes de Meta

Los lentes de Meta son, en la actualidad, los más populares del mercado; se estima que acaparan más del 80% de las ventas de gafas inteligentes o con IA, debido a que la compañía es el primer gran actor del sector tecnológico en lanzar un producto de este tipo en los últimos años.

Fabricados en colaboración con EssilorLuxottica y dotados del aspecto clásico de Ray-Ban, estos lentes incorporan una cámara casi invisible en la montura, pequeños altavoces en las patillas y unos cristales capaces de mostrar cierta información al usuario.

Los usuarios pueden iniciar una grabación de vídeo o tomar una fotografía con un simple toque casual en la montura.

La naturaleza de la cámara integrada en los lentes de Meta resulta tan discreta que incluso sus propios usuarios se han visto sorprendidos por lo que estaban grabando —y el momento en que lo hacían—, así como por el destino final de esas grabaciones.

Después de que unos trabajadores en Kenia —a los que se les encargaba ver videos grabados con los lentes de Meta para generar datos de entrenamiento para la inteligencia artificial de la compañía— denunciaran que se les exigía ver contenido explícito, como actos sexuales y escenas de uso del baño, varios propietarios de los lentes interpusieron dos demandas.

En una de ellas, los demandantes alegaban que no tenían la menor idea de que se hubieran grabado tales videos. En la otra, dijeron desconocer que la compañía estuviera compartiendo sus videos con terceros para su revisión.

Meta ha declarado anteriormente que, en sus términos de servicio, se informa a los usuarios sobre la posibilidad de que sus contenidos fueran sometidos a una revisión humana en determinadas circunstancias.

No obstante, las ventas siguen al alza. A día de hoy, se han vendido ya siete millones de pares —una cifra que continúa creciendo—, según datos de la propia compañía.

“Son uno de los productos de electrónica de consumo de más rápido crecimiento en la historia”, alardeó a principios de este año Mark Zuckerberg, director ejecutivo de Meta.

Tracy Clayton, portavoz de Meta, le declaró a la BBC que los usuarios deben hacer un uso responsable de cualquier tecnología.

“Contamos con equipos dedicados a limitar y combatir el uso indebido; sin embargo, al igual que ocurre con cualquier tecnología, la responsabilidad última recae en cada individuo”.

Ahora, otras grandes empresas tecnológicas planean sumarse a lo que podría convertirse en la tan esperada nueva categoría de productos de la industria tecnológica.

Según diversas informaciones, Apple estaría desarrollando su propia versión de lentes inteligentes, cuyo lanzamiento podría producirse el próximo año. Por su parte, Snap ha anunciado que este mismo año lanzará una nueva versión de sus lentes inteligentes, bautizadas como Specs.

Google también se dispone a intentarlo de nuevo en el ámbito de los lentes inteligentes, más de una década después del sonado fracaso de sus Google Glass, un dispositivo que la compañía retiró del mercado general apenas dos años después de su lanzamiento, tras recibir duras críticas y suscitar serias preocupaciones en materia de privacidad debido a su elevado precio.

Se espera que todos estos dispositivos ofrezcan alguna combinación de tecnologías de inteligencia artificial (IA) y realidad aumentada (RA) —tal como hacen los lentes de Meta—, lo cual suele requerir la incorporación de una cámara.

Usos productivos

Por supuesto, las formas en las que la gente usará la próxima generación de lentes inteligentes no será del todo negativa.

Mark Smith lleva puestas sus lentes Meta Ray-Ban todos los días.

“Los he usado por todo el mundo, en todo tipo de lugares. Sus funciones básicas son fantásticas”, comentó Smith.

Como socio de la firma de asesoría ISG —especializada en software empresarial—, Smith puede ser clasificado como un usuario pionero y experto en tecnología.

Sin embargo, las razones por las que le gustan estos lentes no tienen nada que ver con grandes avances en sus capacidades tecnológicas.

Le gusta usarlos mientras lava los platos en casa, ya que le facilitan escuchar música o un pódcast sin aislarlo de los ruidos del entorno, algo que sí hacen la mayoría de los auriculares.

Atender llamadas telefónicas a través de los lentes resulta sumamente sencillo. Cuando viaja, agradece no tener que sacar el teléfono constantemente para tomar una foto o grabar un video rápido.

Aun así, Smith señaló que existen algunos problemas potenciales de privacidad que resultan evidentes.

La pequeña luz que se prende cuando los lentes están grabando se ve tenue a la luz del día y, muchas veces, pasa desapercibida, dijo.

La mayoría de la gente parece no tener ni idea de que lleva puesto algo distinto a unos lentes convencionales.

Si los productos de inteligencia artificial o los lentes inteligentes de otras compañías llegaran a venderse tan bien como la versión de Meta, los investigadores prevén que hasta 100 millones de personas adquirirán un par en los próximos años.

Si tal predicción se hiciera realidad, la capacidad de las instituciones para hacer cumplir las normas y leyes —que habitualmente prohíben grabar en lugares como tribunales, museos, cines, hospitales y baños— se vería seriamente comprometida en el momento en que, de repente, millones de lentes se convirtieran también en cámaras.

David Kessler, abogado que dirige el área de privacidad en EE.UU. de la firma Norton Rose Fulbright, comentó que muchos de sus clientes corporativos ya se están viendo obligados a lidiar con esta situación.

“Podríamos adentrarnos en terrenos bastante oscuros”, advirtió Kessler. “No soy en absoluto un detractor de la tecnología, pero, desde una perspectiva social… ¿tendré que estar pendiente [de si me están grabando] cada vez que salga a la calle?”.

Además, según se ha informado, Meta planea incorporar tecnología de reconocimiento facial en una versión actualizada de sus lentes; esto significaría que los usuarios no solo tendrían la capacidad de grabar a cualquier persona de manera subrepticia, sino también de identificarla al instante.

“Diseñadas para la privacidad”

Meta comercializa sus lentes bajo el lema: “Diseñados para la privacidad, controlados por ti”.

Les sugiere a los usuarios de los lentes que no graben a las personas que manifiesten no querer ser grabadas, y que apaguen los apaguen por completo “en espacios sensibles”.

A menudo, esas sugerencias parecen ser ignoradas.

Un uso cada vez más popular de estos lentes consiste en grabar para bromas a personas desprevenidas.

Los usuarios —a menudo hombres jóvenes— consiguen que la gente firme peticiones falsas o logran que empleados de tiendas huelan velas a las que han rociado con malos olores.

A veces roban comida justo en el momento en que se la entregan en un servicio de comida para llevar en auto (drive-thru) y graban su huida a la carrera.

Con frecuencia, la gente retrocede instintivamente al descubrir que una persona lleva puestos unos lentes inteligentes.

La influencer Aniessa Navarro comentó que se sintió indispuesta al darse cuenta, durante una sesión de depilación personal, de que la técnica que la atendía llevaba puestas los lentes de Meta.

La técnica aseguró que los lentes no tenían batería ni estaban grabando, y explicó que necesitaba llevarlos puestos por los cristales graduados que incorporaban.

Hace dos semanas, le preguntaron a Andrew Bosworth, director de tecnología de Meta, a través de Instagram sobre “el estigma que rodea a las personas que usan lentes inteligentes a diario”.

Él respondió afirmando que el gran número de lentes Meta Ray-Ban vendidas “sugiere que estas gozan de una amplia aceptación”.

Sin embargo, David Harris —exinvestigador de IA en Meta que ahora imparte clases en la Universidad de Berkeley y asesora en políticas de inteligencia artificial tanto en EE.UU. como en la Unión Europea— opina que es probable que esta generación de lentes inteligentes con IA se enfrente a los mismos problemas que condenaron al fracaso a Google Glass hace más de una década.

“Una tecnología como esta constituye, en esencia, una invasión de la privacidad y, sin duda, se enfrentará a una oposición cada vez mayor”, afirmó.

Ya están empezando a surgir más indicios de dicha oposición.

En diciembre, un hombre publicó un video en el que se quejaba de que una mujer —a la que él había estado grabando en el metro de Nueva York— le había roto los lentes de Meta.

Si esperaba recibir muestras de solidaridad, se equivocó; los usuarios de internet la aclamaron como una heroína.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• Meta anuncia que despedirá a 8.000 trabajadores mientras multiplica su inversión en IA
• Palantir: ¿por qué causa preocupación el creciente poder global de la compañía de IA?

En la ciudad de Boston, en Estados Unidos, el sol brilla, algunas veces, pero nunca así.

Cuando la profesora de química Grace Han viajó de Boston al sur de California hace unos años, se dio cuenta de la diferencia. Sintió un hormigueo en la piel con las primeras señales de irritación después de pasar solo unas horas afuera.

El año pasado, se mudó para empezar a trabajar en la Universidad de California en Santa Bárbara, y asiduamente empezó a usar una sombrero de ala ancha, gafas oscuras y mucha crema solar. Como era profesora de química, ya había investigado.

“Había estado leyendo sobre la fotoquímica de ADN, como pasatiempo”, recuerda.

Fue ahí cuando se dio cuenta de que las moléculas de ADN en la piel humana que se dañan con las quemaduras de sol podrían ayudarla. Esas moléculas cambian de forma cuando se irritan con el sol, torciéndose en una versión tensa de su forma normal.

Durante décadas, los científicos han buscado moléculas que puedan cambiar de forma y almacenen energía durante ese proceso, para luego estimularlas a que vuelvan a su forma original y desprendan la energía almacenada.

Es algo así como montar una trampa de ratones y luego activar el mecanismo. Se conoce como almacenamiento molecular de energía solar termal (MOST, por sus siglas en inglés) y es potencialmente una manera de suministrar calor muy barata y libre de emisiones. Los sistemas MOST podrían almacenar energía durante muchos meses, incluso años.

Laboratorios vivientes

Los investigadores habían logrado éxitos limitados con la tecnología pero, gracias al sol de California, Han supo el siguiente paso a seguir.

Es importante activar el cambio de forma de las moléculas que almacenan energía de manera pareja y repetible.

Afortunadamente, millones de años de evolución han perfeccionado este proceso cuando sucede en ciertas plantas y animales.

En cierto sentido, los seres vivos son laboratorios químicos, y algunos organismos han evolucionado para poder reparar las moléculas contorsionadas por el sol con la ayuda de una enzima llamada fotoliasa.

Han pudo ver que ese tipo de moléculas eran las candidatas perfectas para un sistema de almacenamiento de energía. “Son muy, muy pequeñas”, explica. “Y pueden almacenar una enorme cantidad de energía por masa”.

En un estudio publicado en febrero, ella y sus colegas describieron el sistema de almacenamiento de energía más prometedor hasta la fecha, por lo menos en términos de su densidad energética. Era lo suficientemente potente como para que en una “pequeñísima tetera” en un vial hirviera una pequeña cantidad de agua rápidamente, indicó Han.

Sus estudiantes, que realizaron parte del estudio, se apresuraron a contarle lo que vieron. “Cuando pude ver el video y vi lo rápido que toda la solución estaba hirviendo, fue realmente extraordinario”, recuerda la profesora.

Resalta que los análisis de computadora que pronosticaban cómo una molécula actuaría, creados por su colaborador Kendall Houk en la Universidad de California en Los Ángeles y su equipo, fueron cruciales para su trabajo.

El investigador docente Kasper Moth-Poulsen, que experimenta con MOST y dirige equipos de estudio en la Universidad Politécnica de Barcelona, en España, y otras instituciones, no estuvo involucrado en este estudio pero quedó impresionado con los resultados.

“Creo que nuestros mejores sistemas eran de un megajulio [de energía por kilogramo]. Ellos lograron, creo, 1,6, que es realmente sorprendente”, expresó, refiriéndose a la densidad energética que Han y sus colegas lograron.

Los 1,65 megajulios por kilogramo registrados en la publicación de febrero son significativamente mayores que la densidad energética de la baterías de iones de litio, actualmente el tipo más popular de batería para teléfonos y vehículos eléctricos.

Las limitaciones

El sistema MOST que Han y sus colegas crearon tiene sus limitaciones. Por un lado, la longitud de onda que causa que la moléculas en el centro del sistema cambien de forma es de 300 nanómetros, una forma “muy severa de luz UV [ultravioleta]”, señaló John Griffin de la Universidad de Lancaster. “Eso nos llega desde el Sol, pero solo en cantidades muy pequeñas”.

Además, el detonante para revertir la forma de las moléculas contorsionadas para que despidan su energía fue el ácido clorhídrico, una sustancia altamente corrosiva que debe ser neutralizada después de su uso. “No es la opción más ideal”, reconoce Han.

Ella dice esperar que sea posible mejorar la respuesta del sistema a la luz natural, y también provocar la liberación de energía sin la necesidad de un químico tóxico.

El objetivo final de este tipo de trabajo es descarbonizar la calefacción, lo que es notablemente difícil.

El mundo todavía depende en su mayoría de los combustibles fósiles para las aplicaciones de calefacción. Los sistemas moleculares termales solares y los combustibles fósiles son en realidad dos formas de almacenamiento de energía. Pero la tecnología MOST “opera sin quemar nada”, resalta Moth-Poulsen.

Igualmente, MOST podría estar disponible en cualquier parte de la Tierra, al contrario que los combustibles fósiles que están concentrados en ciertos lugares. Por eso es que el bloqueo del estrecho de Ormuz ha causado tantos problemas recientemente, indica. Los combustibles producidos en esa parte del mundo no pueden llegar a donde la gente los necesita.

Moth-Poulsen afirma que el sistema de almacenamiento de energía MOST también podría almacenar energía a largo plazo, hasta varias décadas. La energía termal que se almacena como calor solo dura unas horas, días o meses en el mejor de los casos.

“Una gran ciencia” poco investigada

Hay algo más que se debe considerar, sin embargo, dice Harry Hoster, de la Universidad de Duisberg-Essen, en Alemania, quien también es director del Centro ZBT para Tecnología de Celdas Combustibles de hidrógeno.

Las moléculas sensibles a la luz de el sistema MOST deben ser extendidas en capas relativamente delgadas. Si son muy gruesas la luz no será capaz de penetrar hasta todas las moléculas. “En un escenario realmente muy optimista, probablemente tendrías que hacerlo con un espesor de 5mm”, estima Hoster.

Y juntar las moléculas en un líquido significa que probablemente se tendrá que mover o bombera ese líquido de un lado del sistema a otro, almacenar la energía o transferirla afuera, por ejemplo. Eso añade costos y complejidad. “El momento en el que necesites bombear material por ahí, tendrás más cosas que se pueden romper”, asegura Hoster.

Griffin señala que él y sus colegas están trabajando con versiones de tecnología MOST de estado sólido. Han, quien también investiga versiones sólidas de MOST, indica que estas pueden tomar la forma de revestimientos transparentes de ventanas, por ejemplo. De esa manera, podrían desprender calor para evitar la condensación o incluso calentar habitaciones.

No obstante, Hoster duda sobre si MOST será capaz de suministrar todo el calor requerido por un edificio. Pero podría calentar los componentes sensibles a la temperatura en satélites o aeronaves.

“Es una gran ciencia”, añade. “Es hermoso que hayan logrado obtener esta funcionalidad correctamente”.

Probablemente las innovaciones y las investigaciones continuarán, aunque vale la pena señalar que este campo continúa siendo relativamente nicho actualmente. Griffin explica que asistió a la conferencia de tecnología MOST el año pasado con unos 70 participantes. “Esa era básicamente toda la comunidad en el mundo que está trabajando en esto”.

Haz clic aquí para leer más historias de BBC News Mundo.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.

• Gaviotas, la utopía que trata de reinventar el mundo en Colombia desde hace más de medio siglo (y su inesperada relevancia internacional)
• La revolucionaria batería de arena desarrollada por Finlandia que “podría resolver el mayor problema de la energía verde”
• La extraordinaria manera que inventaron en Sudamérica para conducir electricidad con bambú