This post was originally published on this site.
Varios investigadores advierten que a medida que los grandes modelos de lenguaje asuman más tareas cognitivas, habrá un costo que pagar por esta externalización mental.
Cuando la investigadora Nataliya Kosmyna estuvo buscando pasantes, notó que las cartas de presentación que estaba recibiendo eran sospechosamente similares. Eran extensas, pulidas y, tras las presentaciones iniciales, a menudo saltaban a establecer una conexión abstracta y arbitraria con su trabajo.
Le resultó evidente que los candidatos estaban utilizando grandes modelos de lenguaje (LLM) -una forma de inteligencia artificial que impulsa a chatbots como ChatGPT, Google Gemini y Claude- para redactar sus cartas.
Al mismo tiempo, durante las clases en el campus del Instituto Tecnológico de Massachusetts (MIT), Kosmyna -quien estudia la interacción entre los humanos y los computadores- empezó a observar que varios estudiantes estaban olvidando los contenidos más fácilmente de lo que ocurría hace unos años atrás.
Ante la creciente dependencia que hay de los LLM, la profesora tuvo la intuición de que podrían estar afectando la cognición de sus estudiantes y decidió profundizar en el asunto para entenderlo mejor.
La preocupación
La preocupación de investigadores como Kosmyna es que, si llegamos a depender de la IA en exceso, se podría afectar el lenguaje que utilizamos e incluso nuestra capacidad para realizar tareas cognitivas básicas.
Actualmente existe un creciente conjunto de investigaciones que sugieren que esta “descarga cognitiva” hacia la IA puede tener un efecto corrosivo en nuestras capacidades mentales. Las consecuencias podrían ser alarmantes e incluso contribuir al deterioro cognitivo.
Es bien sabido que las herramientas que utilizamos pueden modificar nuestra forma de pensar.
Con la llegada de Internet, por ejemplo, tareas que antaño requerían una investigación exhaustiva podían resolverse simplemente introduciendo una consulta sencilla en un cuadro de búsqueda.
A medida que se intensificó el uso de los motores de búsqueda, diversas investigaciones revelaron que nuestra propensión a recordar detalles disminuía; un fenómeno que se ha bautizado como “el efecto Google”. (Algunos, no obstante, sostienen que Internet actúa también como un sistema de memoria externa que libera a nuestro cerebro para dedicarse a otras tareas).
Sin embargo, actualmente hay una creciente inquietud ante la posibilidad de que, a medida que delegamos una parte cada vez mayor de nuestro pensamiento a los grandes modelos lingüísticos (LLM) y otras formas de inteligencia artificial, los efectos sobre nuestra memoria y nuestra capacidad para resolver problemas puedan agravarse.
Las herramientas de inteligencia artificial son capaces de componer poesía convincente, ofrecer asesoramiento financiero e incluso brindar compañía.
Asimismo, los estudiantes están delegando cada vez más sus propias tareas a estas herramientas de IA.
Diversos estudios han demostrado ya que los jóvenes podrían ser especialmente vulnerables a los efectos negativos que el uso de la IA puede ejercer sobre habilidades cognitivas fundamentales, tales como el pensamiento crítico.
Kosmyna, sin embargo, quiso profundizar aún más en el análisis de estos posibles efectos.
Esfuerzo mental reducido
Ella y sus colegas del MIT Media Lab reclutaron a 54 estudiantes para redactar ensayos breves y los dividieron en tres grupos.
A uno se le indicó que utilizara ChatGPT. Un segundo grupo podía usar el buscador de Google, con los resúmenes generados por IA desactivados. El tercero no utilizó tecnología alguna. Se midieron las ondas cerebrales de cada estudiante mientras realizaban la tarea.
Los temas de los ensayos se plantearon deliberadamente de forma abierta, lo que significaba que la tarea requería muy poca investigación; las consignas incluían preguntas relacionadas con la lealtad, la felicidad o las decisiones que tomamos en nuestra vida cotidiana.
Los resultados aún no se han publicado en una revista científica, pero, no obstante, resultaron reveladores, según Kosmyna.
Aquellos que recurrieron únicamente a su propia mente mostraron un cerebro que estaba “en llamas”, evidenciando una actividad generalizada en muchas de sus áreas, según dijo la experta.
El grupo que solo utilizó el buscador mostró una actividad intensa en las zonas visuales del cerebro; sin embargo, el grupo que empleó ChatGPT presentó una actividad cerebral notablemente inferior: se redujo hasta en un 55 %.
“El cerebro no se quedó dormido, pero hubo mucha menos activación en las áreas correspondientes a la creatividad y al procesamiento de la información”, señala Kosmyna.
ChatGPT también afectó la memoria de los participantes. Tras entregar sus ensayos, los integrantes del grupo que utilizó la IA fueron incapaces de citar fragmentos de sus propios textos, y varios de ellos sintieron que no tenían ningún sentido de autoría sobre el trabajo realizado.
Otros estudios también han demostrado que las personas pierden capacidad para retener y recordar información cuando utilizan herramientas de inteligencia artificial como ChatGPT.
Si bien los hallazgos aún se encuentran en fase de revisión por pares, guardan similitud con los de otros estudios.
Una investigación realizada por expertos de la Universidad de Pensilvania sugiere que algunas personas experimentan lo que denominan “rendición cognitiva” al utilizar chatbots de inteligencia artificial generativa.
Esto implica que tienden a aceptar lo que la IA les dice con un escrutinio mínimo, e incluso permiten que esta interpretación prevalezca sobre su propia intuición.
Es posible observar efectos similares fuera del ámbito de los chatbots de IA, incluso en situaciones de vida o muerte.
Un equipo de investigación multinacional descubrió recientemente que los profesionales médicos que utilizaron una herramienta de IA para el cribado del cáncer de colon durante tres meses mostraron, posteriormente, una menor capacidad para detectar tumores sin la ayuda de la herramienta.
Delegar el trabajo a la IA conlleva también el riesgo de perder gran parte de la creatividad que genera obras originales, advierte Kosmyna.
Los ensayos que los estudiantes de su estudio redactaron con ChatGPT resultaron ser muy similares entre sí y fueron calificados por los profesores que los evaluaron como “carentes de alma”, al carecer de originalidad y profundidad, señala Kosmyna.
“Uno de los profesores llegó a preguntar si los estudiantes se habían sentado uno al lado del otro, dado lo sumamente parecidos que eran los ensayos”.
Si bien estudios como este ilustran los efectos a corto plazo que los modelos lingüísticos grandes (LLM) pueden tener en el cerebro, sus repercusiones a largo plazo resultan mucho menos claras.
El estudio realizado por Kosmyna y sus colegas ofrece un primer atisbo al respecto.
Cuatro meses después del estudio inicial, pidieron a los estudiantes que redactaran otro ensayo; sin embargo, en esta ocasión, se indicó a aquellos que habían utilizado ChatGPT que trabajaran sin el apoyo de un LLM.
La conectividad neuronal en sus cerebros resultó ser inferior a la de aquellos que habían realizado la transición en sentido inverso, lo cual podría sugerir que, en un primer momento, no se habían involucrado adecuadamente con los temas tratados.
Deterioro cognitivo
Los grandes modelos de lenguaje (LLM) pueden ser una herramienta positiva para estimular el pensamiento, pero solo si no dependemos de ellos delegando nuestras tareas mentales en el proceso, asegura la neurocientífica computacional Vivienne Ming, autora de “Robot Proof“.
No obstante, le preocupa que esta no sea la forma en que la mayoría de las personas interactúa con esta tecnología.
Su razonamiento se basa en una investigación que llevó a cabo para su libro, durante la cual Ming le pidió a un grupo de estudiantes de la Universidad de Berkeley que predijeran resultados del mundo real, como el precio del petróleo.
Descubrió que la mayoría de los participantes simplemente había acudido a la IA y copiado la respuesta.
Midió la actividad de las ondas gamma en sus cerebros -un indicador del esfuerzo cognitivo- y se dio cuenta que mostraba una activación muy escasa.
Vale la pena reiterar que su investigación aún no ha sido publicada; sin embargo, a Ming le inquieta que, si sus hallazgos se ven confirmados por estudios posteriores, esto podría tener implicaciones a largo plazo.
Otras investigaciones, por ejemplo, han vinculado una actividad débil de las ondas gamma con el deterioro cognitivo en etapas avanzadas de la vida.
“Eso es realmente preocupante”, afirma Ming. “Si ese se convierte en el modo natural en que las personas interactúan con estos sistemas -y estamos hablando de chicos inteligentes-, es algo negativo”.
El pensamiento profundo, sostiene, es nuestro superpoder.
“Si no lo ejercitamos, las implicaciones a largo plazo para la salud cognitiva son sumamente significativas”.
Esto se debe a que, cuando dependemos de los LLM, se requiere muy poco esfuerzo cognitivo, pero Ming añade que precisamente lo que un cerebro sano necesita es esfuerzo cognitivo.
Sin embargo, un pequeño subconjunto de participantes -menos del 10 %- trabajó de manera diferente y utilizó la IA como herramienta para recopilar datos que luego ellos mismos analizaron.
Estos individuos realizaron predicciones más precisas que los demás participantes y mostraron también una mayor activación cerebral.
Hace casi dos décadas, Ming predijo que, en un plazo de 20 a 30 años, íbamos a poder ver un aumento estadísticamente significativo en las tasas de demencia, directamente relacionado con nuestra excesiva dependencia de Google Maps.
“Mi intención era ser provocadora”, afirma Ming. “Si no tienes que pensar en cómo orientarte, entonces se producirá algún efecto detectable”.
Si bien no disponemos de datos sobre esta predicción exacta, el uso cada vez mayor del GPS se ha vinculado con un deterioro de la memoria espacial a lo largo del tiempo, según un estudio realizado con 13 personas a lo largo de tres años.
Además, una deficiente navegación espacial podría ser un posible predictor de la enfermedad de Alzheimer, de acuerdo con otro estudio.
Resulta evidente que, cuanto más activo se mantiene nuestro cerebro, mayor es su protección frente al deterioro cognitivo.
Por consiguiente -señala Ming-, los grandes modelos de lenguaje (LLM) no solo podrían mermar la creatividad, sino también perjudicar la cognición y, potencialmente, aumentar el riesgo de padecer demencia.
A medida que aumenta el uso de herramientas de IA, debemos trabajar con ellas de una manera que nos beneficie en lugar de perjudicarnos.
Ming sugiere que, en última instancia, el objetivo podría ser una forma de “inteligencia híbrida” en la que humanos y máquinas “aborden las tareas difíciles” de manera conjunta.
Con esto, ella quiere decir que primero debemos pensar por nuestra cuenta y utilizar las herramientas posteriormente para que nos desafíen, en lugar de simplemente permitir que respondan a nuestras preguntas.
Kosmyna coincide con este planteamiento y sugiere aprender las distintas materias sin recurrir a herramientas de IA en una primera etapa -a fin de sentar unas bases sólidas- para, solo entonces, considerar el uso de los grandes modelos de lenguaje (LLM).
Ming recomienda emplear lo que ella denomina la “instrucción némesis” para poner a prueba el razonamiento propio.
Este método consiste en pedirle a la IA que asuma el rol de un “enemigo acérrimo” o némesis y, a continuación, pedirle que explique detalladamente por qué nuestras ideas son erróneas y cómo podríamos corregirlas; de este modo, nos vemos obligados a defender y perfeccionar nuestros argumentos, en lugar de limitarnos a aceptar las respuestas que la herramienta nos ofrece.
Otra técnica que ella propone consiste en priorizar la “fricción productiva”, solicitando a la IA que se limite a proporcionar contexto y plantearnos preguntas, en lugar de facilitarnos las respuestas directamente.
Al poner a prueba este método -mediante la configuración de un bot de IA para que se abstuviera de dar soluciones-, observó que los usuarios mostraban un mayor grado de implicación y participación.
En definitiva, todos deberíamos mantenernos alerta ante los atajos cognitivos, algo que -tal como señala Kosmyna- “a nuestro cerebro le encanta”.
Evidentemente, para garantizar la salud cerebral a largo plazo, resulta indispensable que sigamos planteándonos desafíos constantes.
En este proceso, nuestra mente, nuestra creatividad y nuestra salud cognitiva saldrán beneficiadas.
Esta es una adaptación al español de una historia publicada originalmente por BBC Culture. Para leer la versión en inglés, haz clic aquí.
Haz clic aquí para leer más historias de BBC News Mundo.
Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.
También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.
