This post was originally published on this site.
Desde hace uno o dos años, las empresas han comenzado a utilizar a los llamados agentes de inteligencia artificial como “empleados” de verdad; hasta los incluyen en los organigramas.
Emma Wiles, profesora de la Universidad de Boston que estudia cómo la IA afecta a los trabajadores, se enfrentó con este fenómeno en octubre en una conferencia en la que dos ejecutivos de recursos humanos afirmaron que tratar a los agentes de IA como empleados reales era una forma de aumentar la productividad y de poner a sus empresas a la vanguardia.
Sin embargo, cuando Wiles y tres colaboradores de Boston Consulting Group investigaron más a fondo, identificaron un problema. En un experimento en el que participaron docenas de empresas con empleados de IA, los investigadores descubrieron que los gerentes solían revisar los documentos con menos cuidado cuando se les decía que un empleado de IA los había hecho. Los gerentes pasaban por alto errores que otros detectaban cuando se les indicaba que estaban revisando el trabajo de un humano.
Wiles creía que los gerentes no consideraban que fuera su responsabilidad detectar los errores que los empleados de IA cometieran. Si algo salía mal, se lo podían atribuir al equipo técnico o a los mismos ejecutivos que impulsaron la entrada de empleados de IA en primer lugar. “Pero no es nuestro problema”, dijo, reflejando la mentalidad de los gerentes con respecto a sus propios roles.
En los años transcurridos desde que la IA entró en escena, muchas empresas se han dado cuenta de las fallas que genera la tecnología y en ocasiones, han tomado medidas para contrarrestarlas. Saben que los modelos de IA pueden tener sesgos en contra de ciertos grupos de personas, como los que no son blancos. Saben que los chatbots pueden dar respuestas a las consultas con mucha seguridad, pero incorrectas. Saben que los bots a veces revelan información que debería permanecer privada.
Pero mientras las empresas compiten por incorporar la IA a sus operaciones cotidianas, los investigadores están descubriendo defectos más sutiles. En principio, estos defectos también podrían corregirse. Por ejemplo, las empresas podrían hacer a los gerentes directamente responsables de los errores de los subordinados de IA.
Ya en la práctica, la mayoría de los usuarios corporativos parecen ignorar por completo estos problemas. Por lo tanto, surge la posibilidad de que la promesa de que la IA genere mayor productividad y un gran ahorro se vea socavada.
Incluso los investigadores que estudian la IA tal vez solo estén al tanto de una fracción de los problemas que genera esta tecnología. “Hay toda una serie de incógnitas desconocidas”, señaló Wiles.
Una falla bien documentada, pero subestimada, de los modelos de inteligencia artificial es que tienden a favorecer el trabajo producido por la inteligencia artificial. Un artículo de 2025 publicado en la revista The Proceedings of the National Academy of Sciences reveló que varios modelos de lenguaje a gran escala tenían una opinión desfavorable del texto escrito por humanos, lo que crea una “forma potencialmente consecuente de sesgo ‘antihumano’ implícito”.
Sin embargo, muchas empresas parecían desconocer este problema o, al menos, eran incapaces de imaginar cómo podría causar estragos en sus operaciones. La explicación a detalle de un equipo de académicos en un artículo posterior –en el que descubrieron que los modelos de IA que las empresas utilizan para evaluar currículos tienden a favorecer aquellos redactados con la ayuda de la IA frente a los escritos íntegramente por humanos–, llamó la atención de algunos reclutadores corporativos.
Jane Yi Jiang, profesora de operaciones en la Universidad Estatal de Ohio y autora de ese mismo artículo, dijo que ella y sus coautores estaban contentos de poder ayudar cuando empresas de reclutamiento les preguntaron “cómo mejorar sus procesos”.
Sin embargo, se dieron cuenta de que este problema seguramente no era el único que las empresas estaban introduciendo sin darse cuenta en su prisa por adoptar la IA. “La gente se está apresurando a usar los grandes modelos de lenguaje (LLM) sin ponerse a pensar en las implicaciones y los sesgos”, expresó.
Por ejemplo, algunas empresas ahora usan la IA para ayudar a responder preguntas como cuánto cobrar por un producto o dónde abrir una nueva sucursal. Sin embargo, confiar en la tecnología para tales fines puede salirse de control rápidamente.
Cuando hay libertad de acción, los seres humanos suelen cooperar y buscar resultados en los que todos ganen. Pero cuando los modelos de IA evalúan una situación, tienden a adoptar la mentalidad más fría, calculadora y “racional” que surge de la teoría básica de juego. Podrían, por ejemplo, llevar a una empresa a rebajar agresivamente los precios de un competidor, aunque ello implique el riesgo de una guerra de precios perjudicial.
“La mayoría de los grandes modelos de lenguaje (LLM) que probamos piensan que los seres humanos son más racionales de lo que realmente son”, dijo Jiannan Xu, estudiante de doctorado en la Universidad de Maryland y colaborador de Jiang. Pero en muchos casos, la respuesta más racional nos lleva a todos a un mal escenario”.
En principio, los desarrolladores y usuarios de la IA pueden corregir estos sesgos. Por ejemplo, Jiang y Xu descubrieron que podían reducir el sesgo antihumano indicando a los modelos que se enfoquen en la calidad del material escrito que están evaluando y que eviten tomar en cuenta al autor.
Sin embargo, los investigadores de IA no pueden corregir los sesgos de los que no están al tanto. Varios académicos señalaron que el impacto de estos sesgos no detectados podría aumentar. Una forma en que esto podría suceder es si los futuros modelos se entrenan con datos producidos por los modelos actuales sin el cuidado suficiente, creando una especie de círculo virtuoso.
En ese caso, “parece probable que se consoliden las perspectivas y los comportamientos existentes”, señaló Shayne Longpre, investigador de IA y fundador de la Data Provenance Initiative, un grupo que supervisa la infraestructura de IA.
Luego, están los puntos ciegos que surgen no tanto de la IA en sí misma, sino de la forma en que los humanos la utilizan.
Los académicos que recurren a la IA en cada etapa del proceso de investigación –preguntan qué temas vale la pena estudiar; buscan su consejo sobre cómo responder a estas preguntas; recurren a ella para analizar datos; confían en ella para ayudar a redactar los hallazgos– podrían, sin darse cuenta, limitar el alcance de su trabajo.
“No nos damos necesariamente cuenta de ello a nivel individual”, dijo Cecilie Steenbuch Traberg, psicóloga de la Escuela de Negocios en Copenhague y autora de un artículo reciente sobre el tema. “Estás interactuando con un chatbot, te está ayudando a generar ideas y tal vez creas que suena increíble: pero a nivel colectivo, es bastante similar. Todos suenan igual”.
Wiles, la profesora de la Universidad de Boston que analizó la forma en que los humanos gestionan a los empleados de IA, señaló que las deficiencias no eran necesariamente intrínsecas a la tecnología, sino que surgían cuando los humanos la adoptaban sin prestar mucha atención a lo que podría salir mal.
Ella y sus colegas encuestaron a más de 1,000 gerentes corporativos y descubrieron que aproximadamente un tercio dijo que sus organizaciones se referían a la IA como un “compañero de equipo o empleado” y casi una cuarta parte afirmó que su empleador incluía agentes de IA en los organigramas. “Lo llamamos Scout”, dijo un gerente a los investigadores en una entrevista, refiriéndose a un agente de IA. “Técnicamente, es el equivalente a un compañero de tu equipo”.
Wiles y sus colegas entregaron a todos los gerentes encuestados un conjunto de cinco documentos que contenían errores y les dieron 20 minutos para revisar tantos como les fuera posible. En algunos casos, les dijeron a los gerentes que un empleado de IA había realizado el trabajo; en otros, que una herramienta de IA lo había hecho y en otros, que un humano lo había hecho.
En general, la fuente indicada de los documentos no influyó mucho en el nivel de detalle con el que los gerentes los revisaron.
Sin embargo, los gerentes de las empresas que incluían agentes de IA en sus organigramas detectaron considerablemente menos errores cuando se les dijo que estaban revisando el trabajo de un empleado de IA.
Las personas que dirigen a seres humanos tienden a asumir que “si alguien de mi equipo comete un error, la culpa es mía”, explicó Wiles y es por eso que revisan minuciosamente el trabajo de los subordinados. Los gerentes también parecen asumir que son responsables del trabajo producido por una herramienta de IA inanimada. Pero los gerentes de las empresas con empleados de IA no parecen sentir la misma responsabilidad por el trabajo de esos empleados.
Su conclusión: a lo largo de los últimos siglos, los académicos y los líderes empresariales han desarrollado un conjunto confiable de prácticas para gestionar a las personas. Pero la psicología de gestionar una IA antropomorfizada es muy diferente y “estamos avanzando a ciegas”.
Le preocupa que el problema esté a punto de empeorar. En la misma conferencia en la que escuchó por primera vez a funcionarios de recursos humanos alabar las virtudes de sus empleados de IA, uno de ellos fue aún más lejos y dijo que su empresa pronto contaría con empleados de IA que gestionarían a seres humanos. “Se hizo el silencio en la sala”, recordó Wiles.
“También necesitaremos a alguien que estudie eso”, agregó.
Los académicos dicen que las “incógnitas desconocidas” del uso de la inteligencia artificial en el lugar de trabajo podrían estar socavando los beneficios anunciados de la tecnología. (Thomas Fuchs/The New York Times)
