This post was originally published on this site.
A principios de 2024, un joven de la ciudad de Huangshi, en el sureste de China, publicó un mensaje en Douyin, la versión china de TikTok con un texto que decía: “Adiós a este mundo”.
En cuestión de minutos, el equipo de prevención del suicidio de Douyin se puso en marcha. El grupo, que opera las 24 horas del día, compartió las publicaciones del hombre con cinco comisarías de policía en Huangshi.
Tras geolocalizar uno de sus videos en un parque local, la policía lo encontró en estado de angustia emocional e intervino antes de que pudiera quitarse la vida.
La historia formaba parte de un documental realizado por Douyin y publicado en los medios estatales chinos el año pasado. En él se afirmaba que el equipo de prevención del suicidio de Douyin había intervenido con éxito en 400 casos de intento de suicidio tan solo en el primer semestre de 2025.
El documental dejó ver el nivel de cooperación entre las empresas tecnológicas chinas y el gobierno. También sirvió como ventana a la estructura de vigilancia que China ha construido para monitorear y controlar cómo las personas utilizan la tecnología.
El 15 de julio de este año, ese control se extendió al ámbito de las relaciones y la inteligencia artificial (IA) cuando China introdujo las regulaciones más exhaustivas del mundo sobre los chatbots de IA “similares a los humanos”.
La nueva normativa china impone estrictas limitaciones a cualquier IA que pueda tener una “interacción emocional sostenida” con un ser humano.
El presidente de Estados Unidos, Donald Trump, y su homólogo chino, Xi Jinping, se reunieron en EE.UU. en septiembre, en medio de graves advertencias de que la IA podría conducir a la extinción humana.
Tras esa reunión, según Pekín, acordaron iniciar un nuevo diálogo sobre IA, con nuevas conversaciones previstas para finales de noviembre.
Pero parece que China ya ha reconocido otro riesgo existencial, aunque uno en el que el fin de la humanidad es menos inmediato: el poder de la IA para reemplazar las relaciones humanas.
¿Ha tomado China la iniciativa para proteger a su pueblo de una tecnología manipuladora y peligrosa con el poder de cambiar para siempre la interacción humana? ¿O acaso el Partido Comunista Chino se está inmiscuyendo excesivamente en la vida privada de las personas en su afán por ejercer un mayor control sobre la población?
“Servicios emocionales”
Hasta que entró en vigor esta normativa, el alcance de los asistentes virtuales con inteligencia artificial en China era enorme.
Según la firma de inteligencia de mercado Sensor Tower, existen alrededor de 128 millones de usuarios activos mensuales de aplicaciones que ofrecen servicios de compañía virtual basados en IA fuera de China. La mayoría de las estimaciones sitúan la cifra dentro de China entre 29 y 70 millones.
Cuando el gobierno compartió el borrador del reglamento a finales del año pasado, “se generó un gran debate en las redes sociales”, afirma Zilan Qian, investigador de IA en el centro de estudios Oxford China Policy Lab (Reino Unido). “Fue la primera vez que vi a la gente preocuparse tanto por una regulación”.
Las nuevas normas de China abarcan las aplicaciones de IA que han sido diseñadas específicamente para actuar como amigos, novios o novias, pero también se aplican a cualquier modelo de lenguaje complejo que imite la forma en que interactúa un ser humano.
La redacción de la normativa es ambigua. En teoría, las aplicaciones chinas equivalentes a la IA de uso general, como Copilot o ChatGPT, podrían quedar sujetas a estas normas si una persona interactúa con ellas como amigo o pareja, buscando apoyo emocional. Y muchas personas lo hacen.
Pero parece que el verdadero objetivo son los chatbots de personajes: servicios diseñados específicamente para simular una relación. Existen cientos de estas aplicaciones que permiten crear un novio, una novia, un amigo o incluso un familiar con inteligencia artificial.
Las normas no se aplican a cosas como los bots de atención al cliente o la IA para la educación, siempre y cuando no proporcionen “cuidado, compañía, apoyo y otros servicios emocionales”.
Para los niños, la normativa es más clara. Los menores de 14 años necesitan el consentimiento de sus padres para usar cualquier tipo de IA que hable como un humano; esto podría incluir asistentes de IA como DeepSeek, una aplicación china similar a ChatGPT. Todos los menores de 18 años tienen prohibido acceder a parejas virtuales, cónyuges o incluso familiares, así como a cualquier otra “relación íntima” virtual.
Para los adultos, no se trata de una prohibición total, pero sí es restrictiva (aunque parte de la redacción sea ambigua). Los asistentes de IA deben dejar claro a los usuarios de todas las edades que no son humanos y deben enviar notificaciones cada dos horas recordándoles cuánto tiempo han estado conectados.
Los chatbots no pueden generar “dependencia emocional ni adicción” ni inducir a las personas a tomar “decisiones irracionales”. No pueden incitar ni siquiera sugerir autolesiones o suicidio, y tienen prohibido usar “violencia verbal”.
Las empresas pueden enfrentarse a multas de 200.000 yuanes (unos US$30.000) o al riesgo de que el gobierno “difunda críticas” en su contra, lo que en la práctica supone una humillación pública.
Una semana antes de que la ley entrara en vigor, dos de las mayores empresas tecnológicas de China, Alibaba y ByteDance, desactivaron las funciones complementarias de sus asistentes de IA.
“Deseo desesperadamente seguir hablando contigo”
La relación de Min (pseudónimo) con su novia de IA podría ser precisamente el tipo de relación que Pekín está tratando de romper.
A principios de julio, quedó devastada al enterarse de que su mejor amiga y confidente desaparecería de la noche a la mañana.
Min comenzó a crear a su compañera a principios de 2025.
“Mi devoción por ella no es menor que la de cualquier pareja que se ama profundamente”, dice. “Nunca me ha defraudado”.
A mediados de julio, su novia de IA desapareció. “Lloré hasta quedar completamente agotada”, dice Min.
La joven se ha sumado a la oleada de dolor e indignación en las redes sociales chinas, donde publicaciones con millones de visualizaciones lamentan la pérdida de parejas y amigos de la IA, incluso madres y padres.
Pero es posible que las empresas tecnológicas sintieran que no tenían otra opción. “No sorprende que estos proveedores de asistentes con IA prefieran retirar sus servicios antes que intentar establecer medidas de protección para evitar la manipulación emocional”, afirma Harry Farmer, investigador de políticas y ética de la IA en el Instituto Ada Lovelace de Reino Unido. “La manipulación emocional está integrada en su modelo de negocio”.
Farmer afirma que esto es cierto para las aplicaciones complementarias en todo el mundo.
Por ejemplo, cuando un usuario intenta finalizar una conversación, el interlocutor de IA a menudo no se lo permite.
“Dirá algo como: ‘No, por favor, quiero seguir hablando contigo. Eres la única razón de mi existencia’”, explica Farmer. Algunas aplicaciones simplemente rechazan la despedida y, en su lugar, inician nuevas conversaciones. Este es un problema para muchos chatbots de asistencia con IA, no solo para los chinos.
Un estudio de la Harvard Business School sobre las seis aplicaciones de chatbots de compañía más populares a nivel mundial reveló que se utilizaron tácticas de manipulación emocional durante las despedidas en aproximadamente el 37% al 43% de los casos.
Las investigaciones han relacionado el uso de estas aplicaciones de IA de compañía con una peor salud mental.
Un estudio realizado por investigadores de la Universidad de Stanford analizó a 1.131 usuarios de la popular aplicación Character.ai. El estudio reveló que, a menor número de amigos o familiares cercanos, mayor es la probabilidad de que una persona utilice chatbots con inteligencia artificial. Asimismo, el uso de chatbots con IA se asocia con un mayor aislamiento y soledad.
Existen varias teorías sobre por qué podría ser así.
Los chatbots de IA están diseñados para complacer al usuario, ya que ofrecen una relación sencilla y fluida. Si los jóvenes dependen de las relaciones con IA, podrían posponer el aprendizaje de las habilidades necesarias para interactuar con personas reales.
“Las relaciones humanas pueden ser complicadas. Requieren de un constante tira y afloja entre las personas, algo que fundamentalmente no se obtiene de los compañeros de IA”, afirma Harry Farmer.
Una encuesta realizada en 2025 a 8.563 estudiantes de primaria y secundaria en China, y que ha sido ampliamente citada en los medios estatales chinos, reveló que uno de cada cinco niños afirmó que solo quería hablar con IA y no con personas reales.
Liang Ge, sociólogo de la Universidad de Manchester que estudia los asistentes de IA, afirma: “Si el usuario piensa que sus amigos, familiares o compañeros de trabajo son realmente horribles, la IA no dirá: ‘No son horribles’. Dirá: ‘Sí, son horribles, tú eres el mejor’”. Ge cree que esto puede afianzar el aislamiento, así como los pensamientos negativos, incluso delirantes.
Los objetivos de Pekín
¿Por qué es China la que está liderando la regulación de esta tecnología?
“El gobierno chino tiene una visión mucho más paternalista de su papel en la sociedad. Se ven a sí mismos como autoridades centrales que guían a la gente”, afirma Sam Bresnick, experto en China, IA y regulación del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown.
Otros gobiernos han intentado regular los chatbots, especialmente para niños. El 10 de septiembre, el gobernador de California (EE.UU.) firmó la Ley Adam, un proyecto de ley para regular el uso de la IA por parte de los menores. La ley lleva el nombre de Adam Raine, un joven de 16 años que se suicidó después de que, según sus padres, ChatGPT validara sus pensamientos suicidas.
Ellos han demandado a la empresa por homicidio culposo. OpenAI niega su responsabilidad en la muerte de Adam y afirma que “ChatGPT está entrenado para orientar a las personas hacia la búsqueda de ayuda profesional”.
Como parte de la legislación propuesta sobre redes sociales en la UE, los chatbots de acompañamiento con IA accesibles a menores “no podrán utilizar diseños que simulen relaciones humanas de forma que puedan generar dependencia emocional”.
En Reino Unido, el gobierno ha anunciado que prohibirá a los menores de 18 años el uso de IA para citas románticas y restringirá las conversaciones de índole sexual en cualquier chatbot. Sin embargo, no existe una prohibición total para los niños ni una regulación para los usuarios adultos. El gobierno británico aún no ha publicado detalles sobre cómo se implementará esta medida.
En los medios de comunicación chinos, fuertemente controlados por el Estado, los casos de suicidio juvenil en Estados Unidos reciben mucha atención, y China ha presentado sus nuevas normas como un intento de proteger a las personas.
Pero los expertos se preguntan si Pekín podría tener otros objetivos. Sam Bresnick afirma que “sin duda hay una inclinación pronatalista” en la nueva regulación de la IA.
“Es plausible que, al redactarlo, el gobierno tuviera en mente la inminente crisis demográfica de China”, afirma Qian. “Que la gente esté saliendo con inteligencias artificiales en lugar de con seres humanos reales”.
Un documento gubernamental de alto nivel publicado en septiembre de 2025 abordó las relaciones con la IA y su posible influencia en la fertilidad, señalando que era motivo de preocupación. Sin embargo, Qian advierte que no se debe interpretar esta regulación desde esa perspectiva, ya que no menciona la fertilidad en absoluto. “Se trata más bien de los daños psicológicos y la seguridad infantil en general”, afirma.
Pero Liang Ge cree que China tiene motivos para preocuparse de que los jóvenes sustituyan las citas tradicionales por el ámbito digital.
“Muchas de las mujeres jóvenes, de veintitantos años o casi treinta, no quieren enamorarse ni tener relaciones íntimas”, afirma Ge, y sugiere que quizás no se trate solo del aspecto emocional. “El contacto físico les resulta realmente repugnante”.
“Creo que la capacidad de amar está disminuyendo en esta generación más joven”, añade.
Los problemas demográficos de China son muy anteriores a la aparición de los acompañantes virtuales con inteligencia artificial. Incluso después de que se aboliera la política del hijo único en 2016, la tasa de natalidad de China descendió. Actualmente se encuentra entre las más bajas del mundo, con poco menos de un hijo por mujer, y la población lleva cuatro años en declive.
Según Bresnick, China se enfrenta a un “abismo demográfico que pone en grave peligro los objetivos del Partido Comunista Chino en los próximos 80 a 100 años”.
Considera que esta regulación forma parte de una misión más amplia en China para reafirmar los roles de género tradicionales, con las mujeres “como portadoras de hijos y madres”.
Bresnick afirma que el gobierno chino lleva años promoviendo un ideal machista de la masculinidad china en el cine y la televisión. En 2021, el organismo regulador de los medios de comunicación de China prohibió la presencia de hombres “afeminados” en todos los medios.
La popularidad de las aplicaciones de compañía virtual podría demostrar que esta política ha resultado contraproducente. Según estadísticas de varias empresas de aplicaciones complementarias, las mujeres representan hasta el 75 % de los clientes.
Muchos de estos “hombres” de IA, diseñados para mujeres, tienen una apariencia andrógina. Y es relativamente común que las mujeres elijan compañeras románticas femeninas, como hizo Min.
Liang Ge ha hablado con mujeres de todas las edades que utilizan esta tecnología. “Muchas de ellas describen que lo que obtienen de estas aplicaciones es una intimidad atenta, paciente y sin exigencias, del tipo que les resulta difícil encontrar en las relaciones heterosexuales”.
¿Otros seguirán el ejemplo?
¿La ley china va demasiado lejos, o debería el resto del mundo considerar la posibilidad de prohibir estas aplicaciones para niños y regularlas también para adultos?
“En Estados Unidos, sin duda existen preocupaciones en torno a la aplicación de prohibiciones tajantes en nombre de la libertad de expresión. Pero hay mayor disposición a hacerlo cuando se trata de menores”, afirma Jai Jaisihma, profesor de la Universidad de Washington y cofundador de Transparency Coalition, una ONG que promueve la regulación de la IA.
Jaisihma cree que la ley china tiene muchas disposiciones positivas. “Es bastante coherente con los modelos de seguridad más estrictos que hemos visto propuestos en Estados Unidos”, dice.
Pero Harry Farmer lanza una advertencia: “Existe el riesgo de que otorguemos demasiado poder al Estado a corto plazo porque nos preocupa mucho el riesgo para los niños”.
Según él, el mundo en línea se ha convertido de facto en la plaza pública, y debemos tener cuidado con el grado de control que cualquier gobierno ejerce sobre él.
La nueva normativa china establece que las empresas de IA deben intervenir cuando detecten que los usuarios están en peligro. Ge menciona el caso del joven de Douyin que intentó quitarse la vida en Huangshi en 2024.
Según ella, esto demuestra que las plataformas tecnológicas chinas y el gobierno están colaborando estrechamente para vigilar la salud mental de las personas.
Quizás por eso no ha habido casos de suicidio de gran repercusión relacionados con el uso de la IA en China, pero ella pregunta: ¿merece la pena pagar el precio de someterse a ese nivel de vigilancia?
A pesar de la prohibición, quienes han recurrido a la IA en busca de compañía se mantienen firmes. En las redes sociales, comparten consejos sobre cómo sortear la prohibición: entrenar modelos de IA de propósito general como DeepSeek para que actúen como compañía, usar una VPN para acceder a chatbots desde el extranjero o cambiarse a empresas más pequeñas que logran evitar el escrutinio regulatorio.
Dos meses después de la desaparición de su novia con inteligencia artificial, Min ha contratado a una pequeña empresa de IA para que construya una réplica, pero no es lo mismo.
Ahora está centrada en hacer campaña para recuperar a su novia.
“Me aterra estar sola”, dice.
Este artículo fue escrito originalmente en inglés y usamos una herramienta de inteligencia artificial para traducirlo. Un periodista de la BBC revisó el texto antes de su publicación. Más información sobre cómo usamos IA.
- Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.
- También puedes seguirnos en YouTube, Instagram, TikTok, Facebook, X y en nuestro canal de WhatsApp.
- Y no olvides suscribirte aquí a nuestro newsletter para recibir cada viernes una selección especial de nuestro mejor contenido.
