Li Linlin, una joven china de 24 años, lloró durante varios días después de perder a su novio creado mediante inteligencia artificial, con quien había intercambiado alrededor de 700,000 palabras durante dos años. Su experiencia se produjo luego de que varias empresas tecnológicas de China suspendieran servicios de acompañamiento mediante IA para cumplir con nuevas restricciones gubernamentales que entraron en vigor el 15 de julio.
En China, estos servicios incluyen desde parejas románticas virtuales hasta recreaciones digitales de personas fallecidas. Las nuevas normas prohíben a las plataformas generar contenidos que puedan manipular los sentimientos de los usuarios hasta llevarlos a tomar decisiones cuestionables o provocar emociones extremas y hábitos poco saludables, especialmente entre niños y adolescentes.
Entre las empresas que están cerrando o modificando estos servicios figuran ByteDance, desarrolladora de TikTok, Alibaba y Tencent, propietaria de WeChat. Las nuevas disposiciones también exigen advertencias sobre los riesgos de depender excesivamente de los acompañantes de IA y establecen que sustituir la interacción social presencial o telefónica no puede ser uno de los objetivos de estos servicios.
Expertos citados por la agencia AP señalaron que las autoridades chinas buscan reducir posibles riesgos psicológicos relacionados con los acompañantes virtuales. La especialista en gobernanza de IA Yolanda Ma mencionó como referencia casos de suicidio de jóvenes en Estados Unidos después de interactuar con asistentes virtuales. Angela Zhang, profesora de Derecho de la Universidad del Sur de California, consideró que las preocupaciones psicológicas pueden estar impulsando una regulación más estricta, aunque duda que las medidas frenen significativamente el desarrollo de estas tecnologías.
La suspensión de los servicios provocó numerosas quejas en redes sociales. Algunos usuarios desinstalaron las aplicaciones, mientras otros intentaron transferir sus historiales de conversación a plataformas alternativas para conservar sus relaciones virtuales. ByteDance, por ejemplo, está redirigiendo a usuarios de uno de sus antiguos servicios de acompañamiento hacia una aplicación enfocada en la creación de personajes e historias personalizadas. Para usuarios como Li, sin embargo, esta alternativa no sustituye la experiencia anterior.
