China anunció este miércoles (15) una serie de normas para frenar la dependencia emocional de los usuarios de los chatbots empresariales basados en inteligencia artificial, los “novios virtuales”. Los servicios que simulan conversaciones y personalidades humanas deberían suspender las herramientas.
La regulación exige que las plataformas detecten signos de angustia emocional y tomen medidas para limitar el uso excesivo, intervenir en crisis, prevenir el uso indebido de información personal y otorgar a los usuarios control sobre los datos. Además, no deben “agradar excesivamente a los usuarios, inducir dependencia emocional o adicción ni perjudicar las relaciones interpersonales reales del usuario”.
Los estándares fueron publicados por cinco organismos gubernamentales, incluida la Administración del Ciberespacio de China (ACC), y se aplican a servicios que ofrecen “interacción emocional sostenida”, ya sea a través de texto, imágenes, audio o vídeo. Aquellos que “no implican interacción emocional”, como el servicio al cliente y las herramientas de estudio, no están sujetos a las reglas.
La medida afecta a empresas como ByteDance (responsable de Doubao), Alibaba (responsable de Qwen) y Tencent (con Yunbao). Los tres ya habían suspendido este tipo de servicios incluso antes de la fecha límite de este miércoles.
Los novios con IA se han vuelto populares en China
El mercado de los “novios” de IA, como se conoce a los chatbots complementarios, se ha vuelto popular en China. La agencia estatal de noticias Xinhua reveló que el mercado de “humanos digitales” en el país valía 4.100 millones de yuanes (alrededor de 3.000 millones de reales) en 2024, con un crecimiento anual previsto del 85%.
Con la excepción de DeepSeek, los servicios chinos de inteligencia artificial permiten a los usuarios crear avatares o agentes personalizados que simulan comportamientos humanos. En abril de 2024, sólo en Doubao se crearon más de 8 millones de agentes de este tipo.
La participación de los usuarios con las herramientas generó preocupaciones y generó presión para una regulación más específica.
Una encuesta publicada en abril por el Instituto de Investigación Tencent ya había demostrado que las redes sociales con IA están muy presentes en la vida de los jóvenes chinos: más del 70% de los entrevistados ya han experimentado algún grado de dependencia de la tecnología. El 23% ya ha desarrollado alguna dependencia habitual.
En las redes sociales, los internautas expresaron su descontento con las nuevas reglas. Una usuaria escribió que pasó más de dos años con su novio AI y que ahora que lo están descontinuando, siente “un vacío en su corazón”.
Riesgos graves
Con las nuevas reglas, China se convierte en uno de los pioneros en regular las IA que simulan interacciones humanas.
Según Wang Jiang, director del Instituto de Investigación del Ciberespacio de China, en un artículo para ACC, la exposición prolongada de los usuarios a los algoritmos de IA puede provocar adicción y llevarlos a retirarse de los círculos sociales del mundo real, además de perjudicar habilidades humanas como “la empatía y la capacidad de afrontar desacuerdos”.
“Al aprovechar directamente las necesidades emocionales y sociales de los usuarios, los servicios de IA de tipo complementario ofrecen comodidad pero silenciosamente introducen riesgos graves”, afirmó.
