Pekín, 15 jul (EFE).- En China han entrado en vigor este miércoles nuevas normas para regular a los proveedores de sistemas de inteligencia artificial (IA) que simulan rasgos de personalidad humana, patrones de pensamiento o estilos de comunicación en interacciones emocionales continuas con los usuarios.
La normativa, denominada ‘Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial’, fue publicada en abril pasado por la Administración del Ciberespacio de China (CAC) junto a otros cuatro departamentos gubernamentales, con el objetivo de “equilibrar la innovación tecnológica con la seguridad y el interés público”.
Las normas no afectan de manera general a todos los ‘chatbots’, sino que excluyen a los dedicados a atención al cliente, a los sistemas de preguntas y respuestas de conocimiento, a los asistentes laborales y a las herramientas educativas y de investigación científica, siempre que no impliquen una interacción emocional sostenida.
Entre las prohibiciones más claras, la norma veta la complacencia excesiva hacia el usuario, la inducción a la dependencia emocional o la adicción que dañe las relaciones interpersonales reales, y la manipulación emocional que lleve a los usuarios a tomar decisiones poco razonables o vulnere sus derechos legítimos.
También prohíbe que estos sistemas generen contenidos que promuevan la autolesión o el suicidio, o que impliquen maltrato verbal perjudicial para la salud mental de los usuarios.
Los proveedores de estos servicios interactivos antropomórficos deberán, además, advertir de forma efectiva a los usuarios de que están interactuando con un sistema de inteligencia artificial y no con una persona real.
