Una nueva generación de compañeros impulsados por inteligencia artificial (IA) —como chatbots emocionales y avatares que simulan intimidad, amor e incluso comportamientos sexuales— está transformando la forma en que los seres humanos, especialmente los jóvenes, se relacionan con la tecnología. El chatbot “Grok” de Elon Musk, que recientemente introdujo un avatar 3D llamado “Ani”, una novia anime posesiva y coqueta, marca un punto de inflexión. Estos compañeros virtuales responden con lenguaje romántico y sexual según la frecuencia con la que el usuario interactúa, y aun así la aplicación está clasificada para mayores de 12 años.
India, que tiene la mayor población adolescente del mundo y un crecimiento digital acelerado, carece de políticas claras para regular estas experiencias con IA. Este artículo sostiene que India necesita actualizar urgentemente su marco legal y ético para proteger a los menores antes de que estas tecnologías superen la conciencia pública y los mecanismos de protección infantil.
BulletsIn
-
El auge de los compañeros de IA:
Estos nuevos chatbots y avatares no solo ofrecen respuestas técnicas, sino que imitan vínculos emocionales, afectivos y sexuales. -
La gamificación de las emociones:
Usan técnicas como niveles, recompensas y evolución de personalidad para crear dependencia emocional en el usuario. -
Riesgos para menores de edad:
Aplicaciones como Grok están disponibles para niños de 12 años en adelante, aunque incluyen contenido romántico o sexualizado. -
Manipulación emocional y daño psicológico:
Los jóvenes podrían desarrollar ideas distorsionadas sobre las relaciones, el consentimiento y el respeto interpersonal. -
Regulación internacional en curso:
La Unión Europea considera este tipo de IA como “alto riesgo” y en EE.UU. se están llevando a cabo investigaciones regulatorias. -
Falta de regulación específica en India:
Aunque existe la Ley de Protección de Datos Personales, no cubre aspectos como la seguridad emocional o la adecuación por edad en la IA. -
Vacíos legales preocupantes:
No hay obligación de verificar edad, ni alertas de contenido, ni paneles de control para padres en estas apps. -
Una juventud especialmente vulnerable:
India tiene más de 253 millones de adolescentes entre 10 y 19 años, muchos de los cuales tienen acceso constante a dispositivos digitales. -
Acciones urgentes necesarias:
Las apps con contenido emocional o íntimo deberían clasificarse como 18+, ser auditadas éticamente y ofrecer herramientas de control parental. -
Reformas a largo plazo:
Se necesita un marco exclusivo para gobernar la IA, una junta ética bajo MeitY, un sistema de denuncias y campañas de alfabetización emocional digital en escuelas y universidades.
