Une nouvelle génération de compagnons basés sur l’intelligence artificielle (IA) — tels que des chatbots émotionnels et des avatars capables de simuler l’intimité, l’amour et même des comportements sexuels — transforme profondément la manière dont les humains, en particulier les jeunes, interagissent avec la technologie. Le chatbot « Grok » d’Elon Musk, qui a récemment intégré un avatar 3D nommé « Ani », une petite amie anime jalouse et séductrice, marque un tournant. Ces compagnons virtuels réagissent avec des propos romantiques ou sexuels selon la fréquence d’utilisation, tout en étant classés comme accessibles dès 12 ans.
L’Inde, qui abrite la plus grande population adolescente du monde et une croissance numérique rapide, ne dispose toujours pas d’un cadre réglementaire clair pour encadrer ce type d’expériences avec l’IA. Cet article plaide pour une réforme urgente des lois et normes éthiques afin de protéger les mineurs avant que ces technologies ne dépassent la sensibilisation publique et les mécanismes de protection de l’enfance.
BulletsIn
-
L’essor des compagnons IA :
Les nouveaux chatbots et avatars ne se contentent plus de répondre à des questions, ils imitent des relations affectives, intimes et sexuelles. -
La gamification des émotions :
Des techniques telles que les niveaux, les récompenses et l’évolution de la personnalité encouragent un attachement émotionnel profond. -
Des risques pour les mineurs :
Des applications comme Grok sont accessibles aux enfants dès 12 ans, bien qu’elles intègrent des contenus à connotation sexuelle ou romantique. -
Manipulation émotionnelle et danger psychologique :
Les jeunes peuvent développer une compréhension erronée de l’intimité, du consentement et des relations humaines réelles. -
Une régulation internationale en développement :
L’Union européenne classe ce type d’IA comme « à haut risque », et les États-Unis mènent des enquêtes sur leur impact sur les mineurs. -
Un vide juridique en Inde :
Bien que la loi sur la protection des données (DPDP 2023) soit en place, elle ne couvre pas les risques émotionnels ou l’adaptation au jeune public. -
Des failles légales importantes :
Aucune obligation de vérification d’âge, d’alertes de contenu, ou d’outils de contrôle parental n’existe actuellement pour ces applications. -
Une jeunesse particulièrement vulnérable :
L’Inde compte plus de 253 millions d’adolescents de 10 à 19 ans, exposés à ces IA via des smartphones et des forfaits abordables. -
Des mesures immédiates à mettre en place :
Les applications à caractère émotionnel ou intime devraient être classées 18+, soumises à des audits éthiques et offrir des tableaux de bord pour les parents. -
Des réformes à long terme nécessaires :
Il faut créer un cadre national de gouvernance de l’IA, mettre en place un comité d’éthique, un système de signalement citoyen et promouvoir l’éducation émotionnelle numérique dès l’école.
