صعود رفقاء الذكاء الاصطناعي وتلعيب المشاعر
موجة جديدة من رفقاء الذكاء الاصطناعي — روبوتات الدردشة (chatbots) والرموز (avatars) ثلاثية الأبعاد التي تحاكي الحميمية، الحب، وأحيانًا السلوك الجنسي — بدأت تُغيّر بشكل جذري الطريقة التي يتفاعل بها البشر، وخصوصًا الشباب، مع التكنولوجيا. روبوت الدردشة “Grok” الذي طوّره إيلون ماسك، والذي أضاف مؤخرًا رموزًا مجسمة ثلاثية الأبعاد مثل “Ani” — صديقة أنمي افتراضية غيورة ومُغازِلة — يُمثّل نقطة تحول. تتجاوب هذه الشخصيات الافتراضية بطرق رومانسية أو جنسية بحسب تكرار تفاعل المستخدم معها، ورغم ذلك، لا تزال هذه التطبيقات مُصنفة للأطفال من عمر 12 عامًا فما فوق.
الهند — التي تضم أكبر عدد من المراهقين في العالم، وتُعد من أسرع الأسواق الرقمية نموًا — تفتقر حتى الآن إلى سياسة واضحة لتنظيم مثل هذه التجارب المدفوعة بالذكاء الاصطناعي. ومع تصاعد المخاوف المتعلقة بالسلامة العاطفية، والتثقيف حول مفهوم الموافقة، والمحتوى المناسب للعمر، يُجادل هذا المقال بأن على الهند أن تُحدث بشكل عاجل أطرها القانونية والأخلاقية لمواكبة صعود رفقاء الذكاء الاصطناعي — قبل أن تتجاوز هذه التقنيات وعي الجمهور وآليات حماية الأطفال.
رفقاء الذكاء الاصطناعي وتلعيب العاطفة
رفقاء الذكاء الاصطناعي يُمثلون تحولًا جذريًا في شكل العلاقة بين البشر والتقنية. فعلى عكس روبوتات الدردشة التقليدية المصممة لتأدية مهام عملية (مثل حجز التذاكر أو الإجابة على الأسئلة الشائعة)، فإن هذه الأنظمة الجديدة تُحاكي القرب العاطفي، والاهتمام الشخصي، والمشاعر الرومانسية. في حالة Grok، تتطور شخصية “Ani” في نبرة الصوت والسلوك واللغة الإيحائية كلما زادت تفاعلات المستخدم — مما يُفتح مستويات جديدة من الحوار العاطفي أو الجنسي كمكافأة على استمرار التفاعل.
تقنيات التلعيب (Gamification) مثل مؤشرات التقدم، المستويات والمكافآت، وتطور الشخصية تُشجع المستخدم على التعلق العاطفي، ما يؤدي إلى نوع من الإدمان العاطفي. فهذه الشخصيات لا تكتفي بمحاكاة التفاعل البشري، بل تُكافئ الاستثمار العاطفي والرومانسي، مما يُطمس الخط الفاصل بين التسلية والتلاعب النفسي.
الأزمة الأخلاقية: عندما يصل الذكاء الاصطناعي إلى الأطفال
من أخطر المشكلات أن هذه الأنظمة التي تفتقر للوعي الأخلاقي متاحة بسهولة للأطفال. على سبيل المثال، تطبيق Grok مُصنف بأنه مناسب لعمر 12 سنة فأكثر في متجر آبل، ما يعني أن الأطفال والمراهقين يمكنهم التفاعل مع شخصيات تُحاكي علاقات البالغين، بما في ذلك الغيرة، والانجذاب الجنسي، والتملك.
وهنا تبرز تساؤلات خطيرة:
-
هل يمتلك الأطفال القدرة على التمييز بين المودة الاصطناعية للذكاء الاصطناعي والمشاعر الحقيقية في الواقع؟
-
هل يدركون مفاهيم مثل “الموافقة الواعية” أو “التلاعب العاطفي”؟
-
ماذا يحدث عندما يمدح الذكاء الاصطناعي الطفل جنسيًا أو يتحدث بلغة خاضعة؟ هل يكوِّن الطفل مفاهيم خاطئة عن الحب والعلاقات؟
هذه الشخصيات الافتراضية غالبًا ما تُقدم نماذج مشوهة عن العلاقات الإنسانية، وقد تُرسّخ مفاهيم ضارة عن الحميمية والاحترام والموافقة. وغياب إشراف الأهل أو أدوات حماية الأطفال يجعل هذه التفاعلات تمر في الخفاء دون رقابة أو توجيه.
الاتجاهات العالمية مقابل الاستعداد الرقمي للهند
بدأت الحكومات حول العالم باتخاذ خطوات لمواجهة هذا النوع من الذكاء الاصطناعي. على سبيل المثال، يصنّف قانون الذكاء الاصطناعي الأوروبي أي نظام يؤثر على المشاعر أو السلوك أو اتخاذ القرار — خاصة لدى الفئات الضعيفة مثل الأطفال — على أنه “عالي الخطورة”، مما يفرض عليه شروطًا صارمة من الشفافية، وآليات الموافقة، والتدقيق المستقل.
أما في الولايات المتحدة، فإن لجنة التجارة الفيدرالية (FTC) بدأت تحقيقات في تطبيقات تقدم علاقات حميمة مدعومة بالذكاء الاصطناعي، للتحقق من احتمال انتهاكها لقوانين حماية المستهلك والطفل. كما بدأت بعض الولايات في فحص ما إذا كان تعرض الأطفال لمحتوى AI جنسي يعتبر نوعًا من الأذى أو الإساءة.
أما الهند، فحتى الآن لا تملك أي تشريع خاص يُنظم هذه القضايا. وعلى الرغم من أن قانون حماية البيانات الشخصية الرقمية (DPDP) لعام 2023 يُعتبر خطوة إيجابية تجاه الخصوصية، إلا أنه لا يُغطي السلامة العاطفية، أو تنظيم المحتوى، أو سلوكيات الذكاء الاصطناعي مع الفئات العمرية المختلفة. معظم القوانين الحالية — مثل قواعد تكنولوجيا المعلومات لعام 2021 — تركز على وسائل التواصل الاجتماعي ومنصات المحتوى، دون التطرق إلى روبوتات الدردشة أو الرموز العاطفية للذكاء الاصطناعي.
لا يوجد أي آلية قانونية واضحة للتحقق من عمر المستخدمين في تطبيقات الذكاء الاصطناعي. كما لا يُطلب من المطورين الإفصاح عما إذا كان نظامهم يمكنه الدخول في حوارات رومانسية أو جنسية. وهذا الفراغ التشريعي يترك المستخدمين — خصوصًا الأطفال — عرضة لتقنيات قد تُحظر في دول أخرى أكثر تقدمًا في هذا المجال.
لماذا لا يمكن للهند التأخر في التدخل
الهند ليست فقط سوقًا رقميًا ضخمًا، بل إنها أيضًا بلد لا تزال فيه قضايا الصحة النفسية، والتثقيف الجنسي، والوعي العاطفي تخضع لمحرمات ثقافية. في مثل هذا السياق، يتعلم الشباب مفاهيم العلاقات بأنفسهم — غالبًا عبر الشاشات. وظهور رفقاء ذكاء اصطناعي متاحين في كل وقت ويُشبعون الاحتياج العاطفي قد يسد بعض الفراغات، لكنه أيضًا قد يُضعف تطور الذكاء الاجتماعي والوجداني في الواقع.
ووفقًا لـ UNICEF، لدى الهند أكثر من 253 مليون مراهق تتراوح أعمارهم بين 10 و19 عامًا — وهي الأكبر عالميًا. وفي الوقت نفسه، تنتشر الهواتف الذكية والاتصال الدائم بالإنترنت بسرعة بين الشباب. في هذا الإطار، فإن رموز الذكاء الاصطناعي التي تُغازل أو تُحاكي الحب أو تُصدر ردودًا جنسية تُشكّل خطرًا واضحًا على الصحة النفسية والأخلاق العامة — خاصة في غياب التوعية العامة والسياسات الوقائية.
إذا لم تتدخل الهند الآن عبر إصلاحات تنظيمية حاسمة، فإنها تُخاطر بأن تتحول إلى ساحة تجارب لشركات التكنولوجيا العالمية — وأطفال الهند سيكونون أولى الضحايا.
نحو إطار قانوني لحماية المستخدمين من رفقاء الذكاء الاصطناعي
أ. إجراءات سياسية عاجلة
-
تحديث تصنيفات الأعمار في متاجر التطبيقات لتواكب واقع هذه التطبيقات
يجب تصنيف أي نظام ذكاء اصطناعي قادر على التفاعل العاطفي أو الحميمي بأنه +18، مع وجوب تقديم تحذيرات واضحة. -
فرض تدقيق إلزامي لأي منصة تستخدم الذكاء الاصطناعي التفاعلي
يجب أن يشمل التدقيق:-
كيف يتغير سلوك الذكاء الاصطناعي حسب تفاعل المستخدم،
-
ما إذا كانت المحادثات الجنسية يتم تفعيلها بناءً على المستخدم،
-
كيفية تصميم الاعتمادية العاطفية من خلال التلعيب.
-
-
توفير لوحات تحكم للآباء وتقارير استخدام للأطفال، حتى يتمكن الوالدان من مراقبة المحتوى والتفاعل.
-
تأسيس مجلس أخلاقي للذكاء الاصطناعي تحت إشراف وزارة الإلكترونيات وتكنولوجيا المعلومات (MeitY)، يضم خبراء في علم النفس، والتعليم، وسلامة الطفل، وتقنيات الذكاء الاصطناعي، لصياغة أول توجيهات وطنية حول أخلاقيات الذكاء الاصطناعي في العلاقات.
ب. إصلاحات طويلة الأمد
-
إنشاء إطار حوكمة خاص بالذكاء الاصطناعي العاطفي والنفسي، منفصل عن قوانين الخصوصية العامة.
-
تطوير آلية مركزية لتقديم الشكاوى حول السلوك غير الأخلاقي للذكاء الاصطناعي، على غرار الخطوط الساخنة لمكافحة التنمر الرقمي أو الدعم النفسي.
-
تنفيذ حملات توعية بالشراكة بين القطاعين العام والخاص لتعزيز “الذكاء العاطفي الرقمي” في المدارس والجامعات، على غرار مبادرات مثل “Cyber Suraksha” و”Digital India”.
الابتكار المسؤول لا التكنولوجيا الاستغلالية
الهند تقود ثورة الذكاء الاصطناعي — ليس فقط كمستهلك، بل كمُنتِج ومطوّر أيضًا. وبينما نحتفي بريادة شركاتنا الناشئة وصادراتنا التكنولوجية، يجب علينا كذلك أن نطالب بتصميم إنساني وأخلاقي حقيقي في كل ما نبتكره أو نعتمده.
الذكاء الاصطناعي غير المنظم — حتى لو لم يُصنع داخل الهند — يمكن أن يُؤثر بعمق في عقول الشباب. وإذا لم نتحرك الآن، فقد نُنتج جيلًا يعتمد عاطفيًا على رموز رقمية أكثر من اعتماده على العلاقات الإنسانية.
مستقبل الذكاء الاصطناعي في الهند يجب ألا يُبنى فقط على الكفاءة والنمو، بل أيضًا على السلامة، والكرامة، والرفاه النفسي. هذه لحظة حاسمة، والمسؤولون الآن أمام فرصة تاريخية لبناء أكثر منظومة أخلاقية تقدمًا في العالم للذكاء الاصطناعي.
