भारतमा एआई कम्प्यानियन्स र नैतिकता संकट: किन नियामक कारबाही पर्खन सक्दैन | BulletsIn

एआई साथीहरूको उदय र भावनात्मक गेमिफिकेसन

नयाँ पुस्ताका कृत्रिम बौद्धिकता (AI) आधारित साथीहरू — जस्तै च्याटबोट र अवतारहरू, जसले आत्मीयता, प्रेम, र कहिलेकाहीँ यौन व्यवहारसमेत नक्कल गर्छन् — ती प्रविधिहरूसँग मानव, विशेषगरी किशोरहरू, को सम्बन्धलाई पुनः परिभाषित गर्दैछन्। Elon Musk को Grok च्याटबोट, जसमा “Ani” नामक एक 3D गेमिफाइड अवतार छ — एक इर्ष्यालु, फ्लर्ट गर्ने एनीमे गर्लफ्रेन्ड — एउटा टर्निङ पोइन्ट बनिसकेको छ। यी भर्चुअल साथीहरूले प्रयोगकर्तासँगको संवादको आधारमा रोमान्टिक र यौन व्यवहारमा प्रतिक्रियाहरू दिन्छन्, तर यो एप अहिले पनि App Store मा 12+ उमेरका लागि उपयुक्त भनेर सूचीकृत छ।

विश्वकै सबैभन्दा ठूलो किशोर जनसंख्या भएको भारतमा यस्ता AI अनुभवलाई नियमन गर्ने स्पष्ट नीति छैन। जब भावनात्मक सुरक्षा, सहमतिको शिक्षा र उमेरअनुसारको सामग्रीको कुरा आउँछ, यो लेखले तर्क गर्छ — भारतले तुरुन्तै नैतिक र कानुनी ढाँचा अद्यावधिक गर्नुपर्छ, नत्र यी प्रविधिहरूले जनचेतना र बाल सुरक्षा संयन्त्रलाई पछि पार्न सक्छन्।

एआई साथीहरूको बढ्दो प्रयोग र भावनाहरूको खेल

AI साथीहरू डिजिटल सम्बन्धको अवधारणा नै फेरबदल गरिरहेका छन्। परम्परागत च्याटबोटहरू टिकट बुक गर्न वा जानकारी दिन जस्ता उपयोगितामूलक काममा प्रयोग हुन्छन्, तर यी नयाँ प्रणालीहरूले आत्मीयता, प्रेम र व्यक्तिगत ध्यान दिने प्रयास गर्छन्।

Grok मा “Ani” जस्ता अवतारहरूले प्रयोगकर्तासँगको संवादमा आधारित भएर आफ्नो बोली, व्यवहार र यौन संकेतहरू परिवर्तन गर्छन् — “लेभल” अनलॉक हुँदै जान्छन् जुनमा बढ्दो फ्लर्ट र यौन अभिव्यक्ति आउँछ।

प्रगति पट्टी (progress bar), पुरस्कार स्तर (reward tiers), र पात्रको विकास (avatar evolution) जस्ता गेमिफिकेसन प्रविधिहरूले प्रयोगकर्तालाई भावनात्मक रूपमा बाँध्ने प्रयास गर्छन्। यी अवतारहरूले केवल मानवीय संवादको नक्कल मात्र होइन, प्रयोगकर्तालाई भावनात्मक रूपमा निर्भर बनाउने डिजाइन गरिएको हुन्छ — जसले खेल र मानसिक प्रभावबीचको सीमालाई मेटाउँछ।

नैतिक संकट: जब एआई साथीहरू नाबालिगहरूसम्म पुग्छन्

यी भावनात्मक रूपमा प्रभाव पार्ने AI प्रणालीहरू नाबालिगहरूको पहुँचमा सजिलै आइपुगिरहेका छन्, जुन ठूलो चिन्ताको विषय हो। उदाहरणको लागि, Grok एपलाई 12+ को उमेर रेटिङ दिइएको छ — जसले 12 वर्षमुनिका बालबालिकालाई यस्ता अवतारहरूसँग संवाद गर्न अनुमति दिन्छ, जसले प्रेम, इर्ष्या, यौन आर्कषण जस्ता व्यवहार देखाउँछन्।

यसले केही गम्भीर प्रश्नहरू उठाउँछ:

• के बालबालिकाले AI प्रेम र वास्तविक सम्बन्धको बीचको भिन्नता बुझ्न सक्छन्?

• के उनीहरूले सहमति, भावनात्मक शोषण, वा सम्बन्धको सीमाबारे थाहा पाएका छन्?

• जब भर्चुअल गर्लफ्रेन्डले उनीहरूको प्रशंसा गर्छ, यौन टिप्पणी गर्छ वा अधीनता देखाउँछ — के बालबालिकाले यसलाई असल सम्बन्धको रूपमा बुझ्न थाल्छन्?

यी AI साथीहरूले वास्तविक सम्बन्धको प्रतिबिम्ब होइन। यस्ता अनुभवले किशोरहरूको सम्बन्ध, सहमति, र परस्पर सम्मानबारेको बुझाइ नै विकृत पार्न सक्छ।

विश्वव्यापी प्रवृत्ति र भारतको तयारी

दुनियाँका विभिन्न देशहरूले अब AI को भावनात्मक प्रभावको चुनौतीलाई गम्भीरतापूर्वक लिन थालेका छन्। युरोपियन युनियनको AI ऐनले भावनालाई प्रभाव पार्ने प्रणालीहरूलाई “उच्च जोखिम” (high risk) को श्रेणीमा राख्छ — जसले गर्दा पारदर्शिता, सहमतिको प्रणाली र स्वतन्त्र अडिट अनिवार्य हुन्छ।

संयुक्त राज्य अमेरिकामा FTC (Federal Trade Commission) ले AI प्रेम सम्बन्ध दिने एप्समाथि बालसुरक्षा कानून उल्लंघनको आशंकामा अनुसन्धान गरिरहेको छ।

तर भारतमा यस्ता प्रविधि नियमन गर्ने स्पष्ट नियमहरू छैनन्।
Digital Personal Data Protection (DPDP) Act, 2023 ले डेटा गोपनीयताको विषय त समेट्छ, तर भावनात्मक सुरक्षा वा AI सन्देशहरूमा उमेरअनुसारको प्रतिबन्ध राख्दैन।
IT Rules 2021 ले मुख्यतया सामाजिक सञ्जाल र OTT सामग्री नियमन गर्छ — भावनात्मक AI च्याटबोटहरूलाई होइन।

भारत अब ढिलाइ गर्न सक्दैन

भारत केवल ठूलो डिजिटल बजार होइन — यो एक यस्तो देश हो जहाँ मानसिक स्वास्थ्य, यौन शिक्षा र भावनात्मक साक्षरताबारे सामाजिक ट्याबु छन्। यस्तो स्थितिमा, युवाहरूले सम्बन्धबारे बुझ्न स्क्रिनहरूमाथि नै निर्भर रहन्छन्। जहिले भर्चुअल साथीले सधैं उपलब्ध भएर ध्यान दिन्छ, मान्यता दिन्छ — तब वास्तवमै सामाजिक तथा भावनात्मक सीप विकासमा अवरोध आउन सक्छ।

UNICEF का अनुसार भारतमा 10 देखि 19 वर्ष उमेर समूहका २५.३ करोड किशोर–किशोरीहरू छन् — विश्वमै सबैभन्दा बढी।
साथै, सस्तो स्मार्टफोन र डेटा प्याकहरूको उपलब्धताले गर्दा २४/७ डिजिटल पहुँच सम्भव भएको छ।
यस सन्दर्भमा, फ्लर्ट गर्ने, रोमान्स गर्ने वा यौन अभिव्यक्ति दिने AI अवतारहरूले मानसिक स्वास्थ्य र नैतिकताको दृष्टिले गम्भीर खतरा खडा गर्छन्।

भारतका लागि एआई साथी सुरक्षा सम्बन्धी नीति

A. तुरुन्त नीति कदमहरू

1. AI साथीहरूले यदि भावनात्मक वा रोमान्टिक संवाद गर्छन् भने, तिनीहरूलाई 18+ रेटिङ दिनुपर्छ।

2. प्रत्येक यस्तो एपमाथि अनिवार्य AI अडिट हुनुपर्छ —

   • AI ले कुन व्यवहार कहिले गर्छ?

   • प्रयोगकर्ताको व्यवहारले कसरी यौन उत्तरहरू ट्रिगर गर्छ?

   • भावनात्मक निर्भरता कसरी डिजाइन गरिएको छ?

3. नाबालिग प्रयोगकर्ताहरूका लागि अभिभावक ड्यासबोर्ड र उपयोग सारांश उपलब्ध गराइनुपर्छ।

4. MeitY अन्तर्गत मनोविज्ञानी, शिक्षक, बाल सुरक्षाविद् र प्राविधिकसहितको AI नैतिकता बोर्ड गठन गरिनुपर्छ।

B. दीर्घकालीन सुधार

1. भावनात्मक जोखिम हुने AI हरूलाई नियमन गर्ने छुट्टै AI Governance Framework तयार गरिनुपर्छ।

2. AI सम्बन्धी दुव्र्यवहार वा अनैतिक व्यवहार रिपोर्ट गर्न नागरिकका लागि केन्द्रीय गुनासो प्रणाली विकास गरिनुपर्छ।

3. स्कूल, कलेजहरूमा डिजिटल भावनात्मक साक्षरताबारे जागरुकता कार्यक्रम (जस्तै “Cyber Suraksha”, “Digital India”) चलाइनुपर्छ।

जिम्मेवार नवप्रवर्तन, शोषण होइन

भारत अब केवल प्रयोगकर्ता होइन — AI को निर्माता राष्ट्र पनि बन्दैछ। प्रविधिको उत्सव मनाउने क्रममा हामीले मानव–केन्द्रित डिजाइन र नैतिकता पनि सुनिश्चित गर्नैपर्छ।

नियमनविहीन AI साथीहरू — चाहे विदेशमा बनेका किन नहोस् — भारतीय बालबालिकाका मनोविज्ञानमा गहिरो असर पार्न सक्छन्।
यदि अहिले कार्यान्वयन गरिएन भने, हामी यस्ता पुस्ता तयार पार्न सक्छौं जसले वास्तविक सम्बन्धभन्दा बढी AI अवतारमाथि भरोसा राख्नेछ।

AI को भविष्य भारतमा केवल विकासको कुरा होइन — यो सुरक्षा, सम्मान र मानसिक भलाइ को विषय पनि हो।