विश्वास आणि सुरक्षिततेचे पतन आणि भविष्य: इंटरनेटच्या अदृश्य संरक्षकांमध्ये खोलवर जाणे | BulletsIn

ट्रस्ट आणि सेफ्टी: डिजिटल सुरक्षेच्या पडद्यामागचं युद्ध

फेक न्यूजशी लढा असो किंवा द्वेषमूलक भाषण हटवणं, Trust & Safety (T&S) टीम्स प्रत्येक मोठ्या डिजिटल प्लॅटफॉर्ममागे शांतपणे काम करत राहिल्या आहेत, जेणेकरून इंटरनेट हे वापरकर्त्यांसाठी एक सुरक्षित जागा राहील. मात्र 2021 ते 2023 दरम्यान, या महत्त्वपूर्ण व्यवस्थेची पायाभरणी हादरली. कर्मचारी कपात, राजकीय दबाव, चुकीची माहिती आणि लोकांचा वाढता अविश्वास यामुळे T&S क्षेत्र संकटात सापडले. तरीही या अंधारात आशेचा किरण आहे—एक अधिक माहितीपूर्ण, समावेशक आणि लवचिक डिजिटल सुरक्षेसाठी.

ट्रस्ट आणि सेफ्टी म्हणजे काय? आणि कंटेंट मॉडरेशनची भूमिका

Trust & Safety टीम्स म्हणजे डिजिटल जगाच्या अज्ञात संरक्षक. Meta, Google, Amazon, Twitter (X) अशा मोठ्या टेक कंपन्यांमध्ये या टीम्स असतात आणि तंत्रज्ञान, धोरण, कायदा आणि वापरकर्त्यांच्या हिताच्या संगमावर काम करतात. त्यांचे काम फक्त चुकीची सामग्री हटवणे इतके मर्यादित नाही. हे प्लॅटफॉर्म धोरण तयार करतात, कायद्याच्या अंमलबजावणी यंत्रणांशी समन्वय साधतात, बाल लैंगिक शोषणविरोधी सामग्री थांबवतात, आर्थिक फसवणुकीची ओळख पटवतात आणि नवीन फिचर्सचा गैरवापर होणार नाही याची खात्री करतात.

T&S कामाचे केंद्र म्हणजे कंटेंट मॉडरेशन—वापरकर्त्यांनी तयार केलेल्या सामग्रीचे पुनरावलोकन करून ती धोरणांचे किंवा कायदेशीर निकषांचे उल्लंघन करते का हे पाहणे आणि आवश्यक ती कारवाई करणे. याचे तीन प्रकार आहेत:

1. Artisanal (लहान, अंतर्गत टीम),

2. Community-driven (रेडिट, विकिपीडिया सारखी स्वयंसेवी पद्धत),

3. Industrial (फेसबुकसारख्या मोठ्या कंपन्यांचा आउटसोर्स आणि ऑटोमेटेड मॉडरेशन).

हे मॉडरेशन धोकादायक पोस्ट हटवणे, चुकीची माहिती फ्लॅग करणे आणि संदेहास्पद पोस्टची दृश्यमानता कमी करणे अशा पद्धतीने होते. यामुळे प्लॅटफॉर्म जंगलासारखा बिनधास्त नाहीसा होतो.

संकटाची सुरुवात: कर्मचारी कपात, अविश्वास आणि मानसिक थकवा

2021 ते 2023 दरम्यान टेक इंडस्ट्रीमध्ये मोठ्या प्रमाणात कर्मचारी कपात झाली, आणि T&S टीम्सवर याचा सर्वाधिक परिणाम झाला. Twitter मध्येच Elon Musk च्या अधिग्रहणानंतर 15% पेक्षा जास्त T&S कर्मचारी काढून टाकण्यात आले. Meta, Google, Amazon मध्येही हेच चित्र होतं. केवळ खर्च कपातच नाही तर राजकीय कारणंही होती—कंटेंट मॉडरेशनला ‘सेंसरशिप’ असं म्हटलं गेलं आणि प्लॅटफॉर्म्सनी मागे हटणं पसंत केलं.

या बदलांमुळे T&S कर्मचाऱ्यांमध्ये मानसिक थकवा वाढला. सतत हिंसा, शोषण, द्वेषपूर्ण कंटेंट पाहणे, यामुळे PTSD, चिंता आणि अन्य मानसशास्त्रीय त्रास सुरू झाले. विदेशी व्हिसावर काम करणाऱ्यांवर तर नोकरी जाणं म्हणजे देशाबाहेर जाण्याचा धोका होता. यावर लोकांचा चुकीचा दृष्टिकोन म्हणजे T&S कर्मचारी म्हणजे अभिव्यक्ती स्वातंत्र्याचे शत्रू—यामुळे मानसिक तणाव अजून वाढला.

भारतामधील T&S क्षेत्रासमोरील खास अडचणी

भारतामध्ये या क्षेत्राला अधिकच आव्हानं आहेत. अमेरिका आणि युरोपमध्ये जेवढं हे क्षेत्र व्यावसायिक आणि स्पष्ट आहे, तसं भारतात नाही. 2021 च्या Intermediary Guidelines हे काही नियम देतात, पण फारसे स्पष्ट नाहीत. भारतात बरेचसे मॉडरेशनचं काम BPO किंवा थर्ड-पार्टी कंपन्यांकडे असतं, जिथे प्रशिक्षितीकरण, पारदर्शकता आणि मानसिक आरोग्य याकडे फारसं लक्ष दिलं जात नाही.

२० पेक्षा जास्त भाषा आणि सांस्कृतिक वैविध्यामुळे, भारतात संदर्भ सापडणारी आणि भावनाशीलता समजणारी प्रणाली लागते. पण जे algorithm वापरले जातात ते साचेबद्ध असतात आणि बहुतेक वेळा अयशस्वी ठरतात. प्लॅटफॉर्म्स आपत्ती झाल्यावरच कारवाई करतात, जे वापरकर्त्यांचा विश्वास गमावतात.

भारतातील तरुण वर्ग हा तांत्रिकदृष्ट्या सशक्त आहे आणि भाषिकदृष्ट्या समृद्ध आहे—जर योग्य शिक्षण आणि मार्गदर्शन दिलं गेलं, तर हे युवक या क्षेत्रात मोठं योगदान देऊ शकतात.

AI: ट्रस्ट आणि सेफ्टीतील वरदान की धोका?

AI मुळे कंटेंट मॉडरेशन अधिक वेगवान आणि विस्तृत पातळीवर शक्य झालं आहे. हे माणसांना धोकादायक सामग्रीपासून दूर ठेवतं, वेगाने भाषांतर करतं आणि धोका ओळखू शकतं. हे पोस्ट फ्लॅग करू शकतं, स्पष्ट उल्लंघनं हटवू शकतं आणि धोक्याचे नमुने ओळखू शकतं.

पण AI ला मर्यादा आहेत. विडंबन, बोली भाषा किंवा सांस्कृतिक सन्दर्भ याची समज नसते. चुकीचे डेटावर ट्रेन केल्यास पक्षपात होतो. शिवाय, जर चूक झाली तर जबाबदारी कोणाची?

यासाठी सर्वोत्तम उपाय म्हणजे हायब्रिड मॉडरेशन—AI वेग आणि प्रमाणासाठी, तर माणसं सहानुभूती आणि संदर्भासाठी. अनेक प्लॅटफॉर्म्स हे मॉडेल वापरत आहेत.

भारतीय तरुणांसाठी करिअरचे मार्ग: Trust & Safety क्षेत्रात प्रवेश

डिजिटल जग वाढत आहे आणि त्याबरोबर Trust & Safety प्रोफेशनल्सची मागणी. भारतीय युवक या क्षेत्रात पुढाकार घेऊ शकतात:

1. Content Analyst, Policy Researcher, UX Safety Designer, AI Safety Engineer अशा भूमिका शोधा.

2. Trust & Safety Professional Association (TSPA) सारख्या संस्था कडून प्रमाणपत्र घ्या.

3. Reddit, Discord, Wikipedia वर स्वयंसेवक मॉडरेटर व्हा.

4. Internet Freedom Foundation किंवा FactChecker.in सारख्या संस्थांसोबत काम करा.

5. कॉलेज फोरम्स, WhatsApp ग्रुप्समध्ये सुरक्षित संवादास प्रोत्साहन द्या.

गरजेच्या कौशल्यांमध्ये समाविष्ट आहे: तर्कशक्ती, नैतिक विचार, बहुभाषिक संवादक्षमता, आणि तांत्रिक उपकरणांची जाण.

भविष्यातील दिशा: पुन्हा विश्वास मिळवणे आणि सुरक्षितता नव्याने परिभाषित करणे

जरी खूप आव्हानं आली असली, तरी भविष्यासाठी आशा आहे. युरोपमध्ये नवीन कायदे, जनतेमध्ये वाढती चर्चा आणि व्यावसायिक संस्था हे क्षेत्र अधिक औपचारिक आणि आदरणीय बनवत आहेत. AI सुधारतो आहे आणि हायब्रिड मॉडरेशन स्केलेबल होत आहे. सगळ्यात महत्त्वाचं म्हणजे—नवीन पिढी T&S ला केवळ बॅकएंड काम नाही, तर एक नागरी जबाबदारी समजत आहे.

एका तज्ज्ञाने म्हटले: “ऑनलाईन सुरक्षा ही एक मंझिल नाही, एक प्रवास आहे.”

सुरक्षित डिजिटल जागा बनवण्यासाठी साधने पुरेशी नाहीत—त्या मागे असलेली माणसं महत्त्वाची आहेत. असे डिझायनर्स जे गैरवापराची कल्पना करू शकतात, मॉडरेटर जे संदर्भ समजू शकतात, इंजिनिअर्स जे नैतिक AI तयार करतात, आणि वापरकर्ते जे आरोग्यदायक संवादासाठी पुढाकार घेतात—हे सगळे मिळून इंटरनेटला एक विश्वासार्ह, सर्वांसाठी सुरक्षित जागा बनवू शकतात.