ट्रस्ट एण्ड सेफ्टी (Trust & Safety): डिजिटल सुरक्षाका लागि निःशब्द लडाईं
नक्कली समाचारसँग लड्नेदेखि लिएर घृणाजन्य भाषालाई हटाउनेसम्म, ट्रस्ट एण्ड सेफ्टी (T&S) टिमहरूले प्रत्येक ठूला डिजिटल प्लेटफर्मको पछाडि चुपचाप काम गर्दै आएका छन्, ताकि इन्टरनेट प्रयोगकर्ताहरूका लागि सुरक्षित स्थान रहोस्। तर सन् २०२१ देखि २०२३ को बीचमा, यस महत्वपूर्ण प्रणालीको आधार हल्लिन थाल्यो। रोजगारी कटौती, राजनीतिक दबाब, गलत सूचना र जनविश्वासको अभावले T&S विश्वमा ठूलो हलचल ल्यायो। तर यी चुनौतीहरूका बीचमा आशा पनि छ—एक बढी सूचित, समावेशी, र सुदृढ डिजिटल भविष्यका लागि।
ट्रस्ट एण्ड सेफ्टी के हो? अनि सामग्री नियमन (Content Moderation) को भूमिका
T&S टिमहरू डिजिटल संसारका अदृश्य रक्षक हुन्। Meta, Google, Amazon, Twitter (X) जस्ता सबै ठूला प्रविधि कम्पनीहरूमा रहेका यी टिमहरू प्रविधि, नीति, कानुन र प्रयोगकर्ता कल्याणको संगममा काम गर्छन्। तिनीहरूको काम केवल आपत्तिजनक सामग्री हटाउनु मात्र होइन।
यी टिमहरूले प्लेटफर्म नीतिहरू बनाउने, कानुनी निकायहरूसँग सहकार्य गर्ने, बाल यौन दुर्व्यवहारसम्बन्धी सामग्री (CSAM) रोक्ने, वित्तीय ठगी पत्ता लगाउने, र नयाँ फिचरहरू प्रयोगमा ल्याउँदा दुरुपयोग नहोस् भन्ने सुनिश्चित गर्नेसम्मका कार्य गर्छन्।
T&S को मूल काम नै हो सामग्री नियमन (Content Moderation)। यसको अर्थ हो प्रयोगकर्ताद्वारा बनाइएका सामग्रीहरूलाई समीक्षा गर्ने र यदि ती सामग्री प्लेटफर्म नीतिहरू वा कानुनी मापदण्डको उल्लंघन गर्छन् भने आवश्यक कारबाही गर्ने।
यसका मुख्य तीन किसिम छन्:
-
Artisanal – सानो, इन-हाउस टिमद्वारा,
-
Community-driven – Reddit वा Wikipedia जस्ता प्लेटफर्महरूमा स्वयंसेवकमार्फत,
-
Industrial – ठूला कम्पनीहरूका लागि आउटसोर्स गरिएको वा अटोमेटेड प्रणालीमार्फत।
यस अन्तर्गत हानिकारक पोस्टहरू हटाउने, भ्रम सिर्जना गर्ने सामग्रीलाई चिन्ह लगाउने, अनि सीमामा रहेका सामग्रीहरूको दृश्यता घटाउने कार्य गरिन्छ। यसले प्लेटफर्मलाई अराजक डिजिटल बनजंगलमा परिणत हुनबाट जोगाउँछ।
संकट: रोजगारी गुम्नु, जनविश्वासको ह्रास, र मानसिक थकान
२०२१ देखि २०२३ को बीचमा, विश्वभरि प्रविधि क्षेत्रमा ठूलो मात्रामा रोजगारी कटौती भयो, जसमा T&S टिमहरू सबैभन्दा बढी प्रभावित भए। Twitter मा Elon Musk को स्वामित्व आएपछि मात्र १५% भन्दा बढी T&S कर्मचारीहरू हटाइए। यस्तै कटौती Meta, Google, Amazon मा पनि देखियो। यो मात्र खर्च कटौतीका लागि नभई राजनीतिक दबाबको कारण पनि थियो।
सामग्री नियमनलाई ‘सेन्सरशिप’ भनेर हेरिन थालेपछि प्लेटफर्महरूले विवादबाट बच्नका लागि कदम पछाडि हटाए।
यसले गर्दा T&S पेशाकर्मीहरू गम्भीर मानसिक समस्यामा परे। हिंसा, यौन दुर्व्यवहार, र घृणापूर्ण सामग्री निरन्तर हेर्नुपर्ने कारणले PTSD, चिन्ता, र दीर्घकालीन मानसिक रोग देखिन थाल्यो। भिसा भएका कर्मचारीहरूका लागि त रोजगारी गुम्नासाथ बसोबासमै संकट देखापर्यो। यसैबीच, सार्वजनिक भ्रमले गर्दा T&S कर्मचारीहरूलाई अभिव्यक्ति स्वतन्त्रताको विरोधीको रूपमा हेरिन थाल्यो, जसले उनीहरूको मानसिक तनाव झनै बढायो।
भारतका लागि T&S का विशिष्ट चुनौतीहरू
अमेरिका वा युरोपजस्तो स्पष्ट नियामक संरचना नभएको भारतमा T&S अझ जटिल चुनौतीहरूको सामना गरिरहेको छ।
Intermediary Guidelines (2021) ले केही आधारभूत नियमहरू त दिन्छ, तर ती अस्पष्ट छन्। अधिकांश सामग्री नियमन कार्य भारतमा BPO वा तेस्रो पक्षलाई दिइन्छ, जहाँ तालिम, पारदर्शिता र मानसिक स्वास्थ्यमा खासै ध्यान दिइँदैन।
भारतको भाषिक विविधता र सांस्कृतिक जटिलताले गर्दा नियमन प्रणालीलाई प्रसंगअनुसार संवेदनशील हुनुपर्छ। एकै किसिमका एल्गोरिदमहरूले यी आवश्यकताहरू पूरा गर्न सक्दैनन्।
प्लेटफर्महरू प्रायः संकटपछि मात्र प्रतिक्रिया दिन्छन्, जसले प्रयोगकर्ताको विश्वासमा चोट पुर्याउँछ। भारतका डिजिटल-प्रवीण, बहुभाषी युवाहरू उचित शिक्षा र सहयोग पाएमा यो खाल्डो पुर्याउन सक्षम छन्।
T&S मा कृत्रिम बुद्धिमत्ता (AI): वरदान कि अभिशाप?
AI ले T&S को कामलाई ठूलो स्तरमा परिवर्तन गरिरहेको छ। अब प्लेटफर्महरूले लाखौं सामग्रीहरू छिटो स्क्यान गर्न सक्छन्। AI ले अनुवाद, खतरा पहिचान, र स्पष्ट उल्लंघन हटाउने कार्य गर्न सक्छ।
मानव समीक्षकहरूलाई हानिकारक सामग्रीबाट जोगाउन AI उपयोगी छ।
तर AI सँग पनि सीमा छ। व्यंग्य, स्थानीय भाषा, सन्दर्भगत हाँसो बुझ्न AI लाई कठिन हुन्छ। यदि पूर्वाग्रही डेटामा प्रशिक्षण दिइयो भने, यसले भेदभावसमेत गर्न सक्छ।
AI गल्ती गर्छ भने जिम्मेवारी कसको? यसैले अहिले धेरैजसो प्लेटफर्मले हाइब्रिड मोडेल (AI + मानव) अपनाइरहेका छन्—तीव्रता र स्केलका लागि AI, तर संवेदनशीलता र प्रसंग बुझ्नका लागि मानिस।
नेपाली युवाका लागि T&S क्षेत्रमा अवसरहरू
डिजिटल क्षेत्रको विस्तारसँगै T&S मा नैतिक र दक्ष जनशक्तिको माग बढ्दै गएको छ। नेपाली युवाहरूले पनि यसमा सशक्त भूमिका लिन सक्छन्।
तपाईं यसरी सहभागी हुन सक्नुहुन्छ:
-
Content Analyst, Policy Researcher, UX Safety Designer, AI Safety Engineer जस्ता भूमिकाहरूको खोजी गर्नुहोस्।
-
Trust & Safety Professional Association (TSPA) बाट प्रमाणपत्र लिन सक्नुहुन्छ।
-
Reddit, Discord, Wikipedia जस्ता प्लेटफर्ममा स्वयंसेवक मडरेटर बन्नुहोस्।
-
Internet Freedom Foundation, FactChecker.in जस्ता संस्था वा नागरिक प्रविधि अभियानमा सहभागी हुनुहोस्।
-
कलेज फोरम, WhatsApp समूहहरूमा डिजिटल सुरक्षा र जिम्मेवार संवादलाई प्रोत्साहित गर्नुहोस्।
आवश्यक सीपहरूमा आलोचनात्मक सोच, नैतिक निर्णय, बहुभाषिकता, र प्रविधिसँगको परिचय सामेल छन्।
भविष्य: विश्वास पुनर्निर्माण र सुरक्षा पुनर्परिभाषा
हालका कठिनाइहरूका बाबजुद भविष्यमा आशाको किरण छ। युरोपमा नयाँ कानुनहरू, बढ्दो सार्वजनिक बहस, र पेशागत संस्थाहरूको पहलले T&S लाई एक औपचारिक, सम्मानित पेशा बनाउँदैछन्। AI उपकरणहरू अझ उन्नत हुँदैछन् र हाइब्रिड प्रणालीहरू फराकिलो हुँदैछन्।
र, सबैभन्दा महत्वपूर्ण कुरा—नयाँ पुस्ताले T&S लाई केवल “ब्याकएन्ड टेक्निकल काम” नभई नागरिक जिम्मेवारीको रूपमा बुझ्न थालेको छ।
एक जना T&S विज्ञले भनेका थिए:
“अनलाइन सुरक्षा कुनै गन्तव्य होइन—यो एक निरन्तर प्रक्रिया हो।”
सुरक्षित डिजिटल वातावरण सिर्जना गर्न केवल उपकरण होइन—मानवता आवश्यक पर्छ।
त्यस्ता डिजाइनर, जसले दुर्व्यवहार अनुमान गर्न सक्छन्, मडरेटरहरू, जसले सन्दर्भ बुझ्छन्, इन्जिनियरहरू, जसले नैतिक AI बनाउँछन्, र प्रयोगकर्ताहरू, जसले स्वस्थ संवादलाई समर्थन गर्छन्—यी सबै मिलेर इन्टरनेटलाई एक विश्वासिलो, समावेशी, र सुरक्षित स्थान बनाइदिन सक्छन्।
