ডিজিটেল পৃথিৱীক সুৰক্ষিত আৰু বিশ্বাসযোগ্য কৰি ৰাখিবলৈ Trust & Safety (T&S) দলসমূহে বহু বছৰৰ পৰা নীৰৱভাৱে কাম কৰি আছে। Meta, Google, Amazon, Twitter (X) আদিৰ দৰে ডাঙৰ প্ৰযুক্তি কোম্পানিসমূহত এই দলসমূহে ভুৱা খবৰ, ঘৃণা-পূৰ্ণ ভাষা, অনুপযুক্ত কনটেন্ট আদি ৰোধ কৰাত গুৰুত্বপূর্ণ ভূমিকা গ্ৰহণ কৰিছে। যদিও ২০২১ ৰ পৰা ২০২৩ চনৰ ভিতৰত এই ব্যৱস্থাই বৃহৎ সমস্যাৰ সন্মুখীন হ’বলগীয়া হৈছে — চাকৰি হেৰুওৱা, ৰাজনৈতিক চাপ, জনতাৰ বিশ্বাস হ্ৰাস আৰু কৰ্মচাৰীৰ মানসিক অৱসাদ। তথাপিও, ভৱিষ্যতৰ বাবে আশাৰ ৰেঙণি দেখা গৈছে — য’ত ডিজিটেল জগত হ’ব অধিক তথ্যসুলভ, অন্তৰ্ভুক্তিমূলক আৰু সুৰক্ষিত।
BulletsIn
-
Trust & Safety দলৰ ভূমিকা: কেবল অপৰাধমূলক কনটেন্ট ডিলিট কৰা নহয়, এই দলসমূহে নীতি নিৰ্মাণ, আইন-প্ৰয়োগকাৰী সংস্থাৰ সৈতে সমন্বয় আৰু ব্যৱহাৰকাৰীৰ সুৰক্ষা নিশ্চিত কৰে।
-
কনটেন্ট মডাৰেচনৰ ধৰণ: তিনিটা স্তৰ থাকে — Artisanal (সৰু পদ্ধতি), Community-driven (স্বেচ্ছাসেৱীভিত্তিক), আৰু Industrial (আউটসোৰ্সড/স্বয়ংক্ৰিয়)।
-
চাকৰি হেৰুওৱা আৰু মানসিক চাপ: ২০২১-২০২৩ৰ ভিতৰত বহু T&S কৰ্মচাৰী ছাঁটাইৰ সন্মুখীন হয়, যাৰ ফলত মানসিক অৱসাদ, PTSD আদি সমস্যা দেখা দিয়ে।
-
জনসাধাৰণৰ ভুল ধাৰণা: বহু লোক T&S দলক বাক-স্বাধীনতা দমনকাৰী হিচাপে ভাবে, যাৰ ফলত কৰ্মচাৰীসকল মানসিকভাৱে অধিক চাপত পৰে।
-
ভাৰতৰ বিশেষ সমস্যা: ভাৰতত নীতিগত কাঠামো স্পষ্ট নহয়। অধিকাংশ কনটেন্ট মডাৰেচন BPO তথা আউটসোৰ্স কোম্পানিয়ে কৰে, য’ত প্ৰশিক্ষণ আৰু মানসিক স্বাস্থ্যক গুৰুত্ব নিদিয়া হয়।
-
ভাষা আৰু সংস্কৃতিক বৈচিত্ৰ্য: ভাৰতৰ বহু ভাষা, উপভাষা আৰু সাংস্কৃতিক বৈচিত্ৰ্যৰ বাবে একেটা অ্যালগৰিদমে সকলো ক্ষেত্ৰত সঠিকভাৱে কাম নকৰে।
-
AI ৰ সুবিধা: AI লাখ লাখ কনটেন্ট একেলগে স্কেন কৰিব পাৰে, বিপজ্জনক বস্তু দ্রুত চিনাক্ত কৰিব পাৰে, আৰু মেনুয়েল মডাৰেটৰসকলৰ ওপৰত চাপ কমায়।
-
AI ৰ সীমাবদ্ধতা: AI-এ ব্যংগ, প্ৰসংগ, স্থানীয় ভাষা বুজিবলৈ বহু সময় অসফল হয়। ভুল ডাটাত শিকিলে ই পক্ষপাতমূলক সিদ্ধান্ত দিব পাৰে।
-
মানুহ + AI সংযুক্ত মডেল: গতিৰ বাবে AI আৰু সহানুভূতি-যুক্ত বিচার-বিশ্লেষণৰ বাবে মানুহ — এই হাইব্ৰিড মডেল হৈছে ভবিষ্যতৰ সঠিক দিশা।
-
ভাৰতীয় যুৱক-যুৱতীসকলৰ বাবে সুযোগ: Content Analyst, Policy Researcher, UX Designer, AI Safety Engineer আদিৰূপে T&S ক্ষেত্ৰত যোগদান কৰিব পাৰে। সঠিক শিক্ষা, দক্ষতা আৰু উদ্দেশ্যৰে এই ক্ষেত্ৰ এখন সফল আৰু জনকল্যাণমূলক কেরিয়াৰ হ’ব পাৰে।
