ଟ୍ରଷ୍ଟ ଏବଂ ସେଫ୍ଟି (Trust & Safety): ଡିଜିଟାଲ ସୁରକ୍ଷା ପାଇଁ ଏକ ନିରବ ସଂଘର୍ଷ
ଝୁଟିଆ ଖବରକୁ ରୋକିବାରୁ ଆରମ୍ଭ କରି ଘୃଣାଭର୍ତ୍ତିତ ଭାଷାକୁ ବିଲୁପ୍ତ କରିବା ପର୍ଯ୍ୟନ୍ତ, Trust & Safety (T&S) ଦଳଗୁଡିକ ପ୍ରତ୍ୟେକ ବଡ଼ ଡିଜିଟାଲ ପ୍ଲାଟଫର୍ମର ପଛରେ ନିରବ ଭାବରେ କାର୍ଯ୍ୟ କରୁଛନ୍ତି, ଯାହା ଉଦ୍ଦେଶ୍ୟ ହେଉଛି ଇଣ୍ଟରନେଟ୍କୁ ଉପଭୋକ୍ତାମାନଙ୍କ ପାଇଁ ଏକ ସୁରକ୍ଷିତ ସ୍ଥାନ ଭାବରେ ରଖିବା। କିନ୍ତୁ 2021 ରୁ 2023 ମଧ୍ୟରେ, ଏହି ଗୁରୁତ୍ତ୍ୱପୂର୍ଣ୍ଣ ବ୍ୟବସ୍ଥାର ଭିତି କମିଯିବାକୁ ଲାଗିଲା। ଚାକିରି ଛାଡ଼ିବା, ରାଜନୈତିକ ଚାପ, ତଥ୍ୟର ଭ୍ରମ ଓ ଲୋକଙ୍କ ମଧ୍ୟରେ ବୃଦ୍ଧି ପାଉଥିବା ଅନିଶ୍ଚିତତା—ଏସବୁ ଅଂଶ T&S ବ୍ୟବସ୍ଥାକୁ ଦୁର୍ବଳ କରିଦେଲା। ତଥାପି, ଏହି ସମସ୍ୟାମାନଙ୍କ ମଧ୍ୟରୁ ଏକ ଆଶା ଉଦିତ ହେଉଛି—ଏକ ଅଧିକ ସଚେତନ, ଅନ୍ତର୍ଭୁକ୍ତିମୂଳକ ଓ ଦୃଢ଼ ଡିଜିଟାଲ ଭବିଷ୍ୟତ ପାଇଁ।
Trust & Safety କ’ଣ? ଏବଂ ଇସାର ମୂଳ ଭୂମିକା—କନ୍ଟେଣ୍ଟ ମଡ଼େରେସନ୍
T&S ଦଳଗୁଡିକ ହେଉଛନ୍ତି ଡିଜିଟାଲ ଜଗତର ଅଦୃଶ୍ୟ ପାଳକ। ଏମେଟା (Meta), ଗୁଗୁଲ୍ (Google), ଆମେଜନ୍ (Amazon), ଟ୍ୱିଟର୍ (Twitter/X) ଭଳି ବଡ଼ ବଡ଼ ଟେକ୍ କମ୍ପାନୀଗୁଡିକରେ ଏମାନେ ରହନ୍ତି ଓ ଟେକ୍ନୋଲୋଜି, ନୀତି, ଆଇନ ଓ ଉପଭୋକ୍ତା କଳ୍ୟାଣର ସନ୍ଧିସ୍ଥଳ ଉପରେ କାର୍ଯ୍ୟ କରନ୍ତି। ଏମାନଙ୍କ ଦାୟିତ୍ୱ କେବଳ ଅପତ୍ରସ୍ତ କନ୍ଟେଣ୍ଟ କୁ ହଟାଇବା ନୁହେଁ। ଏମାନେ ପ୍ଲାଟଫର୍ମ ଗାଇଡ଼ଲାଇନ୍ ସୃଷ୍ଟି କରନ୍ତି, ଆଇନ ଅନୁଷ୍ଠାନ ସହିତ ଯୋଗାଯୋଗ କରନ୍ତି, ଶିଶୁ ଯୌନ ଶୋଷଣ ଜନିତ ସାମଗ୍ରୀକୁ (CSAM) ରୋକନ୍ତି, ଆର୍ଥିକ ଠଗିକୁ ଚିହ୍ନଟ କରନ୍ତି, ଏବଂ ନୂଆ ଫିଚର୍ ଲଞ୍ଚ କରିବାବେଳେ ତାହାର ଦୁର୍ବ୍ୟବହାର ହେଉ ନାହିଁ ବୋଲି ଦେଖନ୍ତି।
T&S କାର୍ଯ୍ୟର ମୁଖ୍ୟ ଅଂଶ ହେଉଛି କନ୍ଟେଣ୍ଟ ମଡ଼େରେସନ୍—ଅର୍ଥାତ୍, ଉପଭୋକ୍ତାଙ୍କ ଦ୍ୱାରା ପ୍ରସ୍ତୁତ ବିଷୟବସ୍ତୁର ଯାଞ୍ଚ କରି ତାହା ପ୍ଲାଟଫର୍ମ ନୀତି କିମ୍ବା ଆଇନ ଉଲ୍ଲଂଘନ କରୁଛି କି ନାହିଁ ତାହା ଦେଖି ଯଥୋଚିତ କାର୍ଯ୍ୟ ନିଆଯିବା।
ମଡ଼େରେସନ୍ ତିନି ପ୍ରକାର ଥାଏ:
-
Artisanal – ଛୋଟ ଦଳ ଦ୍ୱାରା ଘରୋଇ ଭିତରେ ହେଉଥିବା,
-
Community-driven – Reddit, Wikipedia ଭଳି ସାଇଟ୍ରେ ସ୍ୱେଚ୍ଛାସେବୀ ମାନେ କରନ୍ତି,
-
Industrial – ବଡ଼ କମ୍ପାନୀ ଗୁଡିକର ପାଖରେ ଥିବା ବା ଆଉଟ୍ସୋର୍ସ୍ କରାଯାଇଥିବା ସ୍ୱୟଂଚାଳିତ ପ୍ରଣାଳୀ ମାଧ୍ୟମରେ।
ଏହାର ଅଂଶ ହେଉଛି: ହାନିକାରକ ପୋଷ୍ଟ ହଟାଇବା, ଭ୍ରାନ୍ତିକର ତଥ୍ୟକୁ ଚିହ୍ନଟ କରି ଫ୍ଲାଗ୍ କରିବା, ଏବଂ ସନ୍ଦିଗ୍ଧ ବିଷୟବସ୍ତୁର ଦୃଶ୍ୟମାନତା କମେଇବା। ଏହି ପ୍ରୟାସଗୁଡିକ ପ୍ଲାଟଫର୍ମଗୁଡିକୁ ଏକ ଅନିୟନ୍ତ୍ରିତ “ଡିଜିଟାଲ ଜଙ୍ଗଲ୍” ହେବାରୁ ବଞ୍ଚାଇଥାଏ।
ସମସ୍ୟା: ଚାକିରି ଛାଡ଼ିବା, ଅବିଶ୍ୱାସ ଓ ମାନସିକ କ୍ଲାନ୍ତି
2021 ରୁ 2023 ମଧ୍ୟରେ ଗ୍ଲୋବାଲ୍ ଟେକ୍ ଇଣ୍ଡଷ୍ଟ୍ରିରେ ବିପୁଳ ମାନେ ଛାଟାଛାଟି ହେଲା, ଓ T&S ଦଳଗୁଡିକ ଏଥିରେ ସବୁଠାରୁ ବେଶି ପ୍ରଭାବିତ ହେଲେ। Twitter ରେ Elon Musk ଙ୍କ ଅଧିଗ୍ରହଣ ପରେ T&S ଦଳର 15% ଠାରୁ ବେଶି ଛାଡ଼ିଦିଆଯିଲେ। Meta, Google, Amazon ଭଳି କମ୍ପାନୀଗୁଡିକରେ ମଧ୍ୟ ଏହି ଧାରା ଚାଲିଥିଲା। ଏହି ଛାଟାଛାଟି କେବଳ ଖର୍ଚ୍ଚ କମେଇବା ପାଇଁ ନୁହେଁ—ଏଥିରେ ରାଜନୈତିକ ଚାପ ମଧ୍ୟ ଥିଲା। କନ୍ଟେଣ୍ଟ ମଡ଼େରେସନ୍କୁ “ସେନ୍ସର୍ସିପ୍” ବୋଲି ଚିହ୍ନଟ କରାଯାଉଥିଲା, ଯାହାର ଫଳରେ ଫ୍ଲାଟଫର୍ମଗୁଡିକ ପଛକୁ ହଟିଗଲେ।
ଏହା ଫଳରେ ଅନେକ T&S କର୍ମଚାରୀ ଗଭୀର ମାନସିକ କ୍ଲାନ୍ତି ଅନୁଭବ କରିଥିଲେ। ସେମାନେ ଦୈନିକ ଭାବେ ହିଂସା, ଯୌନ ଶୋଷଣ, ଘୃଣା ପୂର୍ଣ୍ଣ ବିଷୟବସ୍ତୁର ସମ୍ମୁଖୀନ ହେଉଥିଲେ, ଯାହା ଫଳରେ PTSD, ଆତଙ୍କ, ଓ ଦୀର୍ଘମ୍ୟାଦୀ ମାନସିକ ସମସ୍ୟା ଦେଖାଦେଲା। ଭିସା ଧାରୀ ଓ ବିଦେଶୀ କର୍ମଚାରୀମାନେ ଚାକିରି ହେଲେ ନିବାସ ଅଧିକାର ହାରିଯିବେ ବୋଲି ଚିନ୍ତିତ ହେଲେ। ଅନ୍ୟପଟେ, ଲୋକମାନେ T&S ପେସାଜୀବୀଙ୍କୁ ମାନେ “ମୁକ୍ତ ଅଭିବ୍ୟକ୍ତିର ଶତ୍ରୁ” ବୋଲି ଭାବିଥିଲେ—ଏଥିରେ ମାନସିକ ଚାପ ଆଉ ବଢ଼ିଗଲା।
ଭାରତରେ Trust & Safety ର ଅନନ୍ୟ ଚ୍ୟାଲେଞ୍ଜଗୁଡିକ
ଭାରତରେ T&S ଏକାଧିକ ଅନନ୍ୟ ଚିନ୍ତାନୀୟ ଚ୍ୟାଲେଞ୍ଜ ଅନୁଭବ କରୁଛି। ଯେଉଁଠାରେ ଅମେରିକା ଓ ଇଉରୋପ୍ ମଧ୍ୟରେ ଏହା ଏକ ସୁପରିଚିତ ବୃତ୍ତି ଭାବେ ବିକାଶ ପାଇଛି, ଭାରତରେ ତେବେ ଏହି ରୂପ ଏପର୍ଯ୍ୟନ୍ତ ଅସ୍ପଷ୍ଟ। 2021 ର Intermediary Guidelines କିଛି ମୌଳିକ ଆଶା ଦିଏ, କିନ୍ତୁ ସେଗୁଡ଼ିକ ଅସ୍ପଷ୍ଟ। ଅଧିକାଂଶ କନ୍ଟେଣ୍ଟ ମଡ଼େରେସନ୍ ଶ୍ରମ TCS, BPO ଓ ଥାର୍ଡପାର୍ଟି ଭେଣ୍ଡର ମାଧ୍ୟମରେ କରାଯାଏ, ଯେଉଁଠାରେ ପ୍ରଶିକ୍ଷଣ, ସ୍ପଷ୍ଟତା ଓ ମାନସିକ ସୁସ୍ଥତାର ଅଭାବ ରହିଥାଏ।
ଭାରତରେ 20 ଠାରୁ ଅଧିକ ଭାଷା ଓ ବିବିଧ ସଂସ୍କୃତି ଥିବାରୁ ଏଠି ଉଦ୍ଦେଶ୍ୟ ଓ ଭାବବୋଧ ନିର୍ଣ୍ଣୟ କରିପାରିବା ରିଜିଅନାଲ୍ ସିଷ୍ଟମ୍ର ଆବଶ୍ୟକତା ଅଛି। ଏକେ ରୂପର ଏଲଗୋରିଦମ୍ ଏଥିରେ ବିଫଳ ହୁଏ। ଅଧିକାଂଶ ପ୍ଲାଟଫର୍ମ ଦେଖାଯାଏ ଯେ ଦୁର୍ଘଟନା ହେବା ପରେ ଅନୁକ୍ରିୟା କରିଥାଏ, ଯାହା ବ୍ୟବହାରକାରୀ ବିଶ୍ୱାସ ହ୍ରାସ କରେ।
ଭାରତର ଯୁବପିଢି, ଯେଉଁମାନେ ଡିଜିଟାଲ ଅଭିଜ୍ଞ ଓ ଭାଷା କ୍ଷମତାରେ ଦକ୍ଷ, ସେମାନେ ଯଦି ସଠିକ୍ ଶିକ୍ଷା ଓ ମାର୍ଗଦର୍ଶନ ମିଳେ, ତେବେ ଏହି ଖେତ୍ରରେ ନେତୃତ୍ୱ ନେଇପାରିବେ।
Trust & Safety ରେ କୃତ୍ରିମ ବୁଦ୍ଧିମତା (AI): ଆଶୀର୍ବାଦ ନା ବିପଦ?
AI ବଦଳାଇ ଦେଇଛି ମଡ଼େରେସନ୍ର ଧାରା। ଏହା ଲକ୍ଷ ଲକ୍ଷ କନ୍ଟେଣ୍ଟ ସ୍କ୍ୟାନ୍ କରିପାରେ, ଅନୁବାଦ କରିପାରେ ଓ ଅସାଧାରଣ ପ୍ରବୃତ୍ତି ପାଇଁ ସତର୍କ କରିପାରେ। ଏହା ମାନବ ମଡ଼େରେଟର୍ମାନେ ନିଜେ ଦେଖିବାକୁ ପଡ଼ୁଥିବା ହାନିକାରକ ବିଷୟ ଦୃଶ୍ୟ କୁ ରୋକିଥାଏ।
କିନ୍ତୁ AI ର ସୀମା ଅଛି। ଏହା ବ୍ୟଙ୍ଗ, ଅଞ୍ଚଳୀୟ ଭାଷା କିମ୍ବା ପ୍ରସଙ୍ଗିକ ହାସ୍ୟ ଧରିପାରେ ନାହିଁ। ଏହା ଯଦି ପକ୍ଷପାତୀ ଡାଟା ଉପରେ ଶିକ୍ଷିତ ହୁଏ, ତେବେ ଅନ୍ୟାୟ ବଢ଼ିପାରେ। ତ୍ରୁଟି ହେଲେ ଦାୟିତ୍ୱ କାହାର?
ଏପାଇଁ ସର୍ବୋତ୍ତମ ମାଡ଼େଲ୍ ହେଉଛି: ହାଇବ୍ରିଡ୍ ମାଡ଼େଲ୍—ଗତି ଓ ଦୂରତ୍ୱ ପାଇଁ AI, ଏବଂ ସମ୍ବେଦନା ଓ ନ୍ୟାୟ ପାଇଁ ମାନବ। ବହୁତ ପ୍ଲାଟଫର୍ମ ଏହି ମାଡ଼େଲ୍ ଅନୁସରଣ କରୁଛନ୍ତି।
