ಟ್ರಸ್ಟ್ & ಸೆಫ್ಟಿ (Trust & Safety): ನಿಖರವಾಗಿರುವ ಡಿಜಿಟಲ್ ಸುರಕ್ಷತೆಗೆ ನಿಶಬ್ದ ಯೋಧರು
ನಕಲಿ ಸುದ್ದಿಗಳನ್ನು ಹೊಡೆದುರುಳಿಸಲು ಅಥವಾ ದ್ವೇಷಭರಿತ ಭಾಷೆಯನ್ನು ತೆಗೆದುಹಾಕಲು, ಟ್ರಸ್ಟ್ ಮತ್ತು ಸೆಫ್ಟಿ (T&S) ತಂಡಗಳು ಪ್ರತಿಯೊಂದು ಪ್ರಮುಖ ಡಿಜಿಟಲ್ ವೇದಿಕೆಯ ಹಿಂದೆಯೂ ಶಾಂತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿವೆ. ಇಂಟರ್ನೆಟ್ ಅನ್ನು ಬಳಕೆದಾರರಿಗೆ ಸುರಕ್ಷಿತವಾದ ಸ್ಥಳವನ್ನಾಗಿ ಕಾಯ್ದುಕೊಳ್ಳುವುದು ಇವರ ಉದ್ದೇಶ. ಆದರೆ 2021 ರಿಂದ 2023ರ ನಡುವೆ ಈ ವ್ಯವಸ್ಥೆಯ ನೆಲೆಯೇ ಕುಸಿಯಲು ಆರಂಭವಾಯಿತು. ಉದ್ಯೋಗ ಕಳೆದುಕೊಳ್ಳುವುದು, ರಾಜಕೀಯ ಒತ್ತಡ, ತಪ್ಪು ಮಾಹಿತಿ ಮತ್ತು ಸಾರ್ವಜನಿಕರು ಹೊಂದಿರುವ ಹೆಚ್ಚುತ್ತಿರುವ ಅನುಮಾನ—ಇವುಗಳೆಲ್ಲವು T&S ಜಗತ್ತಿನಲ್ಲಿ ಬಿರುಕುಂಟುಮಾಡಿದವು. ಆದಾಗ್ಯೂ, ಈ ಎಲ್ಲಾ ಅಡ್ಡಿಯ ನಡುವೆಯೂ ಭರವಸೆ ಇದೆ—ಒಂದು ಹೆಚ್ಚು ಜ್ಞಾನದಾಯಕ, ಒಳಗೊಂಡಿಕೆಯನ್ನು ಹೊಂದಿರುವ ಮತ್ತು ನಂಬಬಹುದಾದ ಡಿಜಿಟಲ್ ಭವಿಷ್ಯಕ್ಕಾಗಿ.
ಟ್ರಸ್ಟ್ & ಸೆಫ್ಟಿ ಅಂದರೆ ಏನು? ಮತ್ತು ವಿಷಯ ನಿಯಂತ್ರಣದ ಪಾತ್ರ
Trust & Safety (T&S) ತಂಡಗಳು ಡಿಜಿಟಲ್ ಜಗತ್ತಿನ ಅಜ್ಞಾತ ರಕ್ಷಕರು. Meta, Google, Amazon, Twitter (X) ಮೊದಲಾದ ಪ್ರತಿಷ್ಠಿತ ತಂತ್ರಜ್ಞಾನ ಕಂಪನಿಗಳಲ್ಲಿ ಇವು ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. ಇವು ತಂತ್ರಜ್ಞಾನ, ನೀತಿ, ಕಾನೂನು ಮತ್ತು ಬಳಕೆದಾರರ ಹಿತದ ನಡುವೆ ಸೇತುವೆಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. ಈ ತಂಡಗಳ ಕಾರ್ಯವು ಕೇವಲ ಅಪರಾಧಕಾರಿ ವಿಷಯವನ್ನು ತೆಗೆದುಹಾಕುವುದು ಅಲ್ಲ. ಇವು ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಮಾರ್ಗಸೂಚಿಗಳನ್ನು ರೂಪಿಸುತ್ತವೆ, ಕಾನೂನು ಜಾರಿಗೆ ಸಂಬಂಧಿಸಿದ ಸಂಸ್ಥೆಗಳ ಜೊತೆ ಕೆಲಸಮಾಡುತ್ತವೆ, ಮಕ್ಕಳ ವಿರುದ್ಧದ ಲೈಂಗಿಕ ಶೋಷಣೆಯ ವಿಷಯಗಳನ್ನು ತಡೆಯುತ್ತವೆ, ಹಣಕಾಸು ಮೋಸದ ಪತ್ತೆಹಚ್ಚುತ್ತವೆ ಮತ್ತು ಹೊಸ ಫೀಚರ್ಗಳನ್ನು ದುರುಪಯೋಗಕ್ಕೆ ಒಳಪಡಿಸದಂತೆ ನೋಡಿಕೊಳ್ಳುತ್ತವೆ.
T&S ಕಾರ್ಯದ ಹೃದಯವೇ ವಿಷಯ ನಿಯಂತ್ರಣ (Content Moderation). ಇದು ಬಳಕೆದಾರರ ಮೂಲಕ ಸೃಷ್ಟಿಯಾಗುವ ವಿಷಯವನ್ನು ವಿಮರ್ಶಿಸಿ, ನಿಯಮಗಳ ಅಥವಾ ಕಾನೂನು ಗಡಿಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದರೆ ಕ್ರಮ ಕೈಗೊಳ್ಳುವ ಪ್ರಕ್ರಿಯೆ.
ವಿಷಯ ನಿಯಂತ್ರಣದ ಮೂರು ರೂಪಗಳಿವೆ:
-
Artisanal – ಸಣ್ಣ ಮಟ್ಟದ, ಕಂಪನಿಯ ಒಳಾಂಗಣ ತಂಡದಿಂದ,
-
Community-driven – Reddit ಅಥವಾ Wikipedia ನಂತಹ ಸ್ವಯಂಸೇವಕರಿಗೆ ಆಧಾರಿತ,
-
Industrial – ದೊಡ್ಡ ಕಂಪನಿಗಳಿಂದ ಔಟ್ಸೋರ್ಸ್ ಅಥವಾ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆ ಮೂಲಕ.
ಇವುಗಳು ಅಪಾಯಕಾರಿ ಪೋಸ್ಟ್ಗಳನ್ನು ತೆಗೆದುಹಾಕುವುದು, ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡುವುದು, ಗಡಿಭಾಗದ ವಿಷಯಗಳ ಪ್ರಚಾರವನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಇತ್ಯಾದಿಗಳನ್ನು ಒಳಗೊಂಡಿವೆ. ಈ ಕ್ರಮಗಳ ಮೂಲಕ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ನಿಯಂತ್ರಣವಿಲ್ಲದ ಡಿಜಿಟಲ್ ಕಾಡುಗಳಾಗಿ ಪರಿಣಮಿಸದಂತೆ ತಡೆಯಲಾಗುತ್ತದೆ.
ಸಂಕಷ್ಟ: ಉದ್ಯೋಗ ಕಳೆದುಕೊಳ್ಳುವುದು, ನಂಬಿಕೆಯ ಕೊರತೆ ಮತ್ತು ಮಾನಸಿಕ ದಣಿವು
2021 ರಿಂದ 2023ರ ನಡುವೆ ತಂತ್ರಜ್ಞಾನ ಕ್ಷೇತ್ರದಲ್ಲಿ ಬಹುಮಟ್ಟದಲ್ಲಿ ಉದ್ಯೋಗ ಕಡಿತ ಕಂಡುಬಂದಿತು ಮತ್ತು Trust & Safety ತಂಡಗಳೇ ಹೆಚ್ಚು ಹೊಡೆತ ಅನುಭವಿಸಿದವು. Twitter ನಲ್ಲೇ Elon Musk ಸ್ವಾಧೀನದ ನಂತರ 15% T&S ಸಿಬ್ಬಂದಿಯನ್ನು ಕೆಲಸದಿಂದ ತೆಗೆದುಹಾಕಲಾಯಿತು. ಇದೇ ಸ್ಥಿತಿ Meta, Google ಮತ್ತು Amazon ನಲ್ಲಿ ಕಂಡುಬಂದಿತು. ಈ ಕ್ರಮಗಳು ಕೇವಲ ವೆಚ್ಚ ಕಡಿತಕ್ಕಾಗಿ ಅಲ್ಲ—ಇವುಗಳಲ್ಲಿ ರಾಜಕೀಯ ಕಾರಣವೂ ಇದ್ದಿತು. ವಿಷಯ ನಿಯಂತ್ರಣವನ್ನು “ಸೆನ್ಸಾರ್ಶಿಪ್” ಎಂದು ಬಣ್ಣಿಸುವ ಧೋರಣೆಯಿಂದ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಹಿಂದೆ ಸರಿದವು.
ಇದರ ಪರಿಣಾಮವಾಗಿ T&S ಉದ್ಯೋಗಿಗಳು ತೀವ್ರ ಮಾನಸಿಕ ಒತ್ತಡಕ್ಕೆ ಒಳಗಾದರು. ಅವರು ನಿರಂತರವಾಗಿ ಹಿಂಸೆ, ಲೈಂಗಿಕ ಶೋಷಣೆ, ದ್ವೇಷಪೂರ್ಣ ವಿಷಯಗಳತ್ತ ನೋಡುವುದರಿಂದ PTSD, ಆತಂಕ ಮತ್ತು ಇತರ ದೀರ್ಘಕಾಲೀನ ಸಮಸ್ಯೆಗಳನ್ನು ಅನುಭವಿಸಿದರು. ವೀಸಾ ಹೊಂದಿರುವವರು ಉದ್ಯೋಗ ಕಳೆದುಕೊಂಡರೆ ದೇಶಬಿಟ್ಟು ಹೋಗಬೇಕಾಗುವ ಭಯವೂ ಎದುರಿಸುತ್ತಿದ್ದರು. ಸಾರ್ವಜನಿಕರು ಅವರನ್ನು “ಸ್ವಾತಂತ್ರ್ಯ ವಿರೋಧಿ” ಎಂದು ಕಾಣುವುದರಿಂದ ಅವರ ಮೇಲಿನ ಒತ್ತಡ ಇನ್ನಷ್ಟು ಹೆಚ್ಚಾಯಿತು.
ಭಾರತದಲ್ಲಿ Trust & Safety ಯನ್ನು ಎದುರಿಸುತ್ತಿರುವ ವಿಶೇಷ ಸವಾಲುಗಳು
ಭಾರತದಲ್ಲಿ T&S ಹೆಚ್ಚು ಸಂಕೀರ್ಣವಾದ ಸವಾಲುಗಳನ್ನು ಎದುರಿಸುತ್ತಿದೆ. ಯುಎಸ್ ಅಥವಾ ಯುರೋಪ್ನಂತೆ ಸ್ಪಷ್ಟವಾದ ನಿಯಂತ್ರಣ ವ್ಯವಸ್ಥೆ ಇಲ್ಲ. Intermediary Guidelines (2021) ಕೇವಲ ಮೂಲಭೂತ ನಿರೀಕ್ಷೆಗಳನ್ನು ನೀಡುತ್ತವೆ—ಅವು ಕೂಡ ಬಹುಪಾಲು ಸಮಯದಲ್ಲಿ ಸ್ಪಷ್ಟವಲ್ಲ. ಭಾರತದಲ್ಲಿ ಬಹುತೇಕ ವಿಷಯ ನಿಯಂತ್ರಣವು BPO ಅಥವಾ ಔಟ್ಸೋರ್ಸ್ ಮಾಡಿದ ಕಂಪನಿಗಳ ಮೂಲಕ ನಡೆಯುತ್ತದೆ, ಅಲ್ಲಿ ತರಬೇತಿ, ಪಾರದರ್ಶಕತೆ ಮತ್ತು ಮಾನಸಿಕ ಆರೋಗ್ಯದ ಮೇಲೆ ಸರಿಯಾದ ಗಮನವಿಲ್ಲ.
ಭಾರತದಲ್ಲಿ 20 ಕ್ಕೂ ಹೆಚ್ಚು ಭಾಷೆಗಳು ಮತ್ತು ವೈವಿಧ್ಯಮಯ ಜನಸಂಖ್ಯೆ ಇರುವ ಕಾರಣ, ಭಾಷಾ ಸಂವೇದನೆ ಮತ್ತು ಸಾಂಸ್ಕೃತಿಕ ಪ್ರಸ್ತುತತೆಯನ್ನು ಗುರುತಿಸುವ ವ್ಯವಸ್ಥೆಗಳು ಅಗತ್ಯ. ಆದರೆ ಒಬ್ಬೇ ರೀತಿ ಕೆಲಸಮಾಡುವ ಆಲ್ಗಾರಿದಮ್ಗಳು ಈ ಸಂದರ್ಭಗಳಲ್ಲಿ ವಿಫಲವಾಗುತ್ತವೆ. ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಸಾಮಾನ್ಯವಾಗಿ ದೊಡ್ಡ ಸಮಸ್ಯೆ ಸಂಭವಿಸಿದ ನಂತರವೇ ಕ್ರಮ ಕೈಗೊಳ್ಳುತ್ತವೆ, ಇದರಿಂದ ಬಳಕೆದಾರರ ವಿಶ್ವಾಸ ಕುಸಿಯುತ್ತದೆ.
ಆದರೆ, ಡಿಜಿಟಲ್ ಅರಿವು ಮತ್ತು ಭಾಷಾ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ ಭಾರತದ ಯುವಕರು, ಸರಿಯಾದ ಶಿಕ್ಷಣ ಮತ್ತು ಬೆಂಬಲದೊಂದಿಗೆ ಈ ಕ್ಷೇತ್ರದಲ್ಲಿ ನಾಯಕತ್ವ ವಹಿಸಬಹುದು.
Trust & Safety ಯಲ್ಲಿ AI: ಆಶೀರ್ವಾದವೇ ಅಥವಾ ಹಾನಿಯೇ?
AI ಈಗ ನಿಯಂತ್ರಣದ ಪ್ರಕ್ರಿಯೆಯನ್ನು ವೇಗವಾಗಿ ಹಾಗೂ ವಿಶಾಲವಾಗಿ ನಡೆಸಲು ಸಹಾಯ ಮಾಡುತ್ತಿದೆ. ಇದು ಲಕ್ಷಾಂತರ ಕಂಟೆಂಟ್ಗಳನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡುತ್ತದೆ, ಭದ್ರತಾ ಮೌಲ್ಯಮಾಪನ, ಭಾಷಾಂತರ ಮತ್ತು ಭಾವಾನ್ವಿತ ವಿಷಯ ಗುರುತಿಸುವಲ್ಲಿ ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಇದರಿಂದ ಮಾನವ ನಿಯಂತ್ರಕರಿಗೆ ತೀವ್ರ ವಿಷಯಗಳನ್ನು ಎದುರಿಸುವ ಅಗತ್ಯ ಕಡಿಮೆ ಆಗುತ್ತದೆ.
ಆದರೆ, AI ಗಳು ವ್ಯಂಗ್ಯ, ಪ್ರಾದೇಶಿಕ ಭಾಷೆಗಳು, ಅಥವಾ ಸಾಂಸ್ಕೃತಿಕ ಹಾಸ್ಯವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವಲ್ಲಿ ಕಷ್ಟಪಡುತ್ತವೆ. ಮತ್ತು ಅಸ್ಥಿರ ಅಥವಾ ಪಕ್ಷಪಾತದ ಡೇಟಾ ಬಳಸಿದರೆ, AI ಗಳು ಕೂಡ ತಪ್ಪು ತೀರ್ಮಾನ ತೆಗೆದುಕೊಳ್ಳಬಹುದು. ಹಾಗಾದರೆ, ತಪ್ಪಾದರೆ ಹೊಣೆ ಯಾವದಕ್ಕೆ?
ಅದರದಕ್ಕೇ ಪರಿಹಾರ: ಹೈಬ್ರಿಡ್ ಮಾದರಿ – ವೇಗ ಮತ್ತು ಪ್ರಮಾಣಕ್ಕಾಗಿ AI, ಆದರೆ ಸಹಾನುಭೂತಿ ಮತ್ತು ನಿಖರತೆಯಿಗಾಗಿ ಮಾನವರು. ಈ ಮಾದರಿಯನ್ನು ಈಗ ಹಲವು ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿವೆ.
ಭಾರತೀಯ ಯುವಕರಿಗೆ Trust & Safety ಕ್ಷೇತ್ರದಲ್ಲಿ ಅವಕಾಶಗಳು
ಡಿಜಿಟಲ್ ಜಗತ್ತು ವಿಸ್ತಾರಗೊಳ್ಳುತ್ತಿರುವಂತೆ, ನೈತಿಕತೆ ಹಾಗೂ ತಾಂತ್ರಿಕ ಪರಿಣತಿ ಹೊಂದಿರುವ T&S ವೃತ್ತಿಪರರ ಅಗತ್ಯವೂ ಹೆಚ್ಚುತ್ತಿದೆ. ಭಾರತೀಯ ಯುವಕರು ಈ ಕ್ಷೇತ್ರದಲ್ಲಿ ಪ್ರಮುಖ ಪಾತ್ರವಹಿಸಬಹುದು:
-
Content Analyst, Policy Researcher, UX Safety Designer, AI Safety Engineer ಹುದ್ದೆಗಳಿಗೆ ಅರ್ಜಿ ಹಾಕಿ.
-
Trust & Safety Professional Association (TSPA) ನಿಂದ ಪ್ರಮಾಣಪತ್ರ ಪಡೆಯಿರಿ.
-
Reddit, Discord, Wikipedia ಮುಂತಾದ ವೇದಿಕೆಗಳಲ್ಲಿ Community Moderator ಆಗಿ ಸ್ವಯಂಸೇವಕರಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿ.
-
Internet Freedom Foundation ಅಥವಾ FactChecker.in ಗಳಂತಹ ನಾಗರಿಕ ತಂತ್ರಜ್ಞಾನ ಸಂಸ್ಥೆಗಳೊಂದಿಗೆ ಕೆಲಸಮಾಡಿ.
-
ಕಾಲೇಜು ಫೋರಮ್ಗಳು, WhatsApp ಗುಂಪುಗಳಲ್ಲಿ ಸುರಕ್ಷಿತ ಸಂವಾದವನ್ನು ಉತ್ತೇಜಿಸಿ.
ಆವಶ್ಯಕ ಕೌಶಲ್ಯಗಳು: ವಿಶ್ಲೇಷಣಾತ್ಮಕ ಚಿಂತನೆ, ನೈತಿಕ ಯುಕ್ತಿವಾದ, ಬಹುಭಾಷಾ ಪ್ರಾವೀಣ್ಯತೆ ಮತ್ತು ತಾಂತ್ರಿಕ ಸಾಧನಗಳಲ್ಲಿ ನಿಪುಣತೆ.
ಭವಿಷ್ಯ: ವಿಶ್ವಾಸವನ್ನು ಪುನರ್ನಿರ್ಮಿಸೋಣ, ಭದ್ರತೆಯ ಹೊಸ ಅರ್ಥವನ್ನೇ ರೂಪಿಸೋಣ
ಎಷ್ಟೇ ಹಿಂಜರಿತಗಳಿದ್ದರೂ, ಭವಿಷ್ಯವು ಆಶಾದಾಯಕವಾಗಿದೆ. ಯುರೋಪ್ನ ಹೊಸ ಕಾನೂನುಗಳು, ಸಾರ್ವಜನಿಕ ಚರ್ಚೆಗಳ ಹೆಚ್ಚಳ, ಮತ್ತು ವೃತ್ತಿಪರ ಸಂಘಟನೆಗಳ ಚಟುವಟಿಕೆಗಳು T&S ಅನ್ನು ಅಧಿಕೃತ, ಗೌರವಯುತ ವೃತ್ತಿಯಾಗಿಸಲು ದಾರಿ ಮುಡಿಸುತ್ತಿವೆ. AI ಸಾಧನಗಳು ಹೆಚ್ಚು ನಿಖರವಾಗುತ್ತಿವೆ, ಹೈಬ್ರಿಡ್ ಮಾದರಿಗಳು ವ್ಯಾಪಕವಾಗಿ ರೂಪುಗೊಳ್ಳುತ್ತಿವೆ. ಮುಖ್ಯವಾಗಿ, ಹೊಸ ತಲೆಮಾರಿಗೆ T&S ಕಾರ್ಯವು ಕೇವಲ ‘ಬ್ಯಾಕ್ಎಂಡ್’ ಕೆಲಸವಲ್ಲ, ಅದು ನಾಗರಿಕ ಹೊಣೆಗಾರಿಕೆಯೆಂದೇ ಕಾಣಿಸುತ್ತಿದೆ.
ಒಬ್ಬ T&S ತಜ್ಞರು ಹೇಳಿದಂತೆ:
“ಆನ್ಲೈನ್ ಸೆಫ್ಟಿ ಒಂದು ಗಮ್ಯಸ್ಥಾನವಲ್ಲ—ಅದು ಒಂದು ನಿರಂತರ ಪ್ರಯಾಣ.”
ಸುರಕ್ಷಿತ ಡಿಜಿಟಲ್ ಪರಿಸರವನ್ನು ರೂಪಿಸಲು ಕೇವಲ ಉಪಕರಣಗಳು ಸಾಕಾಗುವುದಿಲ್ಲ. ಹೃತ್ಪೂರ್ವಕತೆಯುಳ್ಳ ಜನರು ಬೇಕು. ಅಪವ್ಯವಹಾರವನ್ನು ಊಹಿಸಬಹುದಾದ ಡಿಸೈನರ್ಗಳು, ಸನ್ನಿವೇಶವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಲ್ಲ ಮోడರೇಟರ್ಗಳು, ನೈತಿಕತೆಯನ್ನು ಹೊಂದಿರುವ ಎಂಜಿನಿಯರ್ಗಳು ಮತ್ತು ಆರೋಗ್ಯಕರ ಸಂವಾದವನ್ನು ಬೆಂಬಲಿಸುವ ಬಳಕೆದಾರರು—all of them together can make the internet a trusted, inclusive, and safe space for all.
