ਭਰੋਸਾ ਅਤੇ ਸੁਰੱਖਿਆ (Trust & Safety – T&S) ਟੀਮਾਂ ਨੇ ਫੇਕ ਨਿਊਜ਼ ਨਾਲ ਲੜਾਈ ਕਰਨ ਤੋਂ ਲੈ ਕੇ ਨਫ਼ਰਤ ਭਰੀ ਭਾਸ਼ਾ ਹਟਾਉਣ ਤੱਕ, ਹਰ ਵੱਡੇ ਡਿਜੀਟਲ ਪਲੇਟਫਾਰਮ ਦੇ ਪਿੱਛੇ ਖਾਮੋਸ਼ੀ ਨਾਲ ਕੰਮ ਕੀਤਾ ਹੈ ਤਾਂ ਜੋ ਇੰਟਰਨੈੱਟ ਨੂੰ ਯੂਜ਼ਰਾਂ ਲਈ ਇੱਕ ਸੁਰੱਖਿਅਤ ਥਾਂ ਬਣਾਈ ਰੱਖੀ ਜਾ ਸਕੇ। ਪਰ 2021 ਤੋਂ 2023 ਦੇ ਦਰਮਿਆਨ, ਇਹ ਮਹੱਤਵਪੂਰਨ ਢਾਂਚਾ ਕੰਬਣਾ ਸ਼ੁਰੂ ਹੋ ਗਿਆ। ਛੰਟਣੀਆਂ, ਰਾਜਨੀਤਕ ਦਬਾਅ, ਗਲਤ ਜਾਣਕਾਰੀ ਅਤੇ ਲੋਕਾਂ ਵਿੱਚ ਵੱਧਦੀ ਬੇਇਤਬਾਰੀ ਨੇ T&S ਦੀ ਦੁਨੀਆ ਨੂੰ ਹਿਲਾ ਕੇ ਰੱਖ ਦਿੱਤਾ। ਪਰ ਇਨ੍ਹਾਂ ਚੁਣੌਤੀਆਂ ਦੇ ਬਾਵਜੂਦ, ਇਕ ਉਮੀਦ ਵੀ ਹੈ—ਇੱਕ ਜ਼ਿਆਦਾ ਜਾਣਕਾਰੀ ਵਾਲੇ, ਸਮਾਵੇਸ਼ੀ ਅਤੇ ਲਚਕੀਲੇ ਡਿਜੀਟਲ ਭਵਿੱਖ ਲਈ।
ਭਰੋਸਾ ਅਤੇ ਸੁਰੱਖਿਆ ਦੀ ਸਮਝ ਅਤੇ ਕੰਟੈਂਟ ਮੋਡਰੇਸ਼ਨ ਦੀ ਭੂਮਿਕਾ
Trust & Safety ਟੀਮਾਂ ਡਿਜੀਟਲ ਦੁਨੀਆਂ ਦੇ ਅਣਦੇਖੇ ਰੱਖਵਾਲੇ ਹੁੰਦੇ ਹਨ। ਇਹ ਮੈਟਾ, ਗੂਗਲ, ਐਮੇਜ਼ਾਨ, ਟਵਿੱਟਰ (X) ਵਰਗੀਆਂ ਵੱਡੀਆਂ ਟੈਕ ਕੰਪਨੀਆਂ ਵਿੱਚ ਕੰਮ ਕਰਦੇ ਹਨ ਅਤੇ ਟੈਕਨੋਲੋਜੀ, ਨੀਤੀਆਂ, ਕਾਨੂੰਨ ਅਤੇ ਯੂਜ਼ਰ ਫਲਾਹ ਦੇ ਚੌਰਾਹੇ ‘ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ। ਉਹ ਸਿਰਫ਼ ਗਲਤ ਸਮੱਗਰੀ ਨੂੰ ਹਟਾਉਣ ਤੱਕ ਸੀਮਿਤ ਨਹੀਂ ਹੁੰਦੇ। T&S ਟੀਮਾਂ ਪਲੇਟਫਾਰਮ ਨਿਯਮ ਬਣਾਉਣ, ਕਾਨੂੰਨੀ ਏਜੰਸੀਆਂ ਨਾਲ ਸਹਿਯੋਗ ਕਰਨ, ਬੱਚਿਆਂ ਨਾਲ ਜੁੜੇ ਅਸ਼ਲੀਲ ਸਮੱਗਰੀ ਨੂੰ ਰੋਕਣ, ਧੋਖਾਧੜੀ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਨਵੀਂ ਫੀਚਰ ਲਾਂਚ ਕਰਨ ਸਮੇਂ ਦੁਰਪਯੋਗ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਖਤਮ ਕਰਨ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੁੰਦੀਆਂ ਹਨ।
T&S ਕੰਮ ਦਾ ਮੂਲ ਕੰਟੈਂਟ ਮੋਡਰੇਸ਼ਨ ਹੈ, ਜਿੱਥੇ ਯੂਜ਼ਰ ਦੁਆਰਾ ਬਣਾਈ ਸਮੱਗਰੀ ਨੂੰ ਸਮੀਖਿਆ ਕਰਕੇ ਨਿਯਮਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਵਾਲੀ ਪੋਸਟਾਂ ਉਤੇ ਕਾਰਵਾਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਮੋਡਰੇਸ਼ਨ ਦੇ ਤਰੀਕੇ ਤਿੰਨ ਕਿਸਮ ਦੇ ਹੁੰਦੇ ਹਨ: ਛੋਟੇ ਪੱਧਰ ਤੇ ਅੰਦਰੂਨੀ ਟੀਮ ਵੱਲੋਂ ਕੀਤਾ ਜਾਣ ਵਾਲਾ (Artisanal), ਸਮੁਦਾਇਕ ਆਧਾਰਿਤ (Community-driven, ਜਿਵੇਂ Reddit), ਅਤੇ ਵੱਡੀ ਪੱਧਰ ਤੇ ਆਟੋਮੇਟਿਕ ਸਿਸਟਮਾਂ ਦੁਆਰਾ (Industrial, ਜਿਵੇਂ Facebook)।
ਇਸ ਵਿੱਚ ਹਾਨੀਕਾਰਕ ਪੋਸਟਾਂ ਨੂੰ ਹਟਾਉਣਾ, ਭਰਮਕ ਸਮੱਗਰੀ ਨੂੰ ਫਲੈਗ ਕਰਨਾ, ਅਤੇ ਬਾਰਡਰਲਾਈਨ ਸਮੱਗਰੀ ਦੀ ਵਿਜੀਬਿਲਟੀ ਘਟਾਉਣ ਵਾਲੇ ਐਲਗੋਰਿਦਮ ਲਾਗੂ ਕਰਨਾ ਸ਼ਾਮਿਲ ਹੁੰਦਾ ਹੈ। ਇਹ ਸਭ ਕੁਝ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਪਲੇਟਫਾਰਮ ਬੇਕਾਬੂ ਡਿਜੀਟਲ ਜੰਗਲ ਨਾ ਬਣ ਜਾਣ।
ਸੰਕਟ: ਛੰਟਣੀਆਂ, ਲੋਕਾਂ ਦੀ ਬੇਇਤਬਾਰੀ ਅਤੇ ਭਾਵਨਾਤਮਕ ਥਕਾਵਟ
2021 ਤੋਂ 2023 ਤੱਕ, ਵਿਸ਼ਵ ਭਰ ਦੀ ਟੈਕ ਇੰਡਸਟਰੀ ਨੇ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਛੰਟਣੀਆਂ ਕੀਤੀਆਂ, ਜਿਸ ਵਿੱਚ T&S ਟੀਮਾਂ ਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਨੁਕਸਾਨ ਹੋਇਆ। ਸਿਰਫ਼ ਟਵਿੱਟਰ ਵਿੱਚ ਹੀ Elon Musk ਦੇ ਟੇਕਓਵਰ ਤੋਂ ਬਾਅਦ 15% ਤੋਂ ਵੱਧ T&S ਕਰਮਚਾਰੀ ਕੱਢੇ ਗਏ। ਇਹ ਸਿਰਫ਼ ਖਰਚਾ ਘਟਾਉਣ ਬਾਰੇ ਨਹੀਂ ਸੀ—ਇਹ ਰਾਜਨੀਤਿਕ ਵੀ ਸੀ। ਜਦੋਂ ਮੋਡਰੇਸ਼ਨ ਨੂੰ ‘ਸੈਂਸਰਸ਼ਿਪ’ ਨਾਲ ਜੋੜਿਆ ਗਿਆ, ਤਾਂ ਪਲੇਟਫਾਰਮਾਂ ਨੇ ਦਬਾਅ ਤੋਂ ਬਚਣ ਲਈ ਹੱਥ ਪਿੱਛੇ ਖਿੱਚ ਲਿਆ।
ਇਸ ਨਾਲ ਟੀਮ ਮੈਂਬਰਾਂ ਵਿੱਚ ਭਾਰੀ ਮਨੋਵੈਜ਼ਾਨਕ ਥਕਾਵਟ ਹੋਈ। ਅਨੇਕ ਮੋਡਰੇਟਰ ਰੋਜ਼ਾਨਾ ਹਿੰਸਾ, ਗਾਲਾਂ-ਗਲੋਚ, ਨਫ਼ਰਤ ਵਾਲੀ ਸਮੱਗਰੀ ਦੇ ਸੰਪਰਕ ਵਿੱਚ ਆਉਂਦੇ ਰਹੇ, ਜਿਸ ਕਾਰਨ PTSD, ਚਿੰਤਾ ਅਤੇ ਹੋਰ ਮਨੋਵੈਜ਼ਾਨਕ ਸਮੱਸਿਆਵਾਂ ਸਾਹਮਣੇ ਆਈਆਂ। ਵਿਦੇਸ਼ੀ ਵੀਜ਼ਾ ਹੋਲਡਰਾਂ ਲਈ ਨੌਕਰੀ ਗੁਆਉਣਾ ਕਾਨੂੰਨੀ ਦਰਜਾ ਖਤਰੇ ਵਿੱਚ ਪਾਉਂਦਾ ਸੀ। ਜਨਤਾ ਵੱਲੋਂ T&S ਪ੍ਰੋਫੈਸ਼ਨਲਜ਼ ਨੂੰ ਆਜ਼ਾਦੀ ਦੇ ਦੁਸ਼ਮਣ ਵਜੋਂ ਵੇਖਣਾ, ਉਨ੍ਹਾਂ ਦੇ ਦਿਲ ਤੇ ਹੋਰ ਭਾਰ ਪਾ ਗਿਆ।
ਭਾਰਤ ਵਿੱਚ Trust & Safety ਦੀਆਂ ਵਿਲੱਖਣ ਚੁਣੌਤੀਆਂ
ਭਾਰਤ ਵਿੱਚ T&S ਟੀਮਾਂ ਹੋਰ ਵੀ ਵਧੀਆ ਚੁਣੌਤੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਦੀਆਂ ਹਨ। ਜਿੱਥੇ ਅਮਰੀਕਾ ਅਤੇ ਯੂਰਪੀ ਦੇਸ਼ਾਂ ਵਿੱਚ ਇਹ ਖੇਤਰ ਵਧੀਕ ਪੱਕਾ ਹੈ, ਭਾਰਤ ਵਿੱਚ ਇਹ ਅਜੇ ਵੀ ਨਿਯਮਾਤਮਕ ਤੌਰ ‘ਤੇ ਢਿੱਲਾ ਹੈ। Intermediary Guidelines (2021) ਕੁਝ ਮੂਲ ਨਿਯਮ ਦਿੰਦੀਆਂ ਹਨ, ਪਰ ਇਹ ਅਸਪਸ਼ਟ ਹਨ। ਜ਼ਿਆਦਾਤਰ ਕੰਟੈਂਟ ਮੋਡਰੇਸ਼ਨ ਕੰਮ BPO ਜਾਂ ਤੀਜੇ ਪਾਸੇ ਵੈਂਡਰਾਂ ਰਾਹੀਂ ਹੁੰਦਾ ਹੈ, ਜਿੱਥੇ ਟਰੇਨਿੰਗ, ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਕਰਮਚਾਰੀਆਂ ਦੀ ਮਾਨਸਿਕ ਭਲਾਈ ਉੱਤੇ ਘੱਟ ਧਿਆਨ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ।
ਭਾਰਤ ਦੀ ਭਾਸ਼ਾਈ ਅਤੇ ਸੱਭਿਆਚਾਰਕ ਵਿਭਿੰਨਤਾ ਮੋਡਰੇਸ਼ਨ ਨੂੰ ਬਹੁਤ ਸੰਵੇਦਨਸ਼ੀਲ ਬਣਾਉਂਦੀ ਹੈ। ਇੱਕੋ ਜਿਹੇ ਐਲਗੋਰਿਦਮ ਸਾਰਥਕ ਨਹੀਂ ਹੋ ਸਕਦੇ। ਜ਼ਿਆਦਾਤਰ ਪਲੇਟਫਾਰਮ ਮਾਮਲੇ ਵੱਡੇ ਹੋਣ ਤੋਂ ਬਾਅਦ ਹੀ ਕਾਰਵਾਈ ਕਰਦੇ ਹਨ, ਜੋ ਯੂਜ਼ਰ ਵਿਸ਼ਵਾਸ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ।
ਭਾਰਤ ਦੇ ਨੌਜਵਾਨ, ਜੋ ਡਿਜੀਟਲ ਤਜਰਬੇਕਾਰ ਅਤੇ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚ ਨਿਪੁੰਨ ਹਨ, ਇਸ ਖੇਤਰ ਵਿੱਚ ਲੀਡਰ ਬਣ ਸਕਦੇ ਹਨ, ਜੇ ਉਨ੍ਹਾਂ ਨੂੰ ਢੰਗ ਦੀ ਸਿੱਖਿਆ ਅਤੇ ਮੌਕੇ ਦਿੱਤੇ ਜਾਣ।
Trust & Safety ਵਿੱਚ Artificial Intelligence: ਵਰਦਾਨ ਜਾਂ ਸਾਬਤ?
AI ਨੇ ਮੋਡਰੇਸ਼ਨ ਦੇ ਢੰਗ ਨੂੰ ਬਦਲ ਦਿੱਤਾ ਹੈ। ਹੁਣ ਪਲੇਟਫਾਰਮ ਲੱਖਾਂ ਪੋਸਟਾਂ ਨੂੰ ਸਕੈਨ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਮਾਨਵ ਮੋਡਰੇਟਰਾਂ ਦੀ ਹਾਨੀਕਾਰਕ ਸਮੱਗਰੀ ਨਾਲ ਸੰਪਰਕ ਘਟਦਾ ਹੈ। AI ਤੁਰੰਤ ਅਨੁਵਾਦ ਕਰ ਸਕਦਾ ਹੈ, ਰਿਸਕ ਡਿਟੈਕਸ਼ਨ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਗਲਤ ਸਮੱਗਰੀ ਨੂੰ ਫਲੈਗ ਕਰ ਸਕਦਾ ਹੈ।
ਪਰ AI ਦੀਆਂ ਹੱਦਾਂ ਵੀ ਹਨ। ਇਹ ਵਿਅੰਗ, ਸਥਾਨਕ ਬੋਲੀ ਜਾਂ ਪ੍ਰਸੰਗਿਕ ਹਾਸੇ ਨੂੰ ਸਮਝਣ ਵਿੱਚ ਅਕਸਰ ਨਾਕਾਮ ਰਹਿੰਦਾ ਹੈ। ਜੇਕਰ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ ਵਿੱਚ ਪੱਖਪਾਤ ਹੋਵੇ, ਤਾਂ ਇਹ ਵੀ ਵਧਦਾ ਹੈ। ਅਤੇ ਜਦੋਂ AI ਗਲਤੀ ਕਰਦਾ ਹੈ, ਤਾਂ ਉੱਤਰਦਾਇਤਵ ਕਿਸਦਾ?
ਸਭ ਤੋਂ ਵਧੀਆ ਮਾਡਲ ਹੈ ਹਾਈਬ੍ਰਿਡ ਮਾਡਲ: AI ਸਪੀਡ ਅਤੇ ਸਕੇਲ ਲਈ, ਮਾਨਵ ਸੰਵੇਦਨਸ਼ੀਲਤਾ ਅਤੇ ਪਸੰੱਗ ਲਈ। ਕਈ ਪਲੇਟਫਾਰਮ ਇਹ ਮਾਡਲ ਅਪਣਾ ਚੁੱਕੇ ਹਨ।
ਭਾਰਤੀ ਨੌਜਵਾਨਾਂ ਲਈ ਮੌਕੇ: Trust & Safety ਅੰਦੋਲਨ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਦੇ ਰਸਤੇ
ਜਿਵੇਂ ਜਿਵੇਂ ਡਿਜੀਟਲ ਥਾਵਾਂ ਵਧਦੀਆਂ ਹਨ, Trust & Safety ਪ੍ਰੋਫੈਸ਼ਨਲ ਦੀ ਮੰਗ ਵੀ ਵਧਦੀ ਹੈ। ਭਾਰਤੀ ਨੌਜਵਾਨ ਇਸ ਖੇਤਰ ਵਿੱਚ ਅਹੰਕਾਰਪੂਰਕ ਭੂਮਿਕਾ ਨਿਭਾ ਸਕਦੇ ਹਨ। ਇਹ ਹਨ ਕੁਝ ਤਰੀਕੇ:
-
Content Analyst, Policy Researcher, UX Safety Designer, ਜਾਂ AI Safety Engineer ਵਰਗੀਆਂ ਭੂਮਿਕਾਵਾਂ ਦੀ ਖੋਜ ਕਰੋ।
-
Trust & Safety Professional Association (TSPA) ਵਰਗੀਆਂ ਥਾਵਾਂ ਤੋਂ ਸਰਟੀਫਿਕੇਸ਼ਨ ਲਵੋ।
-
Reddit, Discord, ਜਾਂ Wikipedia ਵਰਗੀਆਂ ਥਾਵਾਂ ਉੱਤੇ Community Moderator ਵਜੋਂ ਸੇਵਾ ਦਿਓ।
-
Internet Freedom Foundation ਜਾਂ FactChecker.in ਵਰਗੀਆਂ ਨਾਗਰਿਕ ਟੈਕ ਸੰਸਥਾਵਾਂ ਨਾਲ ਕੰਮ ਕਰੋ।
-
ਕਾਲਜ ਡਿਜੀਟਲ ਫੋਰਮਾਂ ਜਾਂ ਵਟਸਐਪ ਗਰੁੱਪਾਂ ਵਿੱਚ ਸੁਰੱਖਿਅਤ ਗੱਲਬਾਤ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰੋ।
ਮੂਲ ਸਿਖਲਾਈ ਵਿੱਚ ਆਉਂਦੇ ਹਨ: ਆਲੋਚਨਾਤਮਕ ਸੋਚ, ਨੈਤਿਕ ਤਰਕ, ਬਹੁਭਾਸ਼ੀ ਸਮਰਥਾ, ਅਤੇ ਟੈਕ ਟੂਲਾਂ ਦੀ ਜਾਣਕਾਰੀ।
ਭਵਿੱਖ: ਭਰੋਸਾ ਮੁੜ ਬਣਾਉਣਾ ਅਤੇ ਸੁਰੱਖਿਆ ਨੂੰ ਦੁਬਾਰਾ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨਾ
ਮੁਸ਼ਕਲਾਂ ਦੇ ਬਾਵਜੂਦ, ਭਵਿੱਖ ਉਮੀਦ ਵਾਲਾ ਹੈ। ਯੂਰਪ ਵਿੱਚ ਨਵੇਂ ਕਾਨੂੰਨ, ਵਧਦਾ ਜਨਤਾ ਵਿਚਾਰ, ਅਤੇ ਪੇਸ਼ਾਵਰ ਸੰਸਥਾਵਾਂ ਦੇ ਉੱਦਮ T&S ਨੂੰ ਇੱਕ ਮਜ਼ਬੂਤ ਪ੍ਰੋਫੈਸ਼ਨ ਵਜੋਂ ਅਗੇ ਲਿਆ ਰਹੇ ਹਨ। AI ਟੂਲ ਹੋਰ ਸੁਧਰ ਰਹੇ ਹਨ ਅਤੇ ਹਾਈਬ੍ਰਿਡ ਮੋਡਰੇਸ਼ਨ ਵਧ ਰਿਹਾ ਹੈ। ਸਭ ਤੋਂ ਵੱਧ, ਨਵਾਂ ਨੌਜਵਾਨ ਵਰਗ T&S ਨੂੰ backend ਕੰਮ ਨਹੀਂ, ਸਗੋਂ ਨਾਗਰਿਕ ਜ਼ਿੰਮੇਵਾਰੀ ਵਜੋਂ ਵੇਖਣ ਲੱਗ ਪਿਆ ਹੈ।
ਜਿਵੇਂ ਕਿ ਇੱਕ T&S ਵਿਸ਼ੇਸ਼ਜ್ಞ ਨੇ ਕਿਹਾ, “Online safety ਇੱਕ ਮੰਜ਼ਿਲ ਨਹੀਂ, ਇੱਕ ਲਗਾਤਾਰ ਯਾਤਰਾ ਹੈ।”
ਸੁਰੱਖਿਅਤ ਡਿਜੀਟਲ ਥਾਵਾਂ ਬਣਾਉਣ ਲਈ ਸਿਰਫ਼ ਸੰਦ ਨਹੀਂ, ਮਨੁੱਖੀ ਸੰਵੇਦਨਸ਼ੀਲਤਾ ਚਾਹੀਦੀ ਹੈ। ਅਜਿਹੇ ਡਿਜ਼ਾਈਨਰ ਜੋ ਦੁਰਵਰਤੋਂ ਦੀ ਪੂರ್ವ ਅਗਾਹੀ ਕਰ ਸਕਣ, ਮੋਡਰੇਟਰ ਜੋ ਪ੍ਰਸੰਗ ਸਮਝ ਸਕਣ, ਇੰਜੀਨੀਅਰ ਜੋ ਨੈਤਿਕ AI ਬਣਾਉਣ, ਅਤੇ ਯੂਜ਼ਰ ਜੋ ਸਿਹਤਮੰਦ ਗੱਲਬਾਤ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ—ਇਹ ਸਭ ਮਿਲਕੇ ਇੰਟਰਨੈੱਟ ਨੂੰ ਇੱਕ ਸੁਰੱਖਿਅਤ ਅਤੇ ਭਰੋਸੇਯੋਗ ਥਾਂ ਬਣਾ ਸਕਦੇ ਹਨ।
