ਇੰਟਰਨੈੱਟ ਨੂੰ ਇੱਕ ਸੁਰੱਖਿਅਤ, ਜਾਣੂ ਅਤੇ ਸਹਿਣਸ਼ੀਲ ਥਾਂ ਬਣਾਈ ਰੱਖਣ ਲਈ Trust & Safety (T&S) ਟੀਮਾਂ ਦਾ ਅਹੰਕਾਰਪੂਰਨ ਯੋਗਦਾਨ ਰਿਹਾ ਹੈ। ਵੱਡੀਆਂ ਡਿਜਿਟਲ ਕੰਪਨੀਆਂ ਜਿਵੇਂ ਕਿ Meta, Google, Amazon ਅਤੇ Twitter ਵਿੱਚ ਇਹ ਟੀਮਾਂ ਪਿਛਲੇ ਦਰਵਾਜ਼ੇ ਪਿੱਛੇ ਕੰਮ ਕਰਦੀਆਂ ਹਨ ਤਾਂ ਜੋ ਨਫਰਤ ਭਰੇ ਸਮੱਗਰੀ, ਗਲਤ ਜਾਣਕਾਰੀ ਅਤੇ ਗੈਰਕਾਨੂੰਨੀ ਕੰਟੈਂਟ ਤੋਂ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਰੱਖਿਆ ਕੀਤੀ ਜਾ ਸਕੇ। ਪਰ 2021 ਤੋਂ 2023 ਤੱਕ, ਇਹ ਤੰਤਰ ਵੱਡੇ ਚੁਣੌਤੀਆਂ ਦਾ ਸ਼ਿਕਾਰ ਹੋਇਆ — ਛੰਟਣੀਆਂ, ਰਾਜਨੀਤਿਕ ਦਬਾਅ, ਲੋਕਾਂ ਦੀ ਭਰੋਸੇ ਦੀ ਘਾਟ ਅਤੇ ਤਣਾਅ ਭਰੇ ਕੰਮ ਦੇ ਕਾਰਨ। ਇਨ੍ਹਾਂ ਸਮੱਸਿਆਵਾਂ ਦੇ ਬਾਵਜੂਦ, ਭਵਿੱਖ ਲਈ ਉਮੀਦ ਹੈ — ਇੱਕ ਅਜਿਹਾ ਭਵਿੱਖ ਜੋ ਕਿ ਵਧੇਰੇ ਸਮਝਦਾਰ, ਸ਼ਾਮਿਲ ਅਤੇ ਸੁਰੱਖਿਅਤ ਹੋਵੇ।
BulletsIn
-
Trust & Safety ਟੀਮਾਂ ਦੀ ਭੂਮਿਕਾ: ਇਹ ਟੀਮਾਂ ਸਿਰਫ਼ ਕੰਟੈਂਟ ਹਟਾਉਣ ਤੱਕ ਸੀਮਿਤ ਨਹੀਂ ਹੁੰਦੀਆਂ, ਬਲਕਿ ਨੀਤੀਆਂ ਬਣਾਉਣ, ਕਾਨੂੰਨੀ ਸੰਸਥਾਵਾਂ ਨਾਲ ਸਾਂਝ ਪਾਉਣ ਅਤੇ ਯੂਜ਼ਰ ਭਲਾਈ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਕੰਮ ਕਰਦੀਆਂ ਹਨ।
-
ਕੰਟੈਂਟ ਮਾਡਰੇਸ਼ਨ ਦੇ ਤਰੀਕੇ: ਮਾਡਰੇਸ਼ਨ ਤਿੰਨ ਪੱਧਰਾਂ ‘ਤੇ ਹੁੰਦੀ ਹੈ — ਘਰੇਲੂ (artisanal), ਕਮਿਊਨਟੀ-ਅਧਾਰਤ, ਅਤੇ ਇੰਡਸਟਰੀਅਲ (ਆਉਟਸੋರ್ಡ ਅਤੇ ਆਟੋਮੈਟਿਕ)।
-
ਲੰਬੇ ਸਮੇਂ ਦੀ ਹਾਨੀ: 2021 ਤੋਂ 2023 ਵਿੱਚ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਵੱਲੋਂ T&S ਟੀਮਾਂ ਦੀ ਛੰਟਣੀ ਹੋਈ ਜਿਸ ਕਾਰਨ ਉਨ੍ਹਾਂ ਦੀ ਭੂਮਿਕਾ ਅਤੇ ਮਨੋਵਿਗਿਆਨਿਕ ਸਿਹਤ ਦੋਹਾਂ ਪ੍ਰਭਾਵਿਤ ਹੋਏ।
-
ਜਨਤਕ ਭਰੋਸੇ ਦੀ ਘਾਟ: ਲੋਕਾਂ ਵਿਚ ਇਹ ਗਲਤਫਹਮੀ ਬਣ ਗਈ ਕਿ T&S ਟੀਮਾਂ ਅਭਿਵਿਕਤੀ ਦੀ ਆਜ਼ਾਦੀ ਘੱਟ ਕਰ ਰਹੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਉਨ੍ਹਾਂ ਨੂੰ ਨਿੰਦਿਆ ਅਤੇ ਤਨਾਵ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ।
-
ਭਾਰਤ ਵਿੱਚ ਖਾਸ ਚੁਣੌਤੀਆਂ: ਭਾਰਤ ਵਿੱਚ ਕਾਨੂੰਨੀ ਢਾਂਚਾ ਅਧੂਰਾ ਹੈ, ਕੰਟੈਂਟ ਮਾਡਰੇਸ਼ਨ ਆਉਟਸੋਰਸ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਭਾਸ਼ਾਈ-ਸਾਂਸਕ੍ਰਿਤਿਕ ਵਿਅਕਲਪਤਾਵਾਂ ਕਾਰਨ ਗਲਤ ਸਮਝ ਬਣ ਜਾਂਦੀ ਹੈ।
-
AI ਦੀ ਭੂਮਿਕਾ: Artificial Intelligence ਮਾਡਰੇਸ਼ਨ ਦੀ ਰਫ਼ਤਾਰ ਅਤੇ ਵਿਸ਼ਾਲਤਾ ਵਧਾਉਂਦਾ ਹੈ, ਪਰ ਇਹ ਸੰਦਰਭ ਅਤੇ ਵਿਅੰਗ ਨੂੰ ਸਮਝਣ ‘ਚ ਅਕਸਰ ਨਾਕਾਮ ਰਹਿੰਦਾ ਹੈ।
-
AI ਦੀਆਂ ਸੀਮਾਵਾਂ: AI ਵਿਚ ਪੱਖਪਾਤ ਹੋ ਸਕਦਾ ਹੈ ਜੇਕਰ ਉਹ ਗਲਤ ਜਾਂ ਅਧੂਰੇ ਡੇਟਾ ‘ਤੇ ਟ੍ਰੇਨ ਕੀਤਾ ਗਿਆ ਹੋਵੇ। ਇਹਦੇ ਨਤੀਜੇ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵੀ ਸਪਸ਼ਟ ਨਹੀਂ ਹੁੰਦੀ।
-
ਹਾਈਬ੍ਰਿਡ ਮਾਡਲ ਦੀ ਲੋੜ: ਭਵਿੱਖ ਵਿਚ ਇੱਕ ਐਸਾ ਮਾਡਲ ਲੋੜੀਂਦਾ ਹੈ ਜਿੱਥੇ AI ਦੀ ਰਫ਼ਤਾਰ ਹੋਵੇ ਅਤੇ ਮਨੁੱਖੀ ਮਾਡਰੇਟਰ ਦੀ ਸੂਝ-ਬੂਝ ਅਤੇ ਸਹਾਨੁਭੂਤੀ।
-
ਭਾਰਤੀ ਨੌਜਵਾਨਾਂ ਲਈ ਮੌਕੇ: ਨੌਜਵਾਨ Trust & Safety ਵਿੱਚ ਰੋਲ ਪਾ ਸਕਦੇ ਹਨ — Content Analyst, Policy Researcher, UX Designer, ਆਦਿ। TSPA ਵਰਗੀਆਂ ਸੰਸਥਾਵਾਂ ਸਰਟੀਫਿਕੇਸ਼ਨ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ।
-
ਭਵਿੱਖ ਦੀ ਦਿਸ਼ਾ: ਕਾਨੂੰਨੀ ਸੁਧਾਰ, ਸਮਾਜਿਕ ਚਰਚਾ ਅਤੇ ਨੌਜਵਾਨਾਂ ਦੀ ਭਾਗੀਦਾਰੀ Trust & Safety ਖੇਤਰ ਨੂੰ ਇੱਕ ਪੇਸ਼ਾਵਰ, ਆਦਰਸ਼ ਅਤੇ ਨੈਤਿਕ ਮੰਚ ਵਜੋਂ ਸਥਾਪਤ ਕਰ ਰਹੇ ਹਨ।
