ફેસબુક જેવી કંપનીઓ વ્યૂઝ માટે યુઝરની સલામતીને નજરઅંદાજ કરે છે, વ્હિસલ બ્લોઅર્સનો દાવો

Money Over Safety: સોશિયલ મીડિયા કંપની TikTok અને Metaના વ્હિસલ બ્લોઅર્સે ખુલાસો કર્યો છે કે કંપનીઓએ “અલ્ગોરિધમ આર્મ્સ રેસ” જીતવા માટે યુઝરની સલામતીને જોખમમાં મૂકી. આ ખુલાસો BBCની ડોક્યુમેન્ટરી Inside the Rage Machineમાં કરવામાં આવ્યો છે. આ આંતરિક સૂત્રોના કહેવા મુજબ કંપનીઓમાં સંશોધન કરતા જાણવા મળ્યું કે, તેમના અલ્ગોરિધમ લોકોમાં ગુસ્સો અને ઉશ્કેરાટ ઉભો કરીને એન્ગેજમેન્ટ વધારે છે, જેના કારણે યુઝર્સના ફીડમાં વધુ નુકસાનકારક કન્ટેન્ટ આવવા લાગે છે.

નુકસાનકારક કન્ટેન્ટને ફીડમાં લાવવાનો ઓર્ડર

Metaમાં Facebook અને Instagram પર કામ કરેલા એક એન્જિનિયરે જણાવ્યું કે સિનિયર મેનેજમેન્ટે તેમને યુઝર્સના ફીડમાં વધુ “બોર્ડરલાઇન” નુકસાનકારક કન્ટેન્ટ આવવા દેવા કહ્યું હતું. એમાં સ્ત્રીઓ વિરોધી અને કોન્સ્પિરસી થિયરીઓ જેવા કન્ટેન્ટનો સમાવેશ થાય છે. આ કર્મચારીના જણાવ્યા મુજબ તેમને કહેવામાં આવ્યું હતું કે કંપનીના શેરના ભાવમાં ઘટાડો થવાને કારણે આવું કરવું જરૂરી બન્યું હતું.

TikTokના ડેશબોર્ડમાં બાળકોની સલામતી કરતાં રાજકીય પોસ્ટને પ્રાથમિકતા

TikTokના એક કર્મચારીએ BBC સાથે કંપનીના યુઝર ફરિયાદો સંબંધિત આંતરિક ડેશબોર્ડ વિશે માહિતી શેર કરી હતી. આ કર્મચારીના જણાવ્યા મુજબ સ્ટાફને બાળકોને નુકસાન પહોંચાડતી પોસ્ટ્સ અંગે આવેલી અનેક ફરિયાદો કરતાં રાજકારણીઓ સાથે સંબંધિત કેટલાક કેસને વધુ પ્રાથમિકતા આપવા માટે કહેવામાં આવ્યું હતું. આનો હેતુ યુઝર્સની સુરક્ષા નહીં પરંતુ રાજકારણીઓ સાથે સારો સંબંધ જાળવવાનો અને નિયમન કે પ્રતિબંધના જોખમને ટાળવાનો હતો.

Instagramનું Reels પણ પૂરતી સુરક્ષા વિના લોન્ચ થયું

Metaના સિનિયર રિસર્ચર મેટ મોટિલએ ખુલાસો કર્યો કે TikTokને ટક્કર આપવા માટે બનાવાયેલ Instagramનું Reels ફીચર 2020માં પૂરતી સુરક્ષા વ્યવસ્થાઓ વિના લોન્ચ કરવામાં આવ્યું હતું. કંપનીની અંદર કરવામાં આવેલા રિસર્ચ મુજબ Reels પરના કોમેન્ટ્સમાં Instagramના અન્ય ભાગોની તુલનામાં બુલિંગ, હેરાસમેન્ટ, હેટ સ્પીચ અને હિંસા માટે ઉશ્કેરણી વધારે જોવા મળતી હતી. આ જાણકારી છતાં કંપનીએ Reelsને વધારવા માટે ભારે રોકાણ કર્યું, જ્યારે બાળકોની સુરક્ષા અને ચૂંટણીની વિશ્વસનીયતા જાળવતી ટીમોને વધારાનો સ્ટાફ આપવામાં આવ્યો નહોતો.

યુઝર સ્વાસ્થય કરતાં નફાને પ્રાથમિકતા આપતું Facebookનું એલ્ગોરિધમ

એક ઇન્ટર્નલ રિસર્ચમાં જાણવા મળ્યું કે Facebookનું અલ્ગોરિધમ કન્ટેન્ટ ક્રિએટર્સને એવો રસ્તો બતાવે છે જે તેમના દર્શકોની હેલ્થ કરતાં પોતાના નફાને વધુ પ્રાધાન્ય આપે છે. આ સ્ટડીમાં એવું પણ જાણવા મળ્યું કે કંપનીના અલ્ગોરિધમ દ્વારા જે પૈસા બનાવવામાં આવે છે એ કંપનીના મિશન સાથે બંધબેસતું નથી. આથી સોશિયલ મીડિયા પ્લેટફોર્મ્સમાં મોનેટાઇઝેશનની રણનીતિ અને યુઝરની સલામતી વચ્ચે કોઈ તાલમેલ નથી બેસતો.

દર અઠવાડિયે અલ્ગોરિધમ સુધારવાનો પ્રયાસ કરતું હતું TikTok

TikTokમાં 2020થી 2024 દરમિયાન કામ કરી ચૂકેલા પૂર્વ મશીન લર્નિંગ એન્જિનિયર રૂઓફાન ડિંગે જણાવ્યું કે કંપનીના અલ્ગોરિધમ એક પ્રકારનો “બ્લેક બોક્સ” છે, જેના આંતરિક કાર્યને સમજવું મુશ્કેલ છે. તેમણે કહ્યું કે TikTok માર્કેટ શેર વધારવા માટે લગભગ દર અઠવાડિયે અલ્ગોરિધમ સુધારવાનો પ્રયાસ કરતું હતું, અને આ પ્રક્રિયામાં તેમને વધુ “બોર્ડરલાઇન” અથવા સમસ્યાજનક કન્ટેન્ટ જોવા મળવા લાગ્યું. આ શબ્દનો ઉપયોગ સોશિયલ મીડિયા કંપનીઓમાં સામાન્ય રીતે એવા કન્ટેન્ટ માટે થાય છે જે કાયદેસર હોય છતાં નુકસાનકારક હોય, જેમ કે

• સ્ત્રી વિરોધી કન્ટેન્ટ

• જાતિવાદી

• સેક્સ્યુઅલ કન્ટેન્ટ

• કોન્સ્પિરસી થિયરી આધારિત કન્ટેન્ટ

આ પણ વાંચો: ChatGPTના એડલ્ટ મોડને કારણે OpenAIમાં ચિંતા, લોન્ચિંગ ડેટ લંબાવાઈ

રાજકારણીઓ સાથેના સંબંધોને વધુ મહત્વ આપે છે TikTok

TikTokની ટ્રસ્ટ અને સેફ્ટી ટીમના સભ્ય નિકે BBCને પુરાવા બતાવ્યા હતા. એમાં દર્શાવાયું હતું કે રાજકારણીઓ સાથે જોડાયેલા કેટલાક સામાન્ય કેસોને ટીનેજરને નુકસાન પહોંચાડતા અનેક કેસ કરતાં વધુ પ્રાથમિકતા આપવામાં આવી હતી. એના આધારે તેમને એવું લાગ્યું કે કંપની માટે બાળકોની સુરક્ષા કરતાં રાજકારણીઓ અને સરકારો સાથે મજબૂત સંબંધ જાળવવું વધુ મહતત્વનું છે. તેમની સાથે સંબંધ સારા રાખતાં નવા નિયમ અથવા પ્રતિબંધોથી તેમની કંપનીને નુકસાન ન થાય એની કાળજી રાખવામાં આવતી હતી.