Apple And Google Nudify Apps: હાલમાં જ એક રિપોર્ટમાં ચોંકાવનારો ખુલાસો થયો છે. Tech Transparency Project (TTP) દ્વારા એક ઇન્વેસ્ટિગેશન કરવામાં આવ્યું હતું. તેમાં ખુલાસો કરવામાં આવ્યો છે કે Apple અને Google બંને પોતાની એપ સ્ટોર્સ પર “ન્યૂડિફાઈ” એપ્સને હોસ્ટ અને પ્રોમોટ કરી રહ્યા છે. આ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) આધારિત એપ્સ સરળ સર્ચ દ્વારા Apple Store અને Google Play Store પર સરળતાથી મળી જાય છે. Apple અને Google બન્નેની પોલિસી છે કે તેઓ આ પ્રકારની એપ્લિકેશનને સ્ટોર પર નહીં રાખે, પરંતુ એમ છતાં આવી ઘણી એપ્લિકેશનો જોવા મળી રહી છે. એક રિપોર્ટ મુજબ આ એપ્સ કરોડો વખત ડાઉનલોડ થઈ છે અને તેમના ડેવલપર્સે એના દ્વારા ઘણી આવક પણ ઊભી કરી છે, જેના કેટલાક ટકા Apple અને Googleને પણ મળ્યા છે.
Elon Muskએ શું કહ્યું?
Elon Musk જે AI ચેટ એપ Grokના માલિક છે, તેમણે આ મુદ્દે પ્રતિસાદ આપ્યો હતો. Grok એપ પર પણ સેક્સ્યુઅલ કન્ટેન્ટ જનરેટ કરવા અંગે ટીકા થઈ ચૂકી છે. નાના બાળકોના સેક્સ્યુઅલ ડીપફેક બનાવવા બદલ એની ખૂબ જ ટીકા થઈ ચૂકી છે. આ વિશે ઘણાં દેશો દ્વારા તેમના પર કડક પગલાં લેવામાં આવશે એની પણ વાત કરવામાં આવી હતી. Apple Store પરથી આ એપ્લિકેશનને કાઢી નાખવાની ધમકી પણ આપવામાં આવી હતી. જોકે આ સમાચાર જ્યારે બહાર આવ્યા ત્યારે Elon Muskએ પોતાના સોશિયલ મીડિયા પ્લેટફોર્મ X પર પોસ્ટ કરીને કહ્યું, “Well, how about that … ?”
48.3 કરોડ ડાઉનલોડ, 122 મિલિયન ડોલરની આવક
TTPના ઇન્વેસ્ટિગેશન અનુસાર આ ન્યૂડિફાઈ એપ્સ કુલ 483 મિલિયન (48.3 કરોડ) વખત ડાઉનલોડ થઈ છે અને આશરે 122 મિલિયન ડોલરની આવક જનરેટ કરી છે. આ માહિતી TTPના જાન્યુઆરી અહેવાલ પછીની ફોલો-અપ તપાસમાં સામે આવી છે. આ પહેલા પણ જણાયું હતું કે આ પ્રકારની એપ્સ એપ રિવ્યુ સિસ્ટમમાંથી પસાર થઈ જાય છે. જોકે Apple અને Google બંને પાસે non-consensual imagery, deepfake અને સેક્સ્યુઅલ કન્ટેન્ટ સામે કડક નીતિઓ છે, તેમ છતાં આવી એપ્સ પ્લેટફોર્મ પર હાજર છે.
Everyone અથવા 13+ રેટિંગ સાથે ઉપલબ્ધ છે એપ્સ
TTPની તપાસમાં Apple Store પર 46 અને Google Play પર 49 ન્યૂડિફાઈ એપ્સ મળી આવી છે. આ રિપોર્ટમાં ચોંકાવનારી વાત એ છે કે આમાંથી ઘણી એપ્સને “E for Everyone” અથવા “13+” જેવી રેટિંગ આપવામાં આવી છે. એટલે કે આ એપ્લિકેશનનો ઉપયોગ મોટા ભાગના તમામ યુઝર્સ કરી શકે છે અને તેમાં ટીનેજર્સનો પણ સમાવેશ થાય છે. કેટલાક ડેવલપર્સ, ખાસ કરીને ચીન આધારિત ડેવલપર્સ, તેમની એપ્લિકેશન માટે અસ્પષ્ટ માહિતીનો ઉપયોગ કરીને એપ રિવ્યુથી બચી જાય છે. મીડિયા તપાસ બાદ કેટલીક એપ્સે પોતાની એપ્લિકેશનનો ઉપયોગ કરનાર રેટિંગમાં વધારો કર્યો હતો અને કેટલાક ડેવલપર્સ દ્વારા ફિલ્ટરનો સમાવેશ કરવામાં આવ્યો હતો.
Appleએ 15 એપ્સ દૂર કરી, Googleએ 7 સસ્પેન્ડ કરી
TTPના ખુલાસા બાદ Appleએ 15 એપ્સ દૂર કરી જ્યારે Googleએ 7 એપ્સ સસ્પેન્ડ કરી. આ પહેલાં જાન્યુઆરીમાં પણ 24થી વધુ એપ્સ દૂર કરવામાં આવી હતી, પરંતુ તે ફરી પ્લેટફોર્મ પર જોવા મળી હતી. બંને કંપનીઓએ કહ્યું છે કે તેઓ નિયમોના ઉલ્લંઘન પર કાર્યવાહી કરે છે, પરંતુ TTPએ તેમને આ પ્રકારની એપ્સને ફેલાવામાં બન્ને કંપનીને “મુખ્ય ભાગીદાર” ગણાવ્યા છે, કારણ કે તેઓ ઇન-એપ ખરીદી, સબ્સ્ક્રિપ્શન અને જાહેરાતોથી આવક મેળવે છે. આ આવકને કારણે તેમની એપ્લિકેશનોને ફરી પરવાનગી મળી જાય છે.
મહિલાઓ અને નાની ઉંમરના બાળકો માટે મોટો ખતરો
ન્યૂડિફાઈ એપ્સ AI દ્વારા બનાવાયેલા ઈમેજ અને વીડિયો ક્ષેત્રમાં ગંભીર ચિંતાનો વિષય બની ગઈ છે. આ પ્લેટફોર્મ પર કોઈપણ મહિલા સામાન્ય હોય કે સેલિબ્રિટી સુરક્ષિત નથી. જાણીતી સેલિબ્રિટીઝમાં Taylor Swift અને Emma Watsonનો સમાવેશ થાય છે. તેમના ડીપફેક બનાવવામાં આવ્યા હતા. આ સાથે જ નાની ઉંમરના બાળકો પણ સેક્સ્યુઅલ ડીપફેકનો શિકાર થયા છે. UNICEF, ECPAT અને INTERPOLના અભ્યાસ મુજબ, 11 દેશોમાં ઓછામાં ઓછા 12 લાખ નાના બાળકોના ફોટા ડીપફેક સેક્સ્યુઅલ કન્ટેન્ટમાં ફેરવવામાં આવ્યા હતા. આથી સ્પષ્ટ થાય છે કે આ એપ્સ વૈશ્વિક સ્તરે સુરક્ષા અને ગોપનીયતા માટે ગંભીર ખતરો બની રહી છે. જોકે એમ છતાં Apple અને Google બંને પર એ જોવા મળી રહી છે.
