વાંધાજનક તસવીરો નહીં બનાવી શકે ગ્રોક AI, વૈશ્વિક વિરોધ બાદ ઈલોન મસ્કની Xએ આખરે બંધ કર્યું ફીચર
Summarized by AI; it may make mistakes. Check important info
Summarized by AI; it may make mistakes. Check important info
Grok AI Ban: દુનિયાભરમાં ટીકા થયા બાદ ઈલોન મસ્કની કંપની X દ્વારા અશ્લીલ ફોટો બનાવવાના ફીચરને બંધ કરી દેવામાં આવ્યું છે. હવેથી રિયલ વ્યક્તિના ફોટોને ગ્રોક પર અપલોડ કરીને એના કપડાં કાઢવા માટેનો કમાન્ડ નહીં આપી શકાય. ઈલોન મસ્કે 2023માં જ્યારે ટ્વિટર ખરીદ્યું ત્યારથી સતત ચર્ચામાં રહે છે. આ વખતે Xના AI ગ્રોકને લઈને વિવાદમાં છે.
સેક્સ્યુઅલ ફોટો એડિટ પર બેન
ઈલોન મસ્ક દ્વારા ફોટોને સેક્સ્યુઅલ બનાવવા માટે ગ્રોક પર રોક લગાવી દેવામાં આવી છે. હવેથી કોઈપણ યુઝર્સ જે-તે વ્યક્તિના ફોટા અપલોડ કરીને એને નગ્ન બનાવવા માટે કમાન્ડ નહીં આપી શકે. AI ડીપફેકને લઈને સોશિયલ મીડિયાની સાથે દુનિયાભરના દેશોમાં એની આલોચના કરવામાં આવી રહી છે. આ વિશે X દ્વારા સ્ટેટમેન્ટમાં કહ્યું કે ‘ગ્રોક દ્વારા રિયલ લોકોના ફોટોને કપડાં કાઢીને અશ્લીલ બનાવવામાં જે કમાન્ડ આપવામાં આવતો હતો એના પર અમે લગામ લગાવી દીધી છે.’
યૂકેના સરકારનું રિએક્શન
યૂકેના પ્રાઈમ મિનિસ્ટર સર કેયર સ્ટાર્મર દ્વારા Xને તેના AI ગ્રોકને કન્ટ્રોલ કરવા માટેની સૂચના આપી છે. ઈલોન મસ્ક દ્વારા આ ફીચર પર રોક લગાવી દેતા યૂકેની સરકાર દ્વારા એને યોગ્ય કહેવામાં આવી રહ્યું છે. જોકે યૂકેના રેગ્યુલેટર ઓફકોમ દ્વારા કહેવામાં આવ્યું છે કે Xના નિર્ણયનો સમર્થન કરીએ છીએ, પરંતુ એ પાછળ ઈન્વેસ્ટિગેશન જરૂર કરીશું કે કંપની દ્વારા કોઈ નિયમ તોડવામાં નથી આવ્યોને. આ પાછળ રેગ્યુલેટર દ્વારા સતત કામ કરવામાં આવી રહ્યું છે અને પ્રોગ્રેસની પણ સતત ફીડબેક લેવામાં આવી રહી છે.
કેલિફોર્નિયા દ્વારા પણ કરવામાં આવી રહ્યું છે ઈન્વેસ્ટિગેશન
કેલિફોર્નિયાના ટોચના પ્રોસિક્યુટર દ્વારા કહેવામાં આવ્યું છે કે તેઓ હવે ગ્રોકને ઈન્વેસ્ટિગેટ કરી રહ્યાં છે. એના દ્વારા જેટલા ડીપફેક બનાવવામાં આવ્યા છે એની તપાસ કરવામાં આવશે. એમાં બાળકોના પણ ડીપફેક બનાવવામાં આવ્યા એ વિશે પણ અલગથી તપાસ કરવામાં આવશે. આ વિશે X દ્વારા સ્ટેટમેન્ટમાં કહેવામાં આવ્યું કે ‘અમે ગ્રોક અને Xમાં પણ ગ્રોકનો ઉપયોગ કરી રિયલ લોકોના ફોટોને બિકીનીમાં અને અન્ય રીતે ઈમેજ જનરેટ કરી રહ્યાં છે એના પર રોક લગાવી રહ્યાં છીએ. જ્યાં જ્યાં આ પ્રકારના ઈમેજ જનરેટ કરવા કાયદા વિરુદ્ધ છે અમે ત્યાં એને બંધ કરી રહ્યાં છીએ.’
પેઈડ યુઝર કરી શકશે ફોટો એડિટ
X દ્વારા કહેવામાં આવ્યું છે કે ફક્ત પેઈડ યુઝર્સ જ ગ્રોકનો ઉપયોગ ફોટો એડિટ કરવા માટે કરી શકશે. ગ્રોકનો ઉપયોગ ખોટી રીતે કરીને ફોટો જનરેટ કરનારને હવે ગુનેગાર માનવામાં આવશે અને ફક્ત પેઈડ યુઝર એનો ઉપયોગ કરી શકતું હોવાથી સિક્યોરિટીમાં પણ વધારો થશે.
નોટ સેફ ફોર વર્ક સેટિંગ્સ
ગ્રોકમાં નોટ સેફ ફોર વર્ક સેટિંગ્સ છે. ઈલોન મસ્ક દ્વારા આ વિશે કહેવામાં આવ્યું કે ગ્રોકમાં ઉપરની બોડીની ન્યુડિટી દેખાડી શકાય એવું હોવું જોઈએ, પરંતુ એ રિયલ વ્યક્તિ માટે નહીં, પરંતુ ફોટો જનરેટ કરે એ રીતે. R-રેટેડ ફિલ્મ્સમાં જે રીતે દેખાડવામાં આવે છે એવું હોવું જોઈએ. જોકે ઈલોન મસ્ક દ્વારા કહેવામાં આવ્યું છે કે અમેરિકાના સ્ટાન્ડર્ડ પ્રમાણે સેટિંગ્સ છે એ દરેક જગ્યાએ નહીં હોય. દરેક દેશના નિયમ પ્રમાણે અલગ અલગ સેટિંગ્સ હશે. ઈલોન મસ્ક દ્વારા યૂકેના પ્રાઈમ મિનિસ્ટર સર કેયર સ્ટાર્મરના બિકીનીના ફોટો વિશે પોસ્ટ કર્યું હતું કે વાણી સ્વાતંત્ર્યને દબાવવામાં આવી રહ્યું છે.
દુનિયાભરમાં બબાલ
છેલ્લા થોડા દિવસથી દુનિયાભરમાં ગ્રોકના ઈમેજ એડિટિંગ ફીચરને વખોડી કાઢવામાં આવ્યું છે. આ અઠવાડિયામાં મલેશિયા અને ઈન્ડોનેશિયા દ્વારા ગ્રોકને બેન કરી દેવામાં આવ્યું છે. પરવાનગી વગર ગ્રોક દ્વારા અશ્લીલ ફોટો જનરેટ કરવામાં આવતા એને બેન કરવામાં આવ્યું છે.
