વિશ્વની કોઈ AI કંપની ન્યૂડ તસવીરો બનતા રોકી નહીં શકે! જાણીતી AI કંપનીની ચિંતાજનક કબૂલાત
Summarized by AI; it may make mistakes. Check important info
Summarized by AI; it may make mistakes. Check important info
AI Image Generation: દુનિયાની એક જાણીતી AI કંપનીએ ચિંતાજનક કબૂલાત કરી છે કે વિશ્વની કોઈ પણ AI કંપની ન્યૂડ તસવીરો બનાવતા રોકી નહીં શકે. ઈલોન મસ્કના ગ્રોક AI દ્વારા ઈમેજ જનરેશનને લઈને ખૂબ જ વિવાદ ચાલી રહ્યો છે. આ વિવાદને લઈને લોકલ લેબ્સ કંપનીના CEO જેમ્સ ડ્રાયસને કહ્યું કે AI ઈમેજ જનરેશન સંપૂર્ણ રીતે સુરક્ષિત નથી. કોઈ પણ કંપની AI મોડલ ન્યૂડ ફોટો બનાવતાં અટકાવી નહીં શકે. ઈન્ડોનેશિયા અને મલેશિયા જેવા દેશ હવે ગ્રોક AIને બેન કરી રહ્યાં છે. આથી જ લોકલ લેબ્સ દ્વારા એ વાતની જાહેરાત કરવામાં આવી છે કે જ્યાં સુધી ઈમેજ જનરેશન સંપૂર્ણ રીતે સુરક્ષિત નહીં થઈ જાય ત્યાં સુધી એ ફીચરને લોન્ચ કરવામાં નહીં આવે. આ કંપની દ્વારા 18 વર્ષથી નાના બાળકોને ચેટબોટનો ઉપયોગ કરવા પર પણ પ્રતિબંધ લગાવી દીધો છે.
હકીકતનો સામનો
જેમ્સ ડ્રાયસન દ્વારા લોકોને હકીકતનો સામનો કરાવવામાં આવ્યો છે. આ એક એવી સચ્ચાઈ છે જેને લોકો કહેવા અથવા તો સ્વીકારવા નથી માગતા. એવા સમયે એને દુનિયા સામે મૂકવા માટે ખૂબ જ હિંમત જોઈએ છે. જેમ્સ દ્વારા કહેવામાં આવ્યું છે કે ‘ટેક કંપનીઓ આ સમસ્યાનો સામનો કરે અને લોકોને હકીકતનો સામનો કરાવે. કોઈ પણ કંપની માટે એ અસંભવ છે કે તેઓ ખાતરી આપી શકે કે તેમનું AI મોડલ અશ્લીલ ફોટો જનરેટ નહીં કરે. AI મોડલ હોંશિયાર જરૂર છે, પરંતુ પરફેક્ટ નથી.’
AIથી ફોટો બનાવવાનું ફીચર બંધ
દુનિયાભરમાં હાલમાં ગ્રોકને લઈને જે વિવાદ ચાલી રહ્યો છે એને લઈને લોકલ લેબ્સ દ્વારા ઈમેજ જનરેશનની પ્રોસેસને અટકાવી દેવામાં આવી છે. આ ફીચરને ત્યાં સુધી બંધ કરી દેવામાં આવ્યું છે જ્યાં સુધી એ લોકો માટે સુરક્ષિત નહીં બને. આ સાથે જ 18 વર્ષથી નાની વ્યક્તિ માટે ચેટબોટનો ઉપયોગ પર રોક લગાવી દેવામાં આવી છે. જોકે તેમણે હજી સુધી આ ફીચરને લોન્ચ નથી કર્યું, પરંતુ તેઓ જે કામ કરી રહ્યાં છે એને અટકાવી દેવામાં આવ્યું છે.
ગ્રોક AI છે મુશ્કેલીમાં
ફોટો જનરેશનને લઈને ઈલોન મસ્કનું ગ્રોક AI મુશ્કેલીમાં છે. ગ્રોક પર એ આરોપ લગાવવામાં આવ્યો છે કે એ બાળકો અને મહિલાઓની અશ્લીલ ફોટો બનાવી રહ્યું છે. જોકે ગ્રોક એકલું આ ફીચર નથી ધરાવતું. ચેટજીપીટી અને જેમિનીનો ઉપયોગ કરનાર યુઝર્સ પણ આ રીતે ફોટો જનરેટ કરી શકે છે. જોકે જ્યાં સુધી પ્રતિબંધની વાત છે ત્યાં સુધી ગ્રોક એનો સામનો કરી રહ્યું છે. ચેટજીપીટી અને જેમિની પર કોઈ જાતની તવાઈ જોવા નથી મળી રહી. ઈન્ડોનેશિયા અને મલેશિયાએ ગ્રોકને બેન કરી દીધું છે. તેમ જ બ્રિટન દ્વારા તપાસ શરૂ કરવામાં આવી છે. બ્રિટનમાં પણ એને બેન કરવામાં આવે એના ચાન્સ વધી ગયા છે.
