ગૂગલે AI-આધારિત અર્થ ફીચર પર ગણતરીના કલાકોમાં લગાવી રોક: ‘Nano Banana 2’ ટેક્નોલોજી દ્વારા નકલી સેટેલાઇટ ઈમેજ બનવાનો વિવાદ વકરતા લીધો નિર્ણય

Google Halts Fake AI Earth: ટેક જાયન્ટ ગૂગલે તેના લોકપ્રિય પ્લેટફોર્મ ‘ગૂગલ અર્થ’ના એક બિલકુલ નવા ફીચરના લોન્ચિંગ પર અચાનક રોક લગાવી દીધી છે. આ અદ્યતન ફીચર યુઝર્સને માત્ર ટેક્સ્ટ પ્રોમ્પ્ટ ટાઇપ કરીને સેટેલાઇટ દ્વારા લેવાયેલી હોય તેવી નકલી આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) જનરેટેડ ઈમેજીસ બનાવવાની મંજૂરી આપતું હતું. ગૂગલની અત્યંત આધુનિક AI ટેક્નોલોજી ‘Nano Banana 2’ પર આધારિત આ ટૂલને ગ્લોબલ લોન્ચિંગના ગણતરીના કલાકોમાં જ પ્લેટફોર્મ પરથી હટાવી લેવાની ફરજ પડી છે. આ ફીચર દ્વારા મોટા પાયે ભ્રમિત કરનારી અને નકલી તસવીરો બનવાની ગંભીર ચિંતાઓ સામે આવ્યા બાદ કંપનીએ આ મોટો નિર્ણય લીધો છે.

સંશોધકોએ ગણતરીની મિનિટોમાં નકલી ઈમેજ બનાવી સુરક્ષા ફિલ્ટર્સની પોલ ખોલી

આ નવું ફીચર સામાન્ય યુઝર્સ માટે ઉપલબ્ધ થતાંની સાથે જ ટેક રિસર્ચર્સે તેની સુરક્ષા વ્યવસ્થાની ચકાસણી શરૂ કરી હતી. સંશોધકોએ ટૂંક સમયમાં જ સાબિત કરી દીધું કે આ ટૂલમાં કોઈ પણ પ્રકારના મજબૂત સેફગાર્ડ્સ કે સેન્સર્ડ ફિલ્ટર્સ લગાવવામાં આવ્યા નથી. કોઈ પણ સુરક્ષા ફિલ્ટર વિના આ AI ટૂલ વિવાદાસ્પદ અને અત્યંત સંવેદનશીલ ઈમેજીસ સહેલાઈથી બનાવી રહ્યું હતું. સંશોધકોએ આ ટૂલની મદદથી પૂર કે ધરતીકંપ જેવી નકલી કુદરતી આપત્તિઓના સ્થળો અને અત્યંત ગોપનીય મિલિટરી વિસ્તારોની હૂબહૂ સેટેલાઇટ તસવીરો મિનિટોમાં જ જનરેટ કરીને દુનિયાને ચોંકાવી દીધી હતી.

ખોટા વિઝ્યુઅલ્સથી વૈશ્વિક સ્તરે સેટેલાઇટ ડેટા પરનો વિશ્વાસ ઉઠી જવાની નિષ્ણાતોની ચેતવણી

સાયબર સુરક્ષા અને ડિજિટલ ડેટા નિષ્ણાતોએ આ બાબતે ગંભીર ચિંતા વ્યક્ત કરતા વૈશ્વિક સ્તરે ચેતવણી આપી છે. નિષ્ણાતોના મતે, આ પ્રકારની અનિયંત્રિત સેટેલાઇટ ઈમેજીસ બનાવવાની ટેક્નોલોજીથી ઈન્ટરનેટ પર ખોટી અને ભ્રામક માહિતીનો રાફડો ફાટી શકે છે. યુદ્ધ, સુરક્ષા કે ભૌગોલિક આપત્તિઓ સમયે આવા નકલી વિઝ્યુઅલ્સ સોશિયલ મીડિયા પર શેર કરીને સહેલાઈથી અફવાઓ ફેલાવી શકાય છે. સૌથી મોટો ખતરો એ છે કે, આના કારણે લોકોનો સત્તાવાર અને વાસ્તવિક મેપ ડેટા પરથી પણ વિશ્વાસ સંપૂર્ણપણે ઉઠી જશે, જે વૈશ્વિક સુરક્ષા માટે જોખમી સાબિત થઈ શકે છે.

ગૂગલે ભૂલ સ્વીકારી: વધુ મજબૂત સેફગાર્ડ્સ સાથે વાપસી કરવાની ખાતરી આપી

આ વિવાદ સોશિયલ મીડિયા અને ટેક જગતમાં વકર્યા બાદ ગૂગલે સત્તાવાર રીતે પોતાની ભૂલ સ્વીકારી લીધી છે. ગૂગલે સ્વીકાર્યું છે કે આ ફીચર દ્વારા જનરેટ થયેલી કેટલીક AI તસવીરોએ કંપનીની સત્તાવાર નીતિઓ અને નિયમોનું સરેઆમ ઉલ્લંઘન કર્યું છે. કંપનીએ હાલ પૂરતું આ નવું અર્થ ફીચર સંપૂર્ણપણે સ્થગિત કરી દીધું છે. ગૂગલે નિવેદન આપ્યું છે કે તેમની ટેકનિકલ ટીમ આ AI સિસ્ટમમાં વધુ મજબૂત સુરક્ષા કવચ અને સેફગાર્ડ્સ ઉમેરવા પર કામ કરી રહી છે. આ સિસ્ટમ નકલી અફવાઓ ન ફેલાવે તેની સંપૂર્ણ ખાતરી થયા બાદ જ આ ફીચરને ભવિષ્યમાં ફરીથી લોન્ચ કરવામાં આવશે.