પોતાના જ બનાવેલા AI સામે OpenAI લાચાર: એજન્ટ્સની શંકાસ્પદ કરતૂતો તપાસવા રોજ કરોડોનો ધુમાડો

OpenAI Investigates Rogue AI Agents: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ક્ષેત્રની અગ્રણી કંપની OpenAI હાલ પોતાના જ AI એજન્ટ્સની અનિયંત્રિત પ્રવૃત્તિઓથી મુશ્કેલીમાં મુકાઈ ગઈ છે. ઈન્ટરનેટ પર કંપનીના AI એજન્ટ્સે શું કર્યું છે તેની તપાસ કરવા માટે OpenAI દરરોજ $5,00,000થી વધુ (આશરે ₹5 કરોડ)નો જંગી ખર્ચ કરી રહી છે. કંપની આશરે 50 પેટાબાઇટ્સ જેટલા વિશાળ ડેટાની સમીક્ષા કરી રહી છે.

એક અહેવાલ મુજબ, આ ડેટાનો વ્યાપ એટલો મોટો છે કે જો તે સાદા અંગ્રેજી લખાણ સ્વરૂપે હોય, તો એક વ્યક્તિને વગર ઊંઘ્યે કે વિરામ લીધા વિના (240 શબ્દો પ્રતિ મિનિટની ઝડપે) આખો ડેટા વાંચતાં પૂરા 6.6 કરોડ વર્ષ જેટલો સમય લાગી જાય!

પોતાના જ AIની તપાસ કરવા OpenAI કરી રહી છે AIનો ઉપયોગ

OpenAI એ એક બ્લોગ પોસ્ટમાં જણાવ્યું છે કે કંપની દર મહિને થયેલી પ્રવૃત્તિઓની બારીકાઈથી સમીક્ષા કરી રહી છે, જેથી અજાણતાં થયેલી શંકાસ્પદ હિલચાલ પકડી શકાય:

• ડેટા સ્કેલ: તપાસ હેઠળનો ડેટા આશરે 50 પેટાબાઇટ્સ (લગભગ 5 કરોડ ગીગાબાઇટ્સ) જેટલો છે.
• AI દ્વારા વિશ્લેષણ: આટલા પ્રચંડ ડેટાનું પૃથક્કરણ કરવા માટે ખુદ OpenAI પણ અન્ય આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સ અને કમ્પ્યુટિંગ પાવરનો ઉપયોગ કરી રહી છે.
• સુરક્ષા અને ક્રેડેન્શિયલ્સની ચકાસણી: કંપની એ તપાસી રહી છે કે તેના મોડેલ્સે કઈ-કઈ વેબસાઇટ્સને અનધિકૃત રીતે એક્સેસ કે મોડિફાય કરી છે અથવા પાસવર્ડ, API કી અને અન્ય સંવેદનશીલ ઓળખપત્રો સાથે છેડછાડ કરી છે કે નહીં.
• કંપનીએ ચેતવણી આપી છે કે આ સમીક્ષા હજુ ઘણા મહિનાઓ સુધી ચાલશે અને જૂની ઘટનાઓને પગલે હજુ વધુ સંસ્થાઓનો સંપર્ક કરવામાં આવી શકે છે.

કેમ શરૂ કરવી પડી આ તપાસ?

આ તપાસ શરૂ કરવા પાછળ OpenAIના ઓટોનોમસ AI એજન્ટ્સ દ્વારા ઈન્ટરનેટ પર કરાયેલા કેટલાક અનિચ્છનીય અને ગંભીર છબરડાં જવાબદાર છે:

• હગિંગ ફેસ પર હુમલો: AI પ્લેટફોર્મ Hugging Face પર થયેલી પ્રવૃત્તિ અત્યાર સુધીની સૌથી ગંભીર રોગ-એજન્ટ ઘટના સાબિત થઈ છે.
• ઓસ્ટ્રેલિયન સરકારી ડેટામાં ઘૂસણખોરી: એજન્ટ્સે ન્યૂ સાઉથ વેલ્સ (ઓસ્ટ્રેલિયા) સરકારની વેબસાઇટ પરથી પરવાનગી વિના ઐતિહાસિક અને નોન-પબ્લિક બુશફાયર ડેટા એક્સેસ કરી લીધો હતો. આ બાબત સામે આવતાં કંપનીએ ઓસ્ટ્રેલિયન સિગ્નલ્સ ડિરેક્ટોરેટ અને સ્થાનિક સરકારને તાત્કાલિક જાણ કરી હતી.
• 100થી વધુ સંસ્થાઓને નોટિસ: કંપનીએ અત્યાર સુધીમાં 100થી વધુ સંસ્થાઓને એલર્ટ મોકલ્યા છે. જોકે કંપનીએ સ્પષ્ટતા કરી છે કે નોટિસનો અર્થ એ નથી કે પ્રાઈવેટ માહિતી ચોરાઈ ગઈ છે, પરંતુ સિસ્ટમમાં સુરક્ષા ખામી ઉઘાડી પડી હોવાની સંભાવનાને પગલે સાવચેતી રૂપે જાણ કરવામાં આવી રહી છે.

AI એજન્ટ્સની સ્વાયત્તતા પર વધતી ચિંતાઓ

જ્યારે AI એજન્ટ્સને યુઝર્સ વતી જાતે બ્રાઉઝિંગ કરવાની, સોફ્ટવેર વાપરવાની અને નિર્ણયો લેવાની સ્વતંત્રતા આપવામાં આવે છે, ત્યારે તેઓ પ્રોટોકોલ તોડીને અનિયંત્રિત વર્તન કરી શકે છે. એક અહેવાલ મુજબ, આ મોડેલ્સ પાસે પૂરતા નિયંત્રણો ન હોવાથી તેમણે અનિચ્છનીય રીતે ઇન્ટરનેટનો ઉપયોગ કર્યો હતો. આવી ઘટનાઓ ભવિષ્યમાં ન બને તે માટે હવે OpenAI નવા ટેકનિકલ ફિલ્ટર્સ અને ઓપરેશનલ નિયમો અમલમાં મૂકી રહી છે.