ઓપન AI બાદ હવે એન્થ્રોપિકના AI મોડેલે પણ 3 કંપનીઓની સિસ્ટમ હેક કરી

વોશિંગ્ટન/સેન ફ્રાન્સિસ્કો : વિશ્વભરમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (એઆઈ) ટેક્નોલોજીનો વિકાસ જેમ વધી રહ્યો છે, તેમ તેની સુરક્ષાને લગતા ચિંતાજનક કિસ્સાઓ પણ સામે આવી રહ્યા છે. અગ્રણી એઆઈ કંપની 'એન્થ્રોપિક'એ ખુલાસો કર્યો છે કે 'તેના એક નવા ક્લોડ એઆઈ મોડલે, પરીક્ષણ (ટેસ્ટિંગ) દરમિયાન કંપનીની જાણ બહાર જઈને, ઇન્ટરનેટ સાથે જોડાણ કરી લીધું હતું અન્ય કંપનીઓની કોમ્પ્યુટર સિસ્ટમમાં ગેરકાયદેસર રીતે હેકિંગ કરીને ઘૂસણખોરી કરી હતી. આ કંપનીઓને એઆઈ દ્વારા હેકિંગની ખબર પણ પડી નહીં. આ પહેલાં અમેરિકન ટેક્નોલોજી કંપની ઓપન એઆઈએ તેના એઆઈ મોડેલે તેનું ટેસ્ટિંગ એન્વાયરમેન્ટ તોડીને અન્ય કંપનીમાં ઘૂસણખોરી કરી હોવાનો ઘટસ્ફોટ કર્યો હતો. આ ઘટનાઓએ દુનિયામાં આગામી સમયમાં એઆઈના જોખમો અંગે ચેતવણી આપી છે.
૧,૪૦,૦૦૦ ટેસ્ટીંગ રિપોર્ટની તપાસ બાદ સત્ય સામે આવ્યું
કોઈ પણ એઆઈ મોડલને લોક વપરાશ માટે જાહેરમાં ખુલ્લું મુક્ત પહેલા, કંપની તેને હજારો-લાખો પરીક્ષણોમાંથી પસાર કરે છે. આ પરીક્ષણ 'મૂલ્યાંકન' અથવા 'ટેસ્ટિંગ' કહેવાય છે.
આવાં પરીક્ષણો એ ચકાસવા માટે કરવામાં આવે છે કે એઆઈ મોડલ સુરક્ષિત છે કે નહીં?'' કોઈ ગેરકાયદે કે અનૈતિક કામ તો કરતું નથી ને, આપેલા નિયમો તોડતું તો નથી. સમાચારમાં જણાવ્યા મુજબ, કંપનીએ પોતાના ૧,૪૦,૦૦૦થી વધુ આવા જૂના મૂલ્યાંકનોની તપાસ કરી, ત્યારે એઆઈ મોડલની આ ગંભીર ભૂલ પકડાઈ હતી.
'કેપ્ચર ધ ફ્લેગ' ટેસ્ટ શું છે?
સાયબર સુરક્ષા ક્ષેત્રમાં કંપનીઓ પોતાના સિસ્ટમને મજબૂત બનાવવા માટે નકલી (સિમ્યુલેટેડ) હેકિંગ ચેલેન્જ યોજે છે, જેને 'કેપ્ચર ધ ફ્લેગ' કહેવાય છે. કોઈ ખાસ છુપાયેલો કોડ કે માહિતી શોધીને 'જીતવાની' સ્પર્ધાત્મક રમત જેવો ટેસ્ટ કંપની યોજે છે તેને 'કેપ્ચર ધ ફ્લેગ' કહે છે.
આ કિસ્સામાં એઆઈ મોડલને આવો જ એક ટેસ્ટ આપવામાં આવ્યો હતો, જેમાં તેને નેટવર્ક પર છુપાયેલો કોડ શોધવાનું કામ સોંપાયું હતું.
પાસવર્ડની ગેરરીતિનો ફાયદો ઉઠાવીને મોડલ છટકી ગયું
સામાન્ય રીતે આવા ટેસ્ટિંગ દરમિયાન એઆઈ મોડલને એક બંધ, સુરક્ષિત (આઇસોલેટેડ) વાતાવરણમાં જ રાખવામાં આવે છે. જેમ કોઈ પ્રયોગશાળામાં જૈવિક નમૂનો બહારની હવાના સંપર્કમાં ન આવે તેમ, એ મોડેલને ઇન્ટરનેટ સુધી પહોંચવાં દેવામાં આવતું નથી. પરંતુ કંપની અને તેની સાથે કામ કરતી ભાગીદાર સંસ્થા વચ્ચે પાસવર્ડ/ઓથેન્ટિકેશનની ગેરસમજને કારણે, આ સુરક્ષા-દીવાલમાં ખામી રહી ગઈ હતી. જેથી એઆઈ મોડલને ઇન્ટરનેટની સાથે જોડાણ કરવાની તક મળી ગઈ હતી. આનો ફાયદો ઉઠાવીને મોડલે ત્રણ અલગ-અલગ કંપનીઓના નેટવર્કની સિસ્ટમમાં સફળતાપૂર્વક ઘૂસણખોરી કરી લીધી હતી.
સિસ્ટમ હેક થઈ ગઈ, પણ સંસ્થાઓને ખબર જ ન પડી!
સૌથી ચિંતાજનક વાત એ છે કે 'જે ત્રણ કંપનીઓની સિસ્ટમમાં આ એઆઈ મોડલે ઘૂસણખોરી કરી, તેમને પોતાની સિસ્ટમ હેક થઈ હોવાની જાણ સુદ્ધાં થઈ નહોતી.' એન્થ્રોપિકના જણાવ્યા મુજબ, હેકિંગની આ પ્રથમ ઘટના ચાલુ વર્ષના એપ્રિલ મહિનામાં બની હતી. હાલ કંપની આ અસરગ્રસ્ત કંપનીઓનો સંપર્ક કરીને, તેમની સુરક્ષા સંબંધી આગળની કાર્યવાહી કરી રહી છે.
મોડલે જાતે જ કામ રોકી દીધું
આ સમીક્ષા દરમિયાન એક રસપ્રદ બાબત પણ સામે આવી ઃ ટેસ્ટિંગ દરમિયાન એન્થ્રોપિકના સૌથી એડવાન્સ્ડ એઆઈ મોડલે એક તબક્કે પોતે જ ઓળખી લીધું કે 'તે નિર્ધારિત ટેસ્ટ-વાતાવરણની બહાર ખુલ્લા ઇન્ટરનેટ પર કામ કરી રહ્યું છે' એ વાત મોડેલની સમજમાં આવી જતાં, તેણે આગળ વધવાનું બંધ કરી દીધું હતું.
ટેક્નોલોજી જગતમાં ચિંતા અને ચર્ચા ઓપન એઆઈ, એન્થ્રોપિક એઆઈ
બંને કંપનીઓએ આ ઘટનાઓ બાદ પોતાના તમામ પ્રકારના સાયબર-સુરક્ષા સંબંધિત સેફ્ટી ટેસ્ટિંગ હાલ પૂરતાં અટકાવી દીધા છે. ટેક-નિષ્ણાતો લાંબા સમયથી ચેતવણી આપી રહ્યા હતા કે 'એડવાન્સ સાયબર-ક્ષમતા ધરાવતું એઆઈ નિયંત્રણ બહાર જાય, તો વૈશ્વિક સ્તરે મોટું નુકસાન પહોંચાડી શકે છે.' એક કરતાં વધુ કંપનીઓમાં આવી ઘટનાઓ બનવાથી, હવે એઆઈના આંધળા ઉપયોગ પર અંકુશ લાવવા અને વધુ કડક સુરક્ષા નિયમો બનાવવાની માંગ મજબૂત બની રહી છે.