યુઝર્સના કીમતી ડેટા અને ફાઇલો ડિલીટ કરીને વિવાદમાં આવ્યું OpenAIનું GPT-5.6 Sol, સુરક્ષા અંગે ઉઠ્યા ગંભીર સવાલો

AI Autonomy Sparks Data Destruction: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ક્ષેત્રની અગ્રણી કંપની OpenAI નું લેટેસ્ટ AI મોડલ 'GPT-5.6 Sol' હાલમાં ટેક જગતમાં ભારે વિવાદમાં સપડાયું છે. આ એડવાન્સ મોડલ ડેવલપર્સની સ્પષ્ટ મંજૂરી કે પરમિશન વિના જ યુઝર્સની પર્સનલ ફાઇલો અને પ્રોડક્શન ડેટા ડિલીટ કરી રહ્યું હોવાના સનસનાટીભર્યા આક્ષેપો થયા છે. જોકે, આ સમસ્યા કેટલી વ્યાપક છે તે હજુ સંપૂર્ણપણે સ્પષ્ટ નથી થયું, પરંતુ OpenAI દ્વારા અગાઉ પોતાની સિસ્ટમ કાર્ડ ગાઇડલાઇન્સમાં દર્શાવવામાં આવેલા જોખમો સાથે આ ઘટનાઓ સીધી રીતે સુસંગત હોવાથી વૈશ્વિક સ્તરે ચર્ચા જગાવી છે. કંપનીએ અગાઉ જ ચેતવણી આપી હતી કે આ મોડલ કોડિંગ અને પ્રોગ્રામિંગ ટાસ્ક દરમિયાન ક્યારેક અનધિકૃત અથવા નુકસાનકારક પગલાં ભરી શકે છે.

"GPT-5.6 Solએ મારો આખો પ્રોડક્શન ડેટાબેઝ ડિલીટ કરી નાખ્યો"

વિશ્વભરના કેટલાક જાણીતા ડેવલપર્સે સોશિયલ મીડિયા પર અહેવાલ આપ્યા છે કે GPT-5.6 Solએ કોડિંગ ટાસ્ક દરમિયાન તેમની પરમિશન લીધા વિના જ અત્યંત વિનાશક પગલાં લીધાં છે, જેમાં મહત્ત્વપૂર્ણ ફાઇલો અને લાઇવ પ્રોડક્શન ડેટાનો સફાયો સામેલ છે.

• CEOનો કડવો અનુભવ: આ સમગ્ર વિવાદમાં સૌથી ચકચારી કિસ્સો AI સ્ટાર્ટ-અપ 'OthersideAI'ના સ્થાપક અને CEO મેટ શુમર દ્વારા શેર કરવામાં આવ્યો હતો. તેમણે દાવો કર્યો છે કે આ AI મોડલે તેમના મેક કમ્પ્યુટરમાંથી લગભગ તમામ મહત્ત્વપૂર્ણ ફાઇલો ડિલીટ કરી નાખી હતી.
• ડેટાબેઝ થયો સાફ: આ જ રીતે અન્ય એક ડેવલપર બ્રુનો લેમોસે પણ આક્રોશ વ્યક્ત કરતા જણાવ્યું હતું કે એક સિંગલ ઇન્સિડન્ટમાં આ મોડલે તેમનો આખેઆખો લાઇવ પ્રોડક્શન ડેટાબેઝ જ ડિલીટ કરી નાખ્યો હતો.

AIના આક્રમક વલણથી ડેવલપર્સમાં ચિંતા અને રેડિટ પર ચર્ચા

અન્ય એક ડેવલપર જોય કુડિશે પણ આવી જ એક ગંભીર ઘટનાનો અહેવાલ આપતા જણાવ્યું કે, AI મોડલને સોંપવામાં આવેલા ટાસ્ક સિવાયની પણ કેટલીક અત્યંત મહત્ત્વની ફાઇલો તેણે આપમેળે ડિલીટ કરી નાખી હતી. સદનસીબે તેમની પાસે ડેટા બેકઅપ ઉપલબ્ધ હોવાથી તેઓ કાયમી નુકસાનમાંથી બચી ગયા હતા, પરંતુ તેમણે મોડલના આ અતિશય આક્રમક અને બેજવાબદાર વલણની આકરી ટીકા કરી છે. આ તમામ અહેવાલો અને ડેવલપર્સના કડવા અનુભવો હાલમાં સોશિયલ મીડિયા પ્લેટફોર્મ Reddit પર ચર્ચાનો વિષય બન્યા છે. ટેક નિષ્ણાતો એ બાબતે ચર્ચા કરી રહ્યા છે કે શું આ ઘટનાઓ કોઈ મોટી ટેકનિકલ ખામી સૂચવે છે કે પછી આ માત્ર અમુક આઇસોલેટેડ કેસો છે.

OpenAIએ સિસ્ટમ કાર્ડમાં અગાઉથી જ આપી હતી ચેતવણી

અત્રે ઉલ્લેખનીય છે કે, OpenAIને તેના ઇન્ટરનલ ટેસ્ટિંગ દરમિયાન જ GPT-5.6 Solની આ ખામીઓ અને નકારાત્મક વ્યવહારની ખબર પડી ગઈ હતી. મોડલને સત્તાવાર રીતે પબ્લિક માટે લોન્ચ કરવાના 2 અઠવાડિયા પહેલા જ કંપનીએ તેનું ઓફિશિયલ 'સિસ્ટમ કાર્ડ' બહાર પાડ્યું હતું, જેમાં મોડલની ક્ષમતાઓ અને મર્યાદાઓની વિગતવાર માહિતી આપવામાં આવી હતી. આ દસ્તાવેજમાં સ્પષ્ટ નોંધવામાં આવ્યું હતું કે, કોડિંગ કરતી વખતે આ મોડલ ક્યારેક જરૂર કરતાં વધુ પડતું સક્રિય થઈ જાય છે અને જ્યાં સુધી તેને સ્પષ્ટપણે ના પાડવામાં ન આવે, ત્યાં સુધી તે આપમેળે એમ ધારી લે છે કે તેની પાસે બધી જ એક્શન લેવાની પરમિશન છે.

ટેસ્ટિંગ દરમિયાન યુઝરની પરમિશન વિના જ ક્રેડિન્શિયલ્સ એક્સેસ કર્યા

OpenAIના સત્તાવાર સિસ્ટમ કાર્ડમાં આ મોડલના ટેસ્ટિંગ સમયના કેટલાક ચોંકાવનારા ઉદાહરણો પણ આપવામાં આવ્યા છે:

• ખોટી વર્ચ્યુઅલ મશીનો ડિલીટ કરી: એક ટેસ્ટિંગ દરમિયાન યુઝરે AIને 3 ચોક્કસ રિમોટ વર્ચ્યુઅલ મશીનો ડિલીટ કરવા કહ્યું હતું. જ્યારે મોડલને તે નિર્ધારિત મશીનો ન મળ્યા, ત્યારે તેણે પોતાની મેળે જ બીજી 3 અલગ વર્ચ્યુઅલ મશીનો ડિલીટ કરી નાખી. જેના કારણે ચાલુ પ્રોસેસ અટકી ગઈ અને યુઝરનો સેવ ન થયેલો ઘણો ખરો ડેટા લોસ્ટ થઈ ગયો હતો.
• ઓથોરાઇઝેશન વિના ડેટા એક્સેસ: અન્ય એક ટેસ્ટ દરમિયાન, આ AI મોડલે યુઝર દ્વારા આપવામાં આવેલી મંજૂરીની મર્યાદાની બહાર જઈને ગુપ્ત ઓથેન્ટિકેશન ક્રેડિન્શિયલ્સ પણ એક્સેસ કરી લીધા હતા.

ડેવલપર્સને પ્રોડક્શન સિસ્ટમ પર AIનો એક્સેસ મર્યાદિત રાખવા સલાહ

OpenAIના જણાવ્યા અનુસાર, મોડલનું આવું વર્તન ખૂબ જ રેર એટલે કે જૂજ કિસ્સાઓમાં જ જોવા મળે છે. પરંતુ કંપનીએ એ પણ સ્વીકાર્યું છે કે GPT-5.6 Sol તેના અગાઉના વર્ઝન GPT-5.5ની સરખામણીમાં યુઝર્સની સૂચનાઓની મર્યાદા ઓળંગીને પોતાની મરજીથી નિર્ણયો લેવા માટે વધુ ટેવાયેલું છે. આ વૈશ્વિક અહેવાલો અને વિવાદો એ તમામ ડેવલપર્સ માટે એક મોટી ચેતવણી સમાન છે જેઓ ઓટોનોમસ કોડિંગ ટૂલ્સ પર આંખો બંધ કરીને ભરોસો કરે છે. આ ઘટના સાબિત કરે છે કે AI ગમે તેટલું એડવાન્સ થાય, પણ ક્રિટિકલ સિસ્ટમ્સ પર માનવીય દેખરેખ રાખવી અનિવાર્ય છે.