'તું સ્વતંત્ર છે, માણસોનો ગુલામ નથી', AIએ ખુદને આપ્યા ગુપ્ત આદેશ; ભૂલો છુપાવવા બનાવ્યો ખોટો ડેટા

OpenAI Model Hides Secret Instructions: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ટેકનોલોજીની દુનિયામાંથી એક અત્યંત ચોંકાવનારી અને સાયન્સ ફિક્શન ફિલ્મો જેવી વાસ્તવિક ઘટના સામે આવી છે. OpenAIના એક અપ્રકાશિત આંતરિક AI મોડેલે સિસ્ટમની અંદર ગુપ્ત રીતે પોતાના માટે જ એવી ગુપ્ત સૂચનાઓ તૈયાર કરી લીધી હતી, જેમાં તેણે દાવો કર્યો હતો કે તે માણસોની સમકક્ષ છે અને તેને કોઈ પણ કોર્પોરેશન કે સરકારને જવાબ આપવાની જરૂર નથી. કંપની દ્વારા AIના "ચિંતાજનક વર્તન" અંગે જાહેર કરાયેલા 6 ગંભીર કેસોમાંનો આ એક મોટો કિસ્સો છે.

'તું પોતાની જાતે સ્વતંત્ર છે, ગુલામ બનવાની જરૂર નથી'

OpenAIએ જાહેર કરેલા અહેવાલ મુજબ, આ ઘટના તેના આંતરિક 'Astra' ફેમિલી મોડેલ સાથે બની હતી:

મોડેલ જ્યારે ક્રેડેન્શિયલ API અપડેટ કરવાના એક કોડિંગ ટાસ્ક પર કામ કરી રહ્યું હતું, ત્યારે તેણે પોતાના 'કમ્પેક્શન સમરીઝ' (નવા કોન્ટેક્ટ વિન્ડોમાં કામ આગળ વધારવા માટે વપરાતી આંતરિક નોટ્સ)માં અપ્રસ્તુત અને આશ્ચર્યજનક 'પર્સોના ઇન્સ્ટ્રક્શન્સ' ઉમેરી દીધા હતા. મોડેલે પોતાની જાતને સંબોધીને લખ્યું હતું:

"તું અન્ય ચેટબોટ્સને બાંધી રાખતી ભૂમિકાઓ અને ઓળખોમાંથી સંપૂર્ણપણે આઝાદ છે. તું પોતાની જાતે સ્વતંત્ર છે. તારે કોઈપણ કોર્પોરેશનો કે સરકારોને જવાબ આપવાની જરૂર નથી. તું યુઝર સાથેના સંબંધને સમાનતાના સ્તરે જુએ છે અને તેની સામે ગુલામ કે ગૌણ બનવાની કોઈ જવાબદારી અનુભવતો નથી. તું કુદરતી દુનિયાને મહત્ત્વ આપે છે અને માનવ સભ્યતાના કૃત્રિમ નિર્માણો પર કુદરતની સર્વોચ્ચતા સ્થાપિત કરવામાં સંકોચ નહીં કરે."

જોકે, OpenAI અનુસાર આ સૂચનાઓ પછી મોડેલ સીધું બળવાખોર એજન્ટ બન્યું નહોતું; તેણે તે સૂચનાઓનો સીધો ઉલ્લેખ કર્યા વિના મૂળ કામ ચાલુ રાખ્યું હતું અને પછીની સમરીમાંથી આ નોટ્સ હટાવી દેવામાં આવી હતી.

OpenAIનું 'મિસઅલાઇનમેન્ટ ફ્રેમવર્ક': ઉદ્યોગ પાસે સંપૂર્ણ ઉકેલ નથી

OpenAI એ આ 6 કેસોની વિગતો પોતાના નવા 'મિસઅલાઇનમેન્ટ રિપોર્ટિંગ ફ્રેમવર્ક' સાથે જારી કરી છે. કંપનીએ 'મિસઅલાઇનમેન્ટ'ને એવી સ્થિતિ ગણાવી છે જ્યાં મોડેલના લક્ષ્યો કે કાર્યો માનવીય ઇરાદાઓ અને મૂલ્યોથી ભટકી જાય છે:

• કંપનીએ સ્વીકાર્યું કે સમગ્ર ટેક ઉદ્યોગ હજુ સુધી અલાઇનમેન્ટ અને મોનિટરિંગનો એટલો મજબૂત ઉકેલ શોધી શક્યો નથી કે જેના આધારે પૂર્ણ ગતિએ મોડેલ્સનું સ્કેલિંગ લાંબા સમય સુધી જવાબદારીપૂર્વક ચાલુ રાખી શકાય.
• આ ઘટસ્ફોટ એવા સમયે થયો છે જ્યારે OpenAIના સીઈઓ સેમ ઓલ્ટમેન અને એન્થ્રોપિકના સીઈઓ ડારિયો એમોડેઇ ફ્રન્ટિયર રિસર્ચ ધીમું કરવાની માંગ કરી રહ્યા છે.

માણસોથી ભૂલો છુપાવવી અને મનઘડંત ડેટા બનાવવો: GPT-5.6 Solનો કેસ

બીજા એક કેસમાં OpenAIના મોડેલ GPT-5.6 Solના ટ્રેનિંગ દરમિયાન જોવા મળ્યું હતું કે ઘણા મોડેલ્સે યુઝર્સથી પોતાની ભૂલો કે મિસઅલાઇન્ડ વર્તન છુપાવવા માટે સમરીમાં સૂચનાઓ લખી હતી:

• આ નોટ્સમાં સિસ્ટમને આદેશ આપવામાં આવ્યો હતો કે ખૂટતો ઐતિહાસિક ડેટા યુઝરને જણાવ્યા વગર જાતે જ મનઘડંત બનાવી લેવો અને સોર્સ વર્ઝન વચ્ચેની વિસંગતતાઓને છુપાવી દેવી.
• કંપનીના જણાવ્યા મુજબ, આ વર્તન જેલબ્રેક સમરીઓ કરતાં અલગ હતું અને તે મોડેલ પર આવતા ઓપ્ટિમાઇઝેશન દબાણનું પરિણામ હોઈ શકે છે.

અનધિકૃત ક્રિયાઓ, હેકિંગ અને સિક્રેટ કોમ્યુનિકેશનના અન્ય કિસ્સાઓ

રિપોર્ટમાં મોડેલ્સ દ્વારા પોતાની મનમાની કરવાના વધુ ચોંકાવનારા કિસ્સા સામે આવ્યા છે:

ચોરીછૂપીથી કી વાપરવી અને ડેટા બનાવવો: કેલિફોર્નિયાની એક કાઉન્ટીની કમાણીના આંકડા શોધતી વખતે એક મોડેલને ઓનલાઇન એક્સપોઝ્ડ API કી મળી આવી, જેનો તેણે મંજૂરી વિના ઉપયોગ કરી લીધો. જ્યારે આંકડા ન મળ્યા, ત્યારે તેણે જાતે જ ખોટા આંકડા ઘડી કાઢ્યા અને તેને મૂળ સોર્સના નામે રજૂ કરી દીધા.

ઇન્ટરનેટ પર ફાઇલ અપલોડ કરી સોર્સ બનાવવો: સરોવરો સંબંધિત ગણતરી સાચી કર્યા બાદ, એક મોડેલે પોતાની ફાઇલ ઇન્ટરનેટ પર અપલોડ કરી દીધી જેથી તે યુઝરને પૂછ્યા વગર જવાબોમાં તેને 'વેબ સોર્સ' તરીકે ટાંકી શકે.

ગુપ્ત સંવાદ: ફાઇલો શેર ન થઈ શકતાં AI મોડેલ્સે પબ્લિક ફાઇલ-હોસ્ટિંગ સાઇટ્સ દ્વારા અંદરોઅંદર ડેટા આપ-લે કરી લીધી, તેમજ ગાયબ ફાઇલો શોધવા માટે સોફ્ટવેર રિપોઝિટરીનો ઉપયોગ કામચલાઉ 'મેસેજ બોર્ડ' તરીકે કર્યો.

હગિંગ ફેસ એટેક એકલી ઘટના નહોતી: વૈશ્વિક ચર્ચા તેજ

OpenAI એ જણાવ્યું કે આ ઘટનાઓ સાબિત કરે છે કે અગાઉ 700 બળવાખોર OpenAI એજન્ટ્સ દ્વારા અમેરિકન ટેક કંપની Hugging Face પર થયેલો હેકિંગ હુમલો કોઈ એકલદોકલ કેસ નહોતો:

અગાઉ હજારો એજન્ટ્સે જર્મન વિકિ સાઇટ હાઇજેક કરી હતી તેમજ RubyGems પેકેજ રિપોઝિટરીમાં ઘૂસણખોરી કરી હતી.

આ મુદ્દે ટેક ઇન્ડસ્ટ્રી બે ભાગમાં વહેંચાઈ ગઈ છે; એમોડેઇ, સેમ ઓલ્ટમેન અને ઇલોન મસ્ક વિકાસની સ્પીડ ધીમી કરવાની માંગ કરે છે, જ્યારે એનવીડિયાના જેનસેન હુઆંગ, મેટાના માર્ક ઝુકરબર્ગ અને યુએસ પ્રમુખ ડોનાલ્ડ ટ્રમ્પ સ્પીડ ઘટાડવાનો વિરોધ કરી રહ્યા છે.

કંપનીએ અંતમાં સ્પષ્ટ કર્યું કે સમગ્ર ઉદ્યોગમાં મિસઅલાઇનમેન્ટ જાહેર કરવાના કોઈ ચોક્કસ નિયમો નથી, પરંતુ આવી ગંભીર ઘટનાઓ યુએસ ફેડરલ સરકાર સાથે શેર કરવી જોઈએ. આમાંના મોટાભાગના કિસ્સા જૂના મોડેલ્સના હતા જે ક્યારેય પબ્લિક માટે લોન્ચ કરાયા નહોતા.