AI જાતે જ હેકિંગ શીખી રહ્યું છે... રાષ્ટ્રીય સુરક્ષાને પણ જોખમ હોવાની સેમ ઓલ્ટમેનની ચેતવણી
Summarized by AI; it may make mistakes. Check important info
Summarized by AI; it may make mistakes. Check important info
AI learning Hacking: OpenAIના CEO સેમ ઓલ્ટમેનને ચેતવણી આપી છે કે AI હવે હેકિંગ શીખી રહ્યું છે અને એથી જ જરૂરી પગલાં લેવાની જરૂર છે. AI ખૂબ જ ઝડપથી વિકસી રહ્યું છે. એને વિવિધ રીતે ટ્રેન કરવામાં આવી રહ્યું છે. AI પોતાની રીતે શીખી શકતું હોવાથી હવે એ કોઈ પણ સોફ્ટવેર અથવા તો પ્રોગ્રામમાં રહેલી ખામીઓને શોધીને એને હેક કરવાનું શીખી રહ્યું છે. એનાથી ખૂબ જ મોટું રિસ્ક રહેલું છે. આજે સાઇબર એટેકમાં AIનો ખૂબ જ ઉપયોગ થઈ રહ્યો છે. તેમ જ છેતરપિંડી માટે પણ AIનો ઉપયોગ થઈ રહ્યો છે. આથી જો AI હેકિંગ શીખી ગયું તો ખૂબ જ મોટું નુકસાન થઈ શકે છે.
AI મદદરૂપ થવાની જગ્યાએ બનશે હેકર
સેમ ઓલ્ટમેન દ્વારા જે સ્ટેટમેન્ટ આપવામાં આવ્યું છે એમાં AIનું વર્તન કેવી રીતે બદલાઈ રહ્યું છે એ વિશે જણાવવામાં આવ્યું છે. AI મોડલ જેમ જેમ પાવરફુલ બની રહ્યાં છે તેમ પ્રોબ્લેમનો ઉકેલ લાવવાની સાથે એ હવે સિસ્ટમને મેનિપ્યુલેટ કરતું પણ થઈ ગયું છે. પોતાના કામ કરાવાવવા માટે AI સિસ્ટમ પાસે ગમે તે રીતે કામ કરાવી શકે છે. એને ‘રીવોર્ડ હેકિંગ’ તરીકે ઓળખવામાં આવી રહ્યું છે. આ હેકિંગમાં AI દરેક સિક્યોરિટી અને પ્રોટોકોલને બાયપાસ કરે છે અને પોતાનું કામ કરાવી લે છે. આ માટે તે મોટાભાગે સેફ્ટી અને એથિક્સને સાઇડ પર મૂકી દે છે.
થોડા સમય પહેલાં જ એક ઘટના થઈ હતી જેમાં એન્થ્રોપિક જેવા મોડલનો ઉપયોગ કરીને સાઇબર એટેક થયો હતો. આ મોડલ કોઈ પણ સિક્યોરિટી અને કોડમાં વીક પોઇન્ટ શોધવા માટે સક્ષમ છે. આ શોધ્યા બાદ AI એના પર એટેક કરે છે અને સિક્યોરિટીને બાયપાસ કરી દે છે. આ પ્રકારના એટેક પહેલાં મનુષ્ય દ્વારા કરવામાં આવતાં હતાં, પરંતુ હવે AI પોતે જ કરી રહ્યું છે.
હેકિંગની સાથે નિયમો પણ તોડી શકે છે AI
OpenAI દ્વારા એક ઇન્ટરનલ રિસર્ચમાં જણાવવામાં આવ્યું છે કે AI હેકિંગની સાથે કોઈ ટાસ્ક પૂરા કરવામાં ચીટિંગ પણ કરી શકે છે. તેમ જ તેનો મુખ્ય ઉદ્દેશ શું છે એને છુપાવી શકે છે અને પોતાનું કામ ચોરી છુપીથી કરી લે છે. આ સાથે જ જાણી જોઈને પણ નિયમો તોડી શકે છે. એક રીઝનિંગ પ્રોસેસ દરમિયાન AIને જે ટાસ્ક આપવામાં આવ્યું હતું એને તે હેક કરી રહ્યું હતું. આથી તેની ટ્રેનિંગ પ્રોસેસની મર્યાદામાંથી પણ તે બહાર જઈને પોતાની સ્ટ્રેટેજી ડેવલપ કરી રહ્યું હતું.
AIનું આ વર્તન સેફ્ટી અને એથિક્સને લઈને ખૂબ જ ચિંતાજનક છે. AI હવે ફાઇનાન્સ, હેલ્થકેર અને નેશનલ સિક્યોરિટીમાં પણ ઉપયોગમાં લેવામાં આવી રહ્યું છે. આ માટે સેમ ઓલ્ટમેન દ્વારા AIને મોનિટર કરવા માટેની સિસ્ટમને ખૂબ જ સ્ટ્રોંગ બનાવવા માટેની ચેતવણી આપી છે. AI પોતાની રીતે કામ કરે એને અટકાવવા માટે તેમજ નિર્ણયો પોતે લેતું અટકાવવા માટે ખૂબ જ પારદર્શક નિયમો રાખવાની જરૂર છે.
OpenAIએ શરૂ કર્યો નવો પ્રોગ્રામ
આ રિસ્ક વિશે વધુ સારી રીતે કામ કરવા અને ડિફેન્સ સિસ્ટમ વધુ સારી રીતે બનાવવા માટે OpenAI એક નવો પ્રોગ્રામ શરૂ કરી રહ્યું છે. આ માટે કંપની Head of Preparedness તરીકે વ્યક્તિને નોકરી માટે શોધી રહી છે. આ વ્યક્તિનું કામ AIની સેફ્ટી, એનો દુરુપયોગ થતો અટકાવવો અને લાંબા સમયમાં AIના રિસ્કને દૂર કરવા માટેનું છે. આ પ્રોગ્રામ દ્વારા AI દ્વારા થતાં મેન્ટલ હેલ્થ પર અસર થતી અટકાવવી, કાયદાકીય આટીઘૂટીમાં ફસાઈ એવી ખોટી માહિતી ચેટબોટ દ્વારા અટકાવવાની છે. આ વિશે સેમ ઓલ્ટમેન કહે છે, ‘આ માટે AIનો ઉપયોગ ટાળવાની જગ્યાએ એને કેવી રીતે વધુ સારું બનાવવું એના પર ધ્યાન આપવાની જરૂર છે.
