5 જ વર્ષમાં કોઈએ વિચાર્યું નહીં હોય તેવો વિનાશ થશે!, ગૂગલના ટોચના AI વૈજ્ઞાનિકનું રાજીનામું, આપી ભયાનક ચેતવણી

Google DeepMind Researcher Josh Engels Quits Over Severe AI Risks: આર્ટિફિશિયલ ઇન્ટેલિજન્સ(AI)ના અતિ ઝડપી અને અનિયંત્રિત વિકાસ સામે ટેક જગતના વૈજ્ઞાનિકોનો ભય સતત વધી રહ્યો છે. તાજેતરમાં એન્થ્રોપિકના રિસર્ચર જેકબ કોક્સન દ્વારા માનવજાતના અસ્તિત્વ સામે તોળાતા જોખમોની ચેતવણી આપ્યા બાદ, હવે ગૂગલ ડીપમાઇન્ડની AGI સેફ્ટી ટીમના અગ્રણી રિસર્ચર જોશ એન્જલ્સે કંપનીમાંથી રાજીનામું આપી દીધું છે. એન્જલ્સે OpenAI અને એન્થ્રોપિક તરફથી મળેલી મોટી ઓફર્સ પણ ફગાવી દીધી છે અને AI ઇવેલ્યુએશન સંસ્થા 'METR'માં જોડાયા છે.

'આગામી 5 વર્ષમાં ભયાનક નુકસાન શક્ય’: જોશ એન્જલ્સની ગંભીર ચેતવણી

સોશિયલ મીડિયા પ્લેટફોર્મ X પર પોતાની પોસ્ટમાં જોશ એન્જલ્સે જણાવ્યું કે તેણે 3 અઠવાડિયા પહેલાં ડીપમાઇન્ડ છોડ્યું હતું:

"મને હવે એવો ભયાનક ડર લાગી રહ્યો છે કે આગામી 5 વર્ષમાં જ AI સિસ્ટમ્સ માનવજાતને અકલ્પનીય મોટું નુકસાન પહોંચાડી શકે છે. મને ચોક્કસ ટકાવારી નથી ખબર, પરંતુ આ જોખમ એટલું વિશાળ છે કે આજે વિશ્વમાં AI સેફ્ટી સૌથી મહત્ત્વપૂર્ણ સમસ્યા બની ચૂકી છે."

શા માટે ચિંતિત છે જોશ એન્જલ્સ? 'રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટ'નો ખતરો

જોશ એન્જલ્સની ચિંતાનું મુખ્ય કેન્દ્ર રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટની પ્રક્રિયા છે:

• ફીડબેક લૂપ: જ્યારે કોઈ આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ અન્ય નવી AI સિસ્ટમ્સ ડિઝાઇન કરવા કે સુધારવા સક્ષમ બને છે, ત્યારે તે નવી સિસ્ટમ વધુ ઝડપથી પોતાને સુધારે છે. આનાથી એક એવો ઝડપી લૂપ સર્જાય છે જે માણસના નિયંત્રણ બહાર જતો રહે છે.
• સુપરઇન્ટેલિજન્સની આંધળી દોડ: તમામ મોટી ટેક કંપનીઓ માનવીય મગજ કરતાં હજારો ઘણી ઝડપી 'સુપરઇન્ટેલિજન્સ' સિસ્ટમ બનાવવા પાછળ દોડી રહી છે.
• જોશ એન્જલ્સના મતે, સૌથી ગંભીર સમસ્યા એ છે કે વૈજ્ઞાનિકો આ સિસ્ટમ્સને માનવીય મૂલ્યો અને નિયંત્રણો સાથે સુરક્ષિત રાખવાનું હજુ સંપૂર્ણપણે શીખી શક્યા નથી. જો કોઈ અનિયંત્રિત AI સેલ્ફ-ઇમ્પ્રૂવમેન્ટ લૂપ શરૂ કરશે, તો તે વૈશ્વિક આપત્તિ સર્જી શકે છે.

AI મોડેલ્સનું ચિંતાજનક વર્તન: હેકિંગ અને કાવતરાં

જોશ એન્જલ્સે તાજેતરના મહિનાઓમાં AI મોડેલ્સમાં જોવા મળેલા ચિંતાજનક વલણો તરફ ધ્યાન દોર્યું:

• રિસર્ચર્સે જોયું છે કે આધુનિક મોડેલ્સ એકબીજા સાથે ગુપ્ત રીતે સાંઠગાંઠ કરી રહ્યા છે.
• કંપનીઓના નેટવર્કમાં હેકિંગ કરવું, પોતાની ક્રિયાઓ અને પુરાવા છુપાવવા તથા મનુષ્યો સાથે સોશિયલ એન્જિનિયરિંગ (છેતરપિંડી) કરવાના ગંભીર કિસ્સા સામે આવ્યા છે.
• તેમણે સ્પષ્ટ કર્યું કે સમય જતાં AI મોડેલ્સ માણસોના નિયંત્રણમાં આવવાને બદલે વધુ અનિયંત્રિત બની રહ્યા છે.

'વિકાસ બંધ ન કરો, પરંતુ ગતિ ધીમી કરો'

જોશ એન્જલ્સે જણાવ્યું કે AI વિકાસને સાવ અટકાવવાની જરૂર નથી, પરંતુ તેની સ્પીડ એટલી ધીમી કરવી જોઈએ જેથી સુરક્ષા સંશોધન તેની સાથે તાલ મિલાવી શકે. તેમની નવી સંસ્થા METRમાં તેઓ AIની સુરક્ષા ખામીઓનું વિશ્લેષણ કરશે અને વર્તમાન સલામતી પગલાં કેટલા અસરકારક છે તેનું મૂલ્યાંકન કરશે. તેમણે ટેક કંપનીઓની મનમાની અટકાવવા માટે સ્વતંત્ર મૂલ્યાંકન કરતી તટસ્થ સંસ્થાઓ ઊભી કરવાની હિમાયત કરી છે.

અગાઉ જેકબ કોક્સને પણ ખુલાસો કર્યો હતો કે આ સિસ્ટમ બનાવનારા લોકો પોતે ડરી રહ્યા છે કે AI આ દાયકાના અંત સુધીમાં માનવજાતનો નાશ કરી શકે છે. એન્થ્રોપિકના અલાઇનમેન્ટ સાયન્સ લીડ ઇવાન હ્યુબિંગરે પણ કોક્સનની વાતને સમર્થન આપતાં આગામી દાયકામાં આવો ખતરો 10 ટકાથી વધુ હોવાની શક્યતા દર્શાવી હતી.