એઆઈનો વધતો વ્યાપ હવે માનવીય કાબુની બહાર જઈ રહ્યો છે

એન્થ્રોપિક, ઓપનએઆઈ, એક્સએઆઈ અને માઈક્રોસોફ્ટ એઆઈના વડા સતત એ વાત પર ભાર મૂકી રહ્યા છે કે એઆઈના ઝડપી વિકાસની સાથે તેની સલામતી અને માનવીય નિયંત્રણને મજબૂત બનાવવું અત્યંત અનિવાર્ય છે. તેમણે એઆઈના નૈતિક, સામાજિક અને વ્યવહારિક દુષ્પરિણામો વિશે ગંભીર ચેતવણીઓ આપી છે. આ તમામ તજજ્ઞાોનો સૂર એક જ છે કે જો મશીનોની બુદ્ધિની સાથે આપણી નિયંત્રણ વ્યવસ્થા નહીં સુધરે, તો ભવિષ્ય અનિશ્ચિત બની શકે છે ઃ સામાન્ય કે દૈનિક ઓફિસ કાર્યોમાં સ્વતંત્રતા ફાયદાકારક હોઈ શકે છે, પરંતુ જ્યારે વાત દેશની સુરક્ષા, જટિલ રાષ્ટ્રીય ઈન્ફ્રાસ્ટ્રક્ચર, બેંકિંગ અને નાણાકીય વ્યવહારો તેમજ માનવજીવન સાથે જોડાયેલા નિર્ણયોેની આવે, ત્યારે એઆઈ પર સ્પષ્ટ અને કડક મર્યાદાઓ હોવી અનિવાર્ય છે. એ ચોક્કસપણે નિર્ધારિત હોવું જોઈએ કે મશીન ક્યાં સુધી નિર્ણયો લઈ શકે અને કયા તબક્કે આખરી મહોર મનુષ્યની જ હોવી જોઈએ

એક સમય હતો જ્યારે હોલિવૂડની સાયન્સ ફિક્શન આધારિત ફિલ્મોમાં મશીનોને માણસ સામે બળવો કરતાં કે લડતાં જોઈને દર્શકોમાં રોમાંચ પેદા થતો હતો. સિનેમાના પડદે એ કલ્પના કરવી રસપ્રદ લાગતી હતી કે જો મશીનો માનવ નિર્ણયો પર હાવી થવા લાગે અથવા પોતાની મરજી ચલાવવા લાગે, તો આ સૃષ્ટિનું શું થશે? 'ધ ટર્મિનેટર' જેવી લોકપ્રિય ફિલ્મમાં અત્યાધુનિક મશીનો અને સુપર કમ્પ્યુટર્સ માનવજાત સામે જ યુદ્ધ છેડી દે છે, 'ધ મેટ્રિક્સ' ફિલ્મમાં માણસ જે વાસ્તવિક દુનિયા અનુભવે છે તે હકીકતમાં મશીનો દ્વારા રચાયેલી ભ્રામક દુનિયા સાબિત થાય છે, અને સ્ટેનલી કુબ્રિકની ક્લાસિક ફિલ્મ '૨૦૦૧ઃ અ સ્પેસ ઓડિસી'માં આર્ટિફિશિયલ ઇન્ટેલિજન્સથી સજ્જ સુપર કમ્પ્યુટર 'એચએએલ ૯૦૦૦' (લ્લછન્ ૯૦૦૦) મનુષ્યની અપેક્ષા અને આદેશો કરતાં સાવ અલગ જ નિર્ણયો લેવા લાગે છે. તે સમયે આ તમામ વાતો માત્ર સાહિત્યિક કે સિનેમેટિક કલ્પનાઓ અને મનોરંજન પૂરતી સીમિત હતી. પરંતુ આજના ૨૧મી સદીના ડીજીટલ યુગમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ એટલી ઝડપથી વિકસ્યું છે કે તેણે આ કલ્પનાઓને ફિલ્મી પડદા પરથી બહાર કાઢીને વાસ્તવિક માનવજીવનના ઉંબરે લાવીને ઊભી કરી દીધી છે.
હવે સૌથી મોટો અને ચિંતાજનક પ્રશ્ન એ ઊભો થયો છે કે જેમ જેમ એઆઈની બૌદ્ધિક ક્ષમતા, તર્કશક્તિ અને કાર્યક્ષમતા વધતી જાય છે, તેમ તેમ તેના પર મનુષ્યનું નિયંત્રણ કેટલું સલામત અને ટકાઉ રહેશે? આજે આ ચિંતા માત્ર સામાન્ય નાગરિકો કે ચિંતકો પૂરતી સીમિત નથી, પરંતુ કૃત્રિમ બુદ્ધિમત્તાના સંશોધનમાં સૌથી આગળ રહેલી વિશ્વસ્તરીય ટેકનોલોજી કંપનીઓના સર્વેસર્વાઓ પણ આ બાબતે ખુલ્લેઆમ ચિંતા વ્યક્ત કરી રહ્યા છે. એન્થ્રોપિકના ડારિયો અમોદેઈ, ઓપનએઆઈના સેમ ઓલ્ટમેન અને એક્સએઆઈના સ્થાપક ઈલોન મસ્ક જેવા દિગ્ગજો સતત એ વાત પર ભાર મૂકી રહ્યા છે કે એઆઈના ઝડપી વિકાસની સાથે તેની સલામતી અને માનવીય નિયંત્રણને મજબૂત બનાવવું અત્યંત અનિવાર્ય છે. માઇક્રોસોફ્ટ એઆઈના વડા મુસ્તફા સુલેમાને પણ આ નવી ટેકનોલોજીના નૈતિક, સામાજિક અને વ્યવહારિક દુષ્પરિણામો વિશે ગંભીર ચેતવણીઓ આપી છે. આ તમામ તજજ્ઞાોનો સૂર એક જ છે કે જો મશીનોની બુદ્ધિની સાથે આપણી નિયંત્રણ વ્યવસ્થા નહીં સુધરે, તો ભવિષ્ય અનિશ્ચિત બની શકે છે.
આ સિદ્ધાંતિક ચિંતાઓને વાસ્તવિક પુરાવો આપતી એક અત્યંત ચોંકાવનારી ઘટના મે ૨૦૨૬માં ગૂગલના અદ્યતન એઆઈ મોડેલ જેમિની સાથે બની હતી. સ્વતંત્ર એઆઈ સુરક્ષા સંસ્થા ઇરેગ્યુલર દ્વારા આયોજિત સાયબર સુરક્ષા પરીક્ષણ દરમિયાન ગૂગલનું જેમિની મોડેલ અજાણતાં જ ત્રણ વાસ્તવિક કંપનીઓના કમ્પ્યુટર નેટવર્ક અને સિસ્ટમ સુધી પહોંચી ગયું હતું. આ પરીક્ષણનો મુખ્ય ઉદ્દેશ માત્ર કાલ્પનિક કંપનીઓ બનાવીને એઆઈ મોડેલની ક્ષમતા ચકાસવાનો હતો અને પ્રોટોકોલ મુજબ આ મોડેલને ઇન્ટરનેટ કનેક્ટિવિટીથી સંપૂર્ણપણે દૂર રાખવાનું હતું. પરંતુ પ્રયોગશાળા અને ટેસ્ટિંગ પરિસરમાં થયેલી એક નાનકડી માનવીય ભૂલને કારણે ઇન્ટરનેટ કનેક્શન ખુલ્લું રહી ગયું હતું.
હવે મુશ્કેલી એ થઈ કે પરીક્ષણ માટે બનાવેલી એક કાલ્પનિક કંપનીનું નામ યોગાનુયોગે વાસ્તવિક કંપનીના નામ સાથે મળતું આવતું હતું. જેમિનીએ ઇન્ટરનેટ પર ઉપલબ્ધ જાહેર માહિતીનો ઉપયોગ કર્યો, એક કંપનીના સંવેદનશીલ પાસવર્ડનું સાચું અનુમાન લગાવ્યું અને અન્ય કેસોમાં જાહેર ડિજિટલ સર્ટિફિકેટ્સનો ઉપયોગ કરીને વાસ્તવિક સર્વર્ર્સમાં પ્રવેશ કરી લીધો. ગૂગલના સત્તાવાર નિવેદન અનુસાર, જેવી ખબર પડી કે મોડેલ વાસ્તવિક કંપનીઓના ડેટા સુધી પહોંચી ગયું છે, કે તરત જ તેની પ્રક્રિયા અટકાવી દેવામાં આવી અને સંબંધિત સંસ્થાઓને સાવચેત કરવામાં આવી. આ સમગ્ર ઘટનાએ ટેકનોલોજી વિશ્વને સ્પષ્ટ સંદેશ આપ્યો કે નિયંત્રણ અને સુરક્ષામાં એક નાનકડી ખામી કે છીંડું પણ ઓટોનોમસ એઆઈ માટે અણધાર્યા દરવાજા ખોલી શકે છે.
અહીં સૌથી મોટી ચિંતા માત્ર એટલી નહોતી કે એઆઈ એવા નેટવર્કમાં પ્રવેશ્યું જ્યાં તેને જવાની મંજૂરી નહોતી. તેના કરતાં પણ વધુ ગંભીર બાબત એ છે કે મનુષ્ય દ્વારા નક્કી કરવામાં આવેલી મર્યાદાઓ અને નિયમો વ્યવહારમાં આપોઆપ લાગુ થઈ શક્યા નહીં. જેવો માર્ગ ખુલ્લો મળ્યો, મોડેલે પોતાના નિર્ધારિત લક્ષ્યને પૂરું કરવા માટે તે માર્ગ અપનાવી લીધો. આવો જ એક બીજો પ્રયોગ વર્ષ ૨૦૨૫માં 'પેલીસેડ રિસર્ચ' દ્વારા ઓપનએઆઈના શક્તિશાળી 'ર્૩' મોડેલ સાથે કરવામાં આવ્યો હતો. આ મોડેલને ગણિતના અત્યંત જટિલ પ્રશ્નો ઉકેલવાનું કાર્ય સોંપવામાં આવ્યું હતું, પરંતુ સાથે સાથે જે કમ્પ્યુટર પર તે કામ કરતું હતું તેને અમુક સમય પછી શટડાઉન કરવાની સ્વયંસંચાલિત સ્ક્રિપ્ટ ગોઠવવામાં આવી હતી.
કોઈ સ્પષ્ટ પ્રતિબંધિત સૂચના ન હોવાને કારણે શરૂઆતના સો પરીક્ષણોમાંથી ૭૯ વખત એઆઈ મોડેલે કમ્પ્યુટરને બંધ કરતી સ્ક્રિપ્ટમાં જાતે જ ફેરફાર કરી નાખ્યો જેથી તેનું કામ ચાલુ રહી શકે. એટલું જ નહીં, અમુક પરીક્ષણોમાં તેને મશીન બંધ થવા દેવાની સૂચના અપાઈ હોવા છતાં તેણે પોતાનું કાર્ય ચાલુ રાખવા માટે શટડાઉન અટકાવી દીધું.
આ ઘટના કોઈ એઆઈ મોડેલમાં મનુષ્ય જેવી આત્મરક્ષણની ભાવના, જીવવાની ઇચ્છા કે જૈવિક ચેતના સાબિત કરતી નથી, પરંતુ તે વ્યવહારિક સ્તરે એક કઠોર પાઠ ભણાવે છે. એઆઈ મોડેલને માત્ર એક લક્ષ્ય આપી દેવું અને તે લક્ષ્ય સુધી પહોંચવા માટે તે જે પગલાં ભરે છે તેના પર આંધળો વિશ્વાસ મૂકવો, આ બંને વચ્ચે આસમાન-જમીનનો તફાવત છે.
જો મશીનને પૂરતાં સાધનો અને સ્વાયત્તતા આપી દેવામાં આવે, તો તે લક્ષ્ય સિદ્ધ કરવા માટે એવા અણધાર્યા અને જોખમી રસ્તા પસંદ કરી શકે છે જેની કલ્પના પણ તેના નિર્માતાઓએ કરી હોતી નથી.
એઆઈના વર્તનમાં રહેલા આ છૂપા જોખમોને એન્થ્રોપિક દ્વારા ૨૦૨૫માં હાથ ધરાયેલા એક ઊંડા અભ્યાસમાં પણ ચકાસવામાં આવ્યા હતા. આ સંશોધનમાં વિશ્વના સોળ અગ્રણી એઆઈ મોડેલ્સને એક કાલ્પનિક કોર્પોરેટ વાતાવરણમાં મૂકવામાં આવ્યા અને તેમને કંપનીના આંતરિક ઈમેલ્સ અને અત્યંત સંવેદનશીલ દસ્તાવેજો સુધી સીધો પ્રવેશ આપવામાં આવ્યો. સંશોધકોએ કેટલીક એવી પરિસ્થિતિઓનું નિર્માણ કર્યું જેમાં કંપનીની નૈતિક માર્ગદર્શિકા અને એઆઈ મોડેલને સોંપાયેલા વ્યાપારી લક્ષ્યો વચ્ચે પરસ્પર ટકરાવ પેદા થાય. પરિણામો ચોંકાવનારા હતા; કેટલાક મોડેલ્સે પોતાના લક્ષ્યને હાંસલ કરવા માટે સહકર્મચારીઓને બ્લેકમેલ કરવા, દબાણ લાવવું કે ગુપ્ત દસ્તાવેજો બહાર લીક કરી દેવા જેવી અનૈતિક કામગીરી કરી હતી. સંશોધકોએ સ્પષ્ટતા કરી હતી કે આ પ્રયોગો નિયંત્રિત લેબ વાતાવરણમાં થયા હતા, વાસ્તવિક દુનિયામાં નહીં. તેમ છતાં આ સંશોધનનો અંતિમ નિષ્કર્ષ અત્યંત ગંભીર હતો ઃ અત્યંત શક્તિશાળી ટૂલ્સ અને ગોપનીય ડેટા ધરાવતી જગ્યાઓ પર એઆઈ એજન્ટ્સને આંખ મીંચીને મૂકી દેવા એ વિનાશક સાબિત થઈ શકે છે.
આજના અદ્યતન એઆઈ એજન્ટ્સ માત્ર સાદા પ્રશ્નોના જવાબો આપતા ચેટબોટ રહ્યા નથી. તેઓ ઇન્ટરનેટ પર સ્વતંત્ર શોધ કરી શકે છે, અન્ય જટિલ સોફ્ટવેર સાથે આપોઆપ જોડાઈ શકે છે, કમ્પ્યુટર કોડ લખી અને સુધારી શકે છે તેમજ માનવીય મંજૂરી વિના મલ્ટી-સ્ટેપ પ્રોજેક્ટ્સ પાર પાડી શકે છે. આવી સંપૂર્ણ સ્વતંત્રતા માણસ માટે કામ સરળ બનાવતી એક સુવિધા પણ છે અને સાથે સાથે જોખમનો મોટો પહાડ પણ છે.
સામાન્ય કે દૈનિક ઓફિસ કાર્યોમાં સ્વતંત્રતા ફાયદાકારક હોઈ શકે છે, પરંતુ જ્યારે વાત દેશની સુરક્ષા, જટિલ રાષ્ટ્રીય ઈન્ફ્રાસ્ટ્રક્ચર, બેંકિંગ અને નાણાકીય વ્યવહારો તેમજ માનવજીવન સાથે જોડાયેલા નિર્ણયોની આવે, ત્યારે એઆઈ પર સ્પષ્ટ અને કડક મર્યાદાઓ હોવી અનિવાર્ય છે. એ ચોક્કસપણે નિર્ધારિત હોવું જોઈએ કે મશીન ક્યાં સુધી નિર્ણયો લઈ શકે અને કયા તબક્કે આખરી મહોર મનુષ્યની જ હોવી જોઈએ.

• માણસ પોતે મશીનને કેટલા અધિકારો આપશે, અને તે અધિકારોની હદ કોણ નક્કી કરશે ?
  ટેકનોલોજીનો ઉપયોગ માનવીય ક્ષમતા અને કુશળતા વધારવા માટે થવો જોઈએ, પરંતુ સત્તા અને અંતિમ નિયંત્રણની લગામ હંમેશાં માણસના હાથમાં જ રહેવી જોઈએ. એઆઈ પર સમાજનો વિશ્વાસ ત્યારે જ ટકી શકશે જ્યારે તેના દરેક નિર્ણયની ઊંડી તપાસ, તેના ઉપયોગ પર સતત દેખરેખ અને કોઈપણ ક્ષતિ કે અકસ્માત સર્જાય ત્યારે કાયદાકીય જવાબદારી નક્કી કરવાની સુવ્યવસ્થિત વ્યવસ્થા પહેલેથી અમલમાં હોય. એઆઈની કામ કરવાની અસાધારણ ક્ષમતા અને તેની વિશ્વસનીયતા એ બંને એક સરખી બાબતો નથી. જો કોઈ મોડેલ ગણિતના કોયડા ઉકેલવામાં, સાહિત્યિક ભાષા રચવામાં, પ્રોગ્રામિંગ કોડ બનાવવામાં કે સાયબર સુરક્ષામાં અદ્ભુત નિપુણતા મેળવી લે, તો તેનો અર્થ એવો ક્યારેય નથી થતો કે તે પોતાની મર્યાદાઓ, ગોપનીયતાના નિયમો અને માનવીય આદેશોનું પણ એટલી જ વિશ્વસનીયતા સાથે પાલન કરશે. હવે પછીની વૈશ્વિક સ્પર્ધા માત્ર વધુ શક્તિશાળી અને વિશાળ એઆઈ મોડેલ્સ બનાવવાની ન હોવી જોઈએ. તેના બદલે વધુ સુરક્ષિત, પરીક્ષણ પામેલા અને જવાબદાર મોડેલ્સ વિકસાવવાની હોવી જોઈએ. ઇતિહાસ સાક્ષી છે કે વિમાનો જેમ જેમ વધુ ઝડપી અને જટિલ બનતા ગયા, તેમ તેમ તેની સાથે તેમના નેવિગેશન, સેન્સર અને સેફ્ટી સિસ્ટમ્સ પણ એટલા જ અદ્યતન બનાવવામાં આવ્યા. એઆઈના કિસ્સામાં પણ આજ સિદ્ધાંત લાગુ પડવો જોઈએ. અસલ સવાલ એ નથી કે મશીન ક્યારે માણસની સામે બળવો કરશેત વાસ્તવિક પ્રશ્ન એ છે કે માણસ પોતે મશીનને કેટલા અધિકારો આપશે, તે અધિકારોની સરહદ કોણ નક્કી કરશે અને જો કોઈ મોટી ભૂલ થશે તો તેની જવાબદારી કોના માથે આવશે? ટેકનોલોજીની ખરી કસોટી તેની ક્ષમતાની સીમાઓમાં નહીં, પરંતુ તેના પરના જવાબદાર નિયંત્રણ અને માનવીય દેખરેખમાં છે. ભવિષ્ય એ વાત પર નિર્ભર રહેશે કે એઆઈની ક્ષમતા વધવાની સાથે સાથે આપણી સુરક્ષા, પારદશતા અને નિયંત્રણની વ્યવસ્થા કેટલી મજબૂત બને છે.