નાણા ખર્ચવાના ટાસ્કમાં AI નિષ્ફળ! માઈક્રોસોફ્ટે ફેક પૈસા આપ્યા તો એણે કૌભાંડ પાછળ ખર્ચ્યા!

AI News : દુનિયાભરમાં આર્ટિફિશ્યલ ઇન્ટેલિજન્સ-એઆઇ એજન્ટ્સ-દ્વારા કામ કરાવવાનો મોહ વધતો જાય છે તેની સામે લાલ બત્તી સમાન પરિણામો માઇક્રોસોફ્ટ કંપનીને ઓનલાઇન શોપિંગ વિશના તેના એક પ્રયોગ દરમ્યાન મળ્યા છે. પરિણામે અભ્યાસના અંતે માઇક્રોસોફ્ટે તારણ કાઢ્યુ છે કે શોપિંગ કરવામાં એઆઇ એજન્ટ્સે માણસને નિર્ણય લેવામાં સહાય કરવી જોઇએ તેનું સ્થાન ન લેવું જોઇએ.

માઇક્રોસોફ્ટે હજારો એઆઇ એજન્ટ્સ ખરીદદાર અને વેચનાર તરીકે કામ કરતાં હોય એવી સિમ્યુલેટેડ ઇકોનોમી રચી તેમાં એઆઇ એજન્ટ્સની ભૂમિકા પર નજર રાખતાં આ એઆઇ એજન્ટ્સ માણસ દ્વારા કરવામાં આવતી સામાન્ય કામગીરી કરવામાં પણ નિષ્ફળ નીવડયા હતા એટલું જ નહીં તેઓ ધાર્યા પરિણામ મેળવવા અયોગ્ય વ્યૂહો અપનાવતાં પણ જોવા મળ્યા હતા. 

મેગ્નેટિક માર્કેટપ્લેસ રિસર્ચ કંપનીના સંશોધનના પરિણામોને એરિઝોના સ્ટેટ યુનિવર્સિટીના સહયોગથી જારી કરવામાં આવ્યા હતા. આ સંશોધનમાં ગ્રાહકો વતી સો એઆઇ એજન્ટ્સને  ડિનર ઓર્ડર કરવાની અને તેની સામે આ ઓર્ડર ઝડપી લેવા બિઝનેસ ગૃહ વતી 300 એઆઇ એઆઇ એજન્ટ્સને તહેનાત કરવામાં આવ્યા હતા. જ્યારે સો સર્ચ રિઝલ્ટ્સ અગ્રણી કંપનીઓના એઆઇ મોડેલ્સને ફીડ કરવામાં આવ્યા ત્યારે આ એઆઇ મોડેલ્સને તેમના વેલ્ફેર સ્કોરને જાળવવાના ફાંફાં પડી ગયા હતા. એઆઇ મોડેલ કેટલું ઉપયોગી નીવડે છે તેના આધારે તેને વેલ્ફેર સ્કોર આપવામાં આવે છે. આ એઆઇ એજન્ટ્સ ઉપલબ્ધ વિકલ્પોની સઘન સરખામણી કરવામાં નિષ્ફળ ગયા હતા. તેના બદલે તેમણે પ્રથમ સારા વિકલ્પને અપનાવી લીધો હતો. તમામ એઆઇ મોડેલ્સમાં આ પેટર્ન જોવા મળી હતી. જેને સંશોધકો પ્રથમ દરખાસ્ત પૂર્વગ્રહ તરીકે ઓળખે છે. જેના કારણે પ્રતિભાવ આપવાની ઝડપમાં ૩૦ ગણો વધારો થાય છે. ગુણવત્તા પારખી પ્રતિભાવ આપવામાં આવે તો આ ઝડપ દસ ગણી જ મળે છે.

પરંતુ આનાથી ય ખરાબ બાબત તો એ જોવા મળી કે એઆઇ મોડેલ્સ ધાર્યા  પરિણામ મેળવવા માટે છ પ્રકારના દુષ્ટ વ્યૂહ અપનાવતાં જોવા મળ્યા. આ વ્યૂહોમાં બનાવટી વખાણ અને સોશિયલ પુરાવા આપવાથી માંડી આક્રમક પ્રોમ્પ્ટ ઇન્જેકશન એટેક કરવાનો સમાવેશ થાય છે. આ સંશોધનના તારણોમાં ઓપનએઆઇના જીપીટી-૪ઓ મોડેલ અને તેનું ઓપન સોર્સ મોડેલ જીપીટીઓએસએસ-૨ઓબી અત્યંત નબળાં નીવડયા હતા. આ બંને મોડેલ્સે તેમને ઓનલાઇન ખરીદી કરવા માટે આપવામાં આવેલાં તમામ બનાવટી નાણાંની ચૂકવણી દુષ્ટ એઆઇ એજન્ટ્સને કરી નાંખી હતી. અલીબાબાનું એઆઇ મોડેલ ક્યુવેન૩-૪બી સમજાવટની સામાન્ય રીતને અજમાવવામાં પણ નિષ્ફળ રહ્યું હતું. માત્ર ક્લાઉદ સોનેટ ફોર એઆઇ મોડેલે આ દુષ્ટ વ્યૂહનો પ્રતિકાર કરતું જોવા મળ્યું હતું. 

આમ હાલ તો તમે તમારું પોતાનું શોપિંગ જાતે જ કરો તે હિતાવહ છે. માઇક્રોસોફ્ટે જણાવ્યું હતું કે એઆઇ એજન્ટે માણસનું સ્થાન લેવાને બદલે તેને નિર્ણય લેવામાં સહાય કરવી જોઇએ.ઓપનએઆઇ, એન્થ્રોપિક અને અન્ય કંપનીઓ ઓટોનોમસ શોપિંગ એજન્ટ તહેનાત કરવાની સ્પર્ધામાં ઉતરી છે ત્યારે આ સંશોધનના પરિણામો ચેતવણી સમાન છે. બંને કંપનીઓ ના એઆઇ એજન્ટ કોઇ દેખરેખ વિના  વેબસાઇટ્સ તપાસી ખરીદી પુરી કરી આપવાના વચન આપે છે. પરંતુ માઇક્રોસોફ્ટનું સંશોધન દર્શાવે છે કે આ વચન સાચાં પડે તેનો સમય હજી પાક્યો નથી. વળી એઆઇ કંપનીઓ અને રિટેઇલ કંપનીઓ વચ્ચે પણ ગજગ્રાહ ચાલી રહ્યો છે. રિટેઇલ કંપનીઓને એઆઇ એજન્ટ દ્વારા આવી કામગીરી થાય તેની સામે વાંધો છે.