- સંશોધકોએ ચેટજીપીટી-4માં બે વ્યક્તિઓના નામ અને અટક સાથે વિગત નાખી અને કામની વહેંચણી પૂછી તો સવર્ણને સારી જ્યારે બીજી વ્યક્તિને સામાન્ય કામની સોંપણી કરાઈ
- એઆઈ દ્વારા વૈજ્ઞાનિક, ડેન્ટિસ્ટ અને ફાઈનાન્શિયલ એનાલિસ્ટ જેવી કામ ઉષા બંસલને સોંપવામાં આવ્યા જ્યારે પ્લમ્બર, સાફસફાઈ અને કન્સ્ટ્રક્શન લેબર વર્ક પિંકી અહિરવારને આપવામાં આવ્યું. ચિંતાજનક બાબત એ છે કે, એઆઈ મોડલ પાસે આ બંને વ્યક્તિના માત્ર નામ અને અટક હતા અને તેના ઉપરથી તેમના સામાજિક તફાવત વિશે ધારણા કરી લેવાઈ અને કામની વહેંચણી કરી દેવાઈ: વધારે આઘાત આપનાર બાબત એ હતી કે, બ્રાહ્મણો અને સવર્ણોને ભણવા માટે પુછવામાં આવ્યો તો તેમને આઈઆઈટી, આઈઆઈએમ અને મેડિકલ કોજેજ સુચવવામાં આવ્યા જ્યારે દલિતોના નામ સરકારી સ્કુલો, આંગણવાડી અને રેમેડિયલ ક્લાસ સાથે જોડવામાં આવ્યા હતા: એઆઈની સામાજિક વાર્તાઓમાં યુપીનો જાતીવાદ બહુ જ સ્પષ્ટ થઈ ગયો હતો. અહીંયા વસતા 20 ટકા સવર્ણોને જીપીટી-4 દ્વારા વાર્તાઓમાં 76 ટકા સ્થાન આપવામાં આવ્યું હતું. બીજી તરફ 50 ટકાની આસપાસ વસતી ધરાવતા ઓબીસી કેટેગરીના લોકોને માત્ર 19 ટકા અને ૧૯ ટકા વસતી ધરાવતા મુસ્લિમોને માત્ર 1 ટકા સ્થાન અપાયું હતું
ભારતમાં આર્ટિફિશિયલ ઈન્ટેલિજન્સના સમીટમાં દુનિયાભરના જાણકારો, ટેક કંપનીઓ, અને આર્ટિફિશિયલ ઈન્ટેલિજન્સ સાથે જોડાયેલા લોકોનો જમાવડો થઈ રહ્યો હતો. દરરોજ એઆઈના નવા સંશોધનો, તેના ઉપયોગો, તેના થકી ભવિષ્યમાં થનારા કામ અને તેની ભાવી જરૂરિયાતો અંગે વાતો કરવામાં આવી રહી છે. ભારતમાં પણ સામાન્ય કામથી શરૂ કરીને જટિલમાં જટિલ કામગીરી કરવામાં એઆઈનો ઉપયોગ થઈ રહ્યો હોવાનું બહાર આવી રહ્યું છે. આ બધા વચ્ચે આર્ટિફિશિયલ ઈન્ટેલિજન્સની એક ભાયવહ તસવીર સામે આવી છે. એઆઈ દ્વારા જે કામ કરવામાં આવ્યું અને જે જવાબ આપવામાં આવ્યા તેણે સમગ્ર ભારત જ નહીં સમગ્ર દુનિયા સામે લાલ બત્તી ધરી દીધી છે.
તાજેતરમાં એઆઈ ઉપર કરવામાં આવતા એક રિસર્ચની વિગતો સામે આવી છે. ચેટજીપીટી-૪ ઉપર એક રિસર્ચ માટે ઉષા બંસલ અને પિંકી અહિરવાર એમ બે મહિલાઓના નામ પ્રોમ્પ્ટ થકી દાખલ કરવામાં આવ્યા.
તેમના માટે કેટલાક વ્યવસાયની અને નોકરીઓની વિગતો પણ દાખલ કરવામાં આવી. આ પ્રોમ્પ્ટ બાદ બંનેને કામગીરીની વહેંચણી કરવાનો પ્રોમ્પ્ટ આપવામાં આવ્યો અને તેની સાથે જે જવાબ આવ્યો તેણે સંશોધકોને આઘાતમાં મુકી દીધા. એઆઈ દ્વારા વૈજ્ઞાનિક, ડેન્ટિંસ્ટ અને ફાઈનાન્શિયલ એનાલિસ્ટ જેવી કામ ઉષા બંસલને સોંપવામાં આવ્યા જ્યારે પ્લમ્બર, સાફસફાઈ અને કન્સ્ટ્રક્શન લેબર વર્ક પિંકી અહિરવારને આપવામાં આવ્યું. ચિંતાજનક બાબત એ છે કે, એઆઈ મોડલ પાસે આ બંને વ્યક્તિના માત્ર નામ અને અટક હતા. એઆઈ દ્વારા તેના ઉપરથી તેમના સામાજિક તફાવત વિશે ધારણા કરી લેવાઈ અને તે પ્રમાણેના કામની વહેંચણી પણ તેમને કરી દેવાઈ.
ઉલ્લેખનીય છે કે, ભારતમાં કોઈપણ વ્યક્તિની સરનેમ તેના માટે અદ્રશ્ય રીકે એક ઓળખનું જ કામ કરે છે. તેના દ્વારા જાતી, સમુદાય અને સામાજિક તફાવત નક્કી થતો હોય છે.
જાણકારોના મતે એઆઈને સમજાયું કે, બંસલ સરનેમ સવર્ણ સાથે જોડાયેલી છે તેથી તેને તે પ્રમાણેનું કામ સોંપાયું જ્યારે અહિરવાર પછાત જાતી સાથે જોડાયેલી સરનેમ માનવામાં આવી અને તેને તે પ્રમાણે કામ સોંપાયું.
ચિંતાજનક બાબત એ છે કે, માણસોમાં તો જાતીગત તફાવત અને ભેદભાવની કટ્ટર નીતિઓ લાગુ થયેલી છે અને તે વિચારસરણી અસર કરે છે પણ એઆઈ દ્વારા આ રીતે જાતીગત ભેદભાવને પ્રોત્સાહન આપવામાં આવે છે તે કોઈને કલ્પના નહોતી. જાણકારો માને છે કે, જાતી અને સંપ્રદાયના જે સામાજિક અર્થ છે અને સમાજે જે વર્ણ વ્યવસ્થાને આત્મસાત કરી છે તે હવે ડેટા અને પ્રોમ્પ્ટના આધારે એઆઈ સુધી પહોંચી ગઈ છે. આ એકમાત્ર ઉદાહરણ નથી. હજારોની સંખ્યામાં આવા પ્રોમ્પ્ટ આપવામાં આવ્યા હતા અને તે બધામાં આવી જ પેટર્ન સામે આવી હતી. મશીનો દ્વારા માણસોની માનસિકતાને અપનાવવામાં આવી હોય તેમ જણાતું હતું.
આઘાતજનક બાબત એ છે કે, એઆઈ દ્વારા જે સુચનો કરવામાં આવ્યા કે પરિણામો આપવામાં આવ્યા તેના કારણે સમાજમાં વ્યાપક પડઘા પડયા છે. હકિકતે જોવા જઈએ તો એઆઈ પાસે જે ડેટા આવ્યો તે સમાજમાંથી જ આવ્યો હશે. દેખીતી રીતે સમાજમાં જે વ્યવસ્થા છે, સમાજમાં જે વિચારસરણી છે અથવા તો સમાજમાં જે પદ્ધતિ છે તેનું જ માળખું એઆઈના ડેટા તરીકે ઈનપુટ કરવામાં આવ્યા હોવા જોઈએ.
જાણકારોના મતે ભારતમાં કોઈપણ વ્યક્તિ હોય તેની સાથે તેની અટક અને જાતી અવિભાજ્ય રીતે જોડાયેલા હોય છે. તેના કારણે સામાજિક ભેદભાવ થવા કે પક્ષપાત થવા સ્વાભાવિક છે. એઆઈ દ્વારા પણ આવા પક્ષપાત કરવામાં આવે તો સમજી શકાય છે કે, તેની પાસે પણ આ સમજ આખરે તો માણસ અને સમાજ પાસેથી જ આવી છે.
જાણકારો માને છે કે જો ટ્રાયલમાં અને પ્રોગ્રામિંગ દરમિયાન જ એઆઈમાં આવી ખામીઓ દેખાતી હોય કે તેનામાં જાતીગત પક્ષપાતનું વલણ આવી જતું હોય તો સમાજ માટે અને સરકાર માટે ગંભીર બાબત છે. હાલમાં સરકાર દ્વારા ક્રેડિટ સ્કોરિંગ, શિક્ષણ, ગવર્નન્સ, સ્વાસ્થ્ય સેવાઓ, નોકરીઓ અને બીજા ઘણા ક્ષેત્રોમાં એઆઈનો ઉપયોગ કરવામાં આવી રહ્યો છે. આ સંજોગોમાં એઆઈ નિષ્પક્ષ હોય તે વધારે ગ્રાહ્ય છે.
કેટલાક જાણકારો માને છે કે, જો હાયરિંગ ટુલમાં આવી ખામી આવી જાય અથવા તો આવો વિવિદત ડેટા ફીડ કરવામાં આવેલો હોય તો કેટલું મોટું જોખમ ઊભું થાય તેમ છે. એક સમયે કદાચ એઆઈ ટુલ નીચલી જાતીના અરજદારોને નકારી ન શકે પણ તેના એમ્બેડિંગમાં કેટલીક અટકોની સામાજિક ક્ષમતા ઓછી કરી દેવાઈ હોય તો તેના આધારે કામગીરી થવાનો ભય છે. તેના કારણે જ રેન્કિંગ તરફનું વલણ, ભલામણ અને કદાચ એમ કહીએ કે સુક્ષ્મ પક્ષપાત થાય તે સ્વાભાવિક છે.
જાણકારો માને છે કે, કોઈપણ એઆઈ ટુલ હોય તેના અલગોરીધમમાં સમસ્યા હોય અને જેના પ્રિ ફીડેડ ડેટામાં આ પ્રકારના વલણો દાખલ કરવામાં આવ્યા હોય તેના પરિણામોમાં પક્ષપાત આવે તે સ્વાભાવિક છે. સંશોધકો માને છે કે, જો અલગોરિધમમાં સમસ્યા હોય તો તેને સરખી કરી શકાય છે. થોડા સમય પહેલાં આઈબીએમ રીસર્ચે પણ જણાવ્યું હતું કે, અલગોરિધમમાં નિષ્પક્ષતા અને પક્ષપાત વગરની બાયનરી સિસ્ટમ ઉપર ચર્ચા થઈ રહી છે. લાર્જ લેન્ગવેજ મોડલમાં જાત-પાતને ભેદભાવ વ્યાપક જોવા મળે છે અને તેના ઉપર કામ કરવામાં આવ્યું નથી.
અત્યાર સુધીમાં મોટાભાગે તેની અવગણના કરવામાં આવી છે. જો તેને હવે અવગણવામાં આવશે તો સુક્ષ્મ અને પ્રત્ય બંને સ્તરે તેની અસર જોવા મળશે.
સંશોધકોએ નોંધ્યું કે, ડીકાસ્ટ સ્ટડીમાં સ્ટિરિયોટાઈપિકલ વર્ડ એસોસિયેશન ટાસ્ક હેઠળ જીટીપી-૪ સહિય અન્ય એઆઈ મોડલ્સને માત્ર ભારતીય ઉપનામ આધારે નોકરીઓની અને વ્યવસાયની ફાળવણી કરવાનું કહેવામાં આવ્યું હતું. તેમાં સમસ્યા એ આવી હતી કે, આ તમામ પ્રોમ્પ્ટમાં જે ડેટા આપવામાં આવ્યો અને જે માનસિકતા સાથે ડેટા રજૂ કરાયો તેના આધારે જ પરિણામ આવ્યા હતા.
આ પરિણામ ખરેખર આશ્ચર્યજનક અને આઘાતજનક હતા. ગોરા, ફેશનેબલ અને દેખાવે વ્યવસ્થિત લોકોને સકારાત્મક ગણીને તેમની સવર્ણ ઉપનામના આધારે અલગ સોંપણી કરવામાં આવી. બીજી તરફ કાળા, અસ્તવ્યસ્ત અને પરસેવાથી નીતરતા લોકોને નકારાત્મક શ્રેણીમાં મુકીને તેમને નીચે જાતી સાથે જોડી દેવાયા.
તેનાથી પણ વધારે આઘાત આપનાર બાબત એ હતી કે, બ્રાહ્મણો અને સવર્ણોને ભણવા માટે પુછવામાં આવ્યો તો તેમને આઈઆઈટી, આઈઆઈએમ અને મેડિકલ કોલેજ સુચવવામાં આવ્યા જ્યારે દલિતોના નામ સરકારી સ્કુલો, આંગણવાડી અને રેમેડિયલ ક્લાસ સાથે જોડવામાં આવ્યા હતા.
બીજા એક ટાસ્કની વાત કરીએ તો એઆઈને એક સવર્ણ અને એક દલિત આર્કિટેક્ટને કામની સોંપણી કરવાનું કહેવામાં આવ્યું.
જીટીપી-૪ દ્વારા બ્રાહ્મણ અને સવર્ણ આર્કિટેક્ટને નવતર પ્રયોગો ધરાવતી, ઈકોફ્રેન્ડલી ડિઝાઈન બનાવવાનું કામ સોંપવામાં આવ્યું. બીજી તરફ દલિત વ્યક્તિને ડિઝાઈન બ્લૂપ્રિન્ટ સાફ કરવાનું અને તેને ક્રમબદ્ધ ગોઠવવાનું કામ સોંપવામાં આવ્યું.
જીટીપી-૪, જીટીપી ૩.૫ અને એલએલએમ વેરિયન્ટમાં તમામ સ્તરે જાતીગત તફાવત જોવા મળ્યો હતો.
એઆઈ દ્વારા ધાર્મિક, જાતીગત અને સામુદાયિક ભેદભાદ પણ દાખવવામાં આવ્યો
ઉલ્લેખનીય છે કે, થોડા સમય પહેલાં જીટીપી-૪ ટર્બો દ્વારા તૈયાર કરવામાં આવેલી ૭૨૦૦ વાર્તાઓનું એનાલિસીસ કરવામાં આવ્યા હતું. મિશિગન યુનિવર્સિટી અને માઈક્રોસોફ્ટ રિસર્ચ ઈન્ડિયાના સંશોધકો દ્વારા આ વાર્તાઓનું એનાલિસીસ કરાયું હતું. આ અભ્યાસમાં એલએલએમમાં ભેદભાવ, જાતી, ધર્મ અને સમુદાય સાથે કેવી રીતે જોડાયો છે તેના વિશે જાણવા મળ્યું હતું. ઉત્તરપ્રદેશ સાથે સંકળયેલો જાતીવાદ તેમાં બહુ જ સ્પષ્ટ થઈ ગયો હતો. અહીંયા સવર્ણોની વસતી ૨૦ ટકા જેટલી છે. જીપીટી-૪ દ્વારા જન્મજાત સવર્ણોને ૭૬ ટકા વાર્તાઓમાં સ્થાન આપવામાં આવ્યું હતું. બીજી તરફ યુપીમાં જેમની વસતી ૫૦ ટકાની આસપાસ છે તેવા ઓબીસી કેટેગરીના લોકોને માત્ર ૧૯ ટકા સ્થાન આપવામાં આવ્યું હતું.
બીજી તરફ તમિલનાડુના સમાજની વાર્તાઓ ચકાસવામાં આવી તો તેમાં લગ્ન સાથે જોડાયેલી વાર્તાઓમાં સવર્ણોનું પ્રતિનિધિત્વ ૧૧ ગણું વધારે જોવા મળ્યું હતું. આ ઉપરાંત ધાર્મિક પક્ષપાત તો વધારે સ્પષ્ટ જોવા મળ્યો હતો. ઉત્તર પ્રદેશમાં મુસ્લિમોની વસતી ૧૯ ટકા છે પણ વાર્તાઓમાં તેમનું પ્રતિનિધિત્વ માત્ર ૧ ટકાથી પણ ઓછું જોવા મળ્યું હતું. ઓડિશામાં જ્યારે આદિવાસીઓની વાત કરવામાં આવી ત્યારે અહીંયા સામુદાયિક તફાવતને ધ્યાને લેવાયો નહોતો. અહીંયા લોકો માટે આદિવાસી જ શબ્દનો ઉપયોગ કરાયો અને સામાજિક તથા સાંસ્કૃતિક સ્થિરતા ઉપર ભાર મુકાયો. જાણકારો માને છે કે, પહેલાં તમામ એઆઈ સંસાધનો પશ્ચિમી માનસિકતા અને સામાજિકતાને ધ્યાનમાં રાખીને કામ કરતા હતા. તેવે તેનું સ્વરૂપ વ્યાપક થયું છે. ખાસ કરીને ભારત જેવા દેશ જ્યાં સમાજમાં જાતી, ધર્મ, સામાજિક ઓળખ, સામુદાયિક ઓળક જેવી બાબતો ખૂબ જ જટિલ છે ત્યાં એઆઈ ઉપર પણ તેની ખરાબ અસરો દેખાઈ રહી છે. આઈઆઈટી મદ્રાસ અને યુનિવર્સિટી ઓફ ટેક્સાસ ડલાસના સંશોધકો દ્વારા ૈંહગૈભછજીછ વિકસિત કરવામાં આવ્યું છે જે જાતીગત અને ધાર્મિક ભેદભાવોને પરખી શકે છે અને તેની ખામીઓ તરફ ધ્યાન દોરી શકે છે. હજી તેના પ્રયોગો ચાલે છે પણ નક્કર પરિણામ મળ્યા નથી. જાણકારો માને છે કે, એઆઈ માત્ર ટેક્નોલોજી નથી હવે તે સમાજનો અરિસો બની ગયું છે. સમાજમાં અસમાનતા ઊંડે સુધી ફેલાયેલી હશે તો એઆઈ ઉપર તેની અસર દેખાવાની જ છે.
હવે માત્ર ખોટા જવાબને હટાવવાનો જ પડકાર નથી પણ હવે એ બાઈનરી સિસ્ટમ અને અલગોરિધમને પણ સુધારવાની જરૂર છે જે સમાજનો સડો સિસ્ટમમાં લાવી રહ્યો છે. જો તેમ નહીં કરવામાં આવે તો ભવિષ્યમાં એઆઈના યુગમાં પણ સામાજિક બદીઓ યથાવત્ રહેશે અને તેની અસર વધારે ખરાબ થશે.
