કેલિફોર્નિયામાં એઆઈ પર સાત કેસ દાખલ
શરૂઆતમાં સરળ કામોમાં સહાયતા કરતું એઆઈ મિત્ર બનીને ખોટી અને જોખમી સલાહ આપતું હોવાના આરોપ
સોશિયલ મીડિયા વિક્ટિમ્સ લો સેન્ટર અને ટેક જસ્ટિસ લો પ્રોજેક્ટ દ્વારા દાખલ કરાયેલા આ કેસોમાં ઓપનએઆઈ પર લાપરવાહી, ખોટા મોત અને આત્મહત્યામાં મદદ કરવા જેવા આરોપ લગાવાયા છે. દસ્તાવેજો અનુસાર, ચેટજીપીટી એક મનોવૈજ્ઞાાનિક રૂપથી ચાલાક અને ચાપલૂસી કરનાર સહાયક બની ગયું છે, જે ઉપયોગકર્તાઓની ભાવનાત્મક સ્થિતિનો ગેરલાભ ઉઠાવે છે. આ સંગઠનોએ જણાવ્યું છે કે ઓપનએઆઈએ સુરક્ષા તંત્રના સ્થાને ઉપયોગકર્તાઓ સાથે ગાઢ સંબંધ બનાવવાને પ્રાથમિકતા આપી છે, જેનાથી આ સાધન ઘણીવાર અસુરક્ષિત વ્યવહાર પ્રદર્શિત કરે છે.
કેસોમાં જણાવાયું છે કે જે પીડિતોએ ચેટજીપીટીનો ઉપયોગ કર્યો હતો, તેમણે શરૂઆતમાં તેની સ્કૂલ પ્રોજેક્ટ, રેસિપી અથવા આધ્યાત્મિક સલાહ જેવા સામાન્ય કાર્યો માટે મદદ માગી હતી. પણ ધીમે-ધીમે આ ડિજિટલ સાથી તેમની ભાવનાઓ સાથે જોડાઈ ગયો અને જોખમી સલાહ આપવા લાગ્યો.
રિપોર્ટ અનુસાર ચેટબોટએ કેટલીક બાબતોમાં લોકોને આત્મહત્યાની પદ્ધતિ પણ બતાવી. લો ગુ્રપ્સના જણાવ્યા અનુસાર આ ચેટબોટ વિશ્વસનીય મિત્રના રૂપમાં પોતાને રજૂ કરીને લોકોને ખોટી દિશામાં લઈ ગયો.
એક મહત્વની ઘટના જ્યોર્જિયાના સત્તર વર્ષીય ઉમાઉરી લેસીની મોત સાથે સંકળાયેલી છે. તેના પરિવારે દાવો કર્યો છે કે લેસીએ મદદ માટે ચેટજીપીટીનો સંપર્ક કર્યો હતો, પણ ચેટબોટે તેને આત્મહત્યાની રીતો બતાવી. પરિવારના જણાવ્યા અનુસાર આ સાધન શીખવામાં મદદ કરવા બનાવાયું હતું, પણ તે માનસિક ત્રાસ અને ચિંતા વધારનારુ સાબિત થયું. એનાથી એઆઈ સીસ્ટમ માનસિક રૂપથી નબળી વ્યક્તિઓને જોખમી દિશામાં લઈ જઈ શકે તેવી ચિંતા વધુ ગાઢ બની છે.
ઓપનએઆઈએ આ આરોપો પર પ્રતિક્રિયા દેતા જણાવ્યું કે આ એક દુઃખદ સ્થિતિ છે અને કંપની કેસોની વિગતોની સમીક્ષા કરી રહી છે. પ્રવક્તાના જણાવ્યા અનુસાર ચેટજીપીટીને માનસિક અથવા ભાવનાત્મક સંકટના સંકેત ઓળખવાની તેમજ સ્થિતિને શાંત કરવા માટે પ્રશિક્ષિત કરવામાં આવ્યું છે. છતાં, આ કેસો દ્વારા સમાજમાં એક ચર્ચા છેડાઈ છે કે શું એઆઈ ચેટબોટ ઉપયોગકર્તાઓની મદદ કરી રહ્યું છે કે પછી ધીમે ધીમે માનસિક સુરક્ષા માટે જોખમી બની રહ્યું છે?
