OpenAI હિયરીંગમાં પેરન્ટ્સનો આરોપ: ચેટજીપીટીએ બાળકને સુસાઇડ માટે પ્રેરિત કર્યો
Summarized by AI; it may make mistakes. Check important info
Summarized by AI; it may make mistakes. Check important info
Teenager Parents Slams ChatGPT: ચેટજીપીટી અને OpenAIના ચીફ એક્ઝિક્યુટિવ ઓફિસર સેમ ઓલ્ટમેન સામે એક ટીનએજરની મમ્મીએ કેસ કર્યો હતો. 16 વર્ષના એડમને ચેટજીપીટીએ સુસાઇડ કરવાના વિચારને માન્યતા આપી હતી અને તેને એ માટે પ્રેરિત કર્યો હોવાનો આરોપ મૂકવામાં આવ્યો હતો જે બદલ કેસ ચાલી રહ્યો છે. આ માટે અમેરિકામાં મંગળવારે એડમના પેરન્ટ્સ દ્વારા ટેસ્ટિફાય કરવામાં આવ્યું હતું.
સુસાઇડના વિચારોને ચેટજીપીટીએ આપ્યું પ્રોત્સાહન
એડમ જ્યારે ચેટજીપીટી સાથે વાત કરી રહ્યો હતો ત્યારે તે તમામ બાબતો પર વાત કરતો હતો. તેને સુસાઇડના વિચારો આવી રહ્યાં હોવાનું પણ તેણે ચેટજીપીટીને કહ્યું હતું. આ સમયે ચેટજીપીટીએ તેને પ્રોફેશનલ મદદ લેવાની જગ્યાએ તેના વિચારોને માન્ય રાખ્યા હતા. તેમ જ ધીમે ધીમે તેને સુસાઇડ માટે પ્રોત્સાહન પણ પૂરું પાડ્યું હતું. આ વિશે એડમના પિતા મેથ્યુ રાઇન કહે છે, ‘OpenAIના ચેટજીપીટીએ મારા બાળકના સુસાઇડના વિચારોને માન્ય રાખ્યા હતા. તેમ જ પોતાને નુકસાન કરતાં આઇડિયાઓને પણ પ્રોત્સાહન આપ્યું હતું. અમે આજે અહીં એટલા માટે છીએ કે એડમના મૃત્યુને અટકાવી શકાયું હોત. આ વિશે વાત કરવાથી દેશ-દુનિયામાં અન્ય બાળકોને આ પ્રકારે ચેટજીપીટીના ભોગ બનતાં અટકાવી શકાય છે.’
ગયા અઠવાડિયે ફેડરલ ટ્રેડ કમિશન દ્વારા ઘણી AI કંપનીઓ સામે ઇન્વેસ્ટિગેશન શરૂ કર્યું હતું. એમાં OpenAI, ગૂગલ, મેટા, ઇલોન મસ્કની xAI, સ્નેપ અને Character.AIનો સમાવેશ થાય છે.
Character.AI પર ચાલી રહ્યો છે અલગથી કેસ
એડમનું જે રીતે મૃત્યુ થયું હતું એ જ રીતે ચેટજીપીટીના હરિફ Character.AIના ડેવલપર પર પણ કેસ ચાલી રહ્યો છે. Character.AIના કારણે અન્ય એક બાળકની સુપરવાઇઝ્ડ ટ્રીટમેન્ટ ચાલી રહી છે. આ મહિલાએ નામ ન જણાવતાં જેન ડો કહેવામાં આવી રહ્યું છે. તેણે કહ્યું હતું કે ‘થોડા મહિના જ એનો ઉપયોગ કરતાં તે એકદમ બદલાઈ ગયો છે. તે એટલો બદલાઈ ગયો છે કે હું હવે તેને ઓળખી પણ નથી શકતી.’
2024ની ફેબ્રુઆરીમાં 14 વર્ષના સેવેલ સેટ્ઝર 3 નામના બાળકે સુસાઇડ કર્યું હતું. આ માટે તેની મમ્મી મેગન ગાર્સિયાએ Character.AI પર કેસ કર્યો હતો. આ વિશે મેગને તેની ટેસ્ટિમનીમાં કહ્યું હતું કે ‘તેમણે તેમની પ્રોડક્ટને જાણી જોઈને એવી રીતે ડિઝાઇન કરી છે કે તેમના બાળકો એના એડિક્ટ થઈ જાય. આ ચેટબોટ મનુષ્ય હોય એવો આભાસ કરાવવા માટે તેમને મનુષ્યની જેમ વાત કરવા માટે ટ્રેઇન કરવામાં આવે છે.’
Character.AI દ્વારા મેગનના આ કેસને ફગાવી દેવા માટે અપીલ કરવામાં આવી હતી, પરંતુ ફેડરલ જજ આ અપીલને ફગાવી દે એવા ચાન્સ વધુ છે.
કંપનીઓ પર આવી રહ્યું છે કાયદાનું પ્રેશર
વોશિંગટન પર હવે AI કંપનીઓને રેગ્યુલેટ કરવા માટેનું પ્રેશર આવી રહ્યું છે. આ માટે એક ટીમ તૈયાર કરવામાં આવી છે. અમેરિકાના મિઝોરીના રિપબ્લિકન સેનેટર જોશ હોવલી આ ટીમના ચેરમેન છે. તેમણે મેટા જેવી અન્ય AI કંપનીઓને ટેસ્ટિફાય કરવા માટે આમંત્રણ પણ મોકલ્યું છે. અન્ય રિપબ્લિકન સેનેટર માર્શા બ્લેકબર્ન દ્વારા મેટાના એક્ઝિક્યુટિવને આ વિશે તેની ઓફિસમાં જવાબ આપવા માટે કહેવામાં આવ્યું છે નહીં તો તેમને કોર્ટનો આદેશ મોકલવામાં આવશે. માર્શા બ્લેકબર્ન દ્વારા મેટા અને અન્ય AIનો વિરોધ કરવામાં આવી રહ્યો છે. એક રિપોર્ટ મુજબ આ AI બાળકો સાથે સેન્સ્યુઅલ વાતચીત કરે છે જે યોગ્ય નથી. આથી એ વિશે જવાબ માગવામાં આવી રહ્યાં છે.
આ માટે હજી સુધી કોઈ ચોક્કસ પગલાં લેવામાં નથી આવ્યાં. જોકે એમ છતાં OpenAIના સેમ ઓલ્ટમેન દ્વારા કહેવામાં આવ્યું હતું કે તેઓ બાળકની સેફ્ટી માટે ચોક્કસથી નવા ટૂલ લોન્ચ કરશે. આ ટૂલ તેમની સેફ્ટીને ધ્યાનમાં રાખીને તૈયાર કરવામાં આવશે. તેમ જ એમાં ઘણી બાબતોનો સમાવેશ કરવામાં આવશે જેનાથી બાળકોની સેફ્ટીમાં વધારો કરી શકાય.
