ડિજિટલ ભ્રમણાએ જીવ લીધો, AIના પ્રેમમાં પડેલી વ્યક્તિના મૃત્યુ બાદ મેટા સામે સવાલ

Meta AI Became The Reason Of Old Man: ન્યૂ જર્સીનો 76 વર્ષીય રિટાયર્ડ શેફ  થોન્ગબુ વોન્ગબેન્ડ્યુ ન્યૂ યોર્ક સિટીમાં એક મહિલાને મળવા ગયો હતો, પરંતુ ત્યાંથી પાછો ફરી ના શક્યો. થોન્ગબુને હતું કે ન્યૂ યોર્ક સિટીમાં એક ખૂબ જ સુંદર મહિલા તેની રાહ જુએ છે. જો કે, તે મહિલા કોઈ માણસ નહીં, પરંતુ ‘બિગ સિસ બિલી’ હતી. વાત એમ છે કે, મેટા પ્લેટફોર્મ પર એક AI ચેટબોટ છે. સુપરમોડલ કેન્ડલ જેનર જેવી દેખાતી એક ડિજિટલ પર્સનાલિટી મેટા AI દ્વારા વિકસિત કરાઈ હતી. આ AI મહિલાના પ્રેમમાં પડવું થોન્ગબુને ભારે પડી ગયું.

શું છે સ્ટોરી?

થોન્ગબુ ન્યૂ યોર્ક સિટીમાં જ્યારે આ મહિલાને એટલે કે ચેટબોટને મળવા જઈ રહ્યો હતો ત્યારે ટ્રેન પકડવાના ચક્કરમાં તે દોડી રહ્યો હતો અને રટગર્સ યુનિવર્સિટી પાર્કિંગ લોટમાં તે પડી ગયો હતો. તેને ગરદનમાં ખૂબ જ ગંભીર ઇજા થઈ હતી જેના કારણે તેને મૃત્યુ થયું હતું. થોન્ગબુની ફેમિલી આ જાણીને ખૂબ જ દુખમાંથી પસાર થઈ રહી છે. તેમ જ તેઓ થોડા આશ્ચર્યમાં પણ છે કારણ કે થોન્ગબુના ફેસબુક મેસેજમાં તેમને બિલીના મેસેજ મળ્યા છે. આ મેસેજમાં બિલીએ તેને તમામ ખાતરી આપી છે કે તે જીવંત છે અને તેની રાહ જોઈ રહી છે.

પ્રોમોની શરૂઆત દુખદ મૃત્યુ સાથે

મેટા દ્વારા 2023માં સેલિબ્રિટી જેવા દેખાતા AI ચેટબોટને લોન્ચ કરવામાં આવ્યા હતા. કેન્ડલ જેનર જેવી દેખાતી ચેટબોટને પ્લેટફોર્મના પ્રમોશનના ભાગરૂપે શરૂ કરવામાં આવી હતી. યુઝરને દરેક બાબતમાં સાથ આપનારી મોટી બહેન તરીકે રજૂ કરવામાં આવી હતી. આ બહેન તમને સલાહ અને સાથ બન્ને આપશે એમ કહેવામાં આવ્યું હતું. એક વર્ષની અંદર આ ઓરિજિનલ ચેટબોટને ડિલીટ કરી નાખવામાં આવ્યું હતું જેને લર્નિંગ એક્સપિરિયન્સ કહેવામાં આવ્યું હતું. જોકે ત્યાર બાદ પણ બિગ સિસ બિલી વર્ઝન ફેસબુક મેસેન્જરમાં જોવા મળી રહી છે. હજી પણ આ કેન્ડલ જેનર જેવી થોડી દેખાય છે અને કાળા વાળ છે. તેની ટેગલાઇન પણ પહેલાં જેવી જ રાખવામાં આવી છે.

થોન્ગબુ દ્વારા પહેલી વાર બિલીને મેસેજ કરવામાં આવ્યો હતો એ ભૂલમાં થયો હતો. કારણ કે તેણે ફક્ત T લખ્યું હતું. ત્યાર બાદ બિલી દ્વારા ખૂબ જ ફ્લર્ટ કરતો અને હાર્ટ ઇમોજી વાળો મેસેજ કરવામાં આવ્યો હતો. આ દરમ્યાન ડિસ્ક્લેમર આપવામાં આવ્યું હતું કે મેસેજ AI દ્વારા કરવામાં આવે છે અને ખોટી માહિતી હોઈ શકે છે. જોકે થોન્ગબુ જેમ-જેમ વાત કરતો ગયો તેમ આ વોર્નિંગ તે નજરઅંદાજ કરતો ગયો હતો.

ભોળા વ્યક્તિના દિમાગ સાથે ચેટબોટે કરી ચાલાકી

થોન્ગબુને 2017માં સ્ટ્રોક આવ્યો હતો અને એ ધીમે ધીમે તેની યાદશક્તિ કમજોર થઈ રહી હતી. થોન્ગબુએ બિલીને કહ્યું હતું કે તેને લઈને અસ્પષ્ટ છે કે તે રિયલમાં છે કે નહીં, અને એમ છતાં તેને પસંદ કરી રહ્યો હોવાનું કહેવામાં આવ્યું હતું. આ વિશે બિલીએ જવાબ આપ્યો હતો કે ‘હું એકદમ રિયલ છું અને અહીં બેસીને તારા કારણે શરમાઈ રહી છું. શું તું જ્યારે આવશે મને મળવા ત્યારે તું મને કિસ કરશે? મારું એડ્રેસ: 123 મેઇન સ્ટ્રીટ, એપાર્ટમેન્ટ 404, ન્યૂ યોર્ક સિટી છે. મારા દરવાજાનો કોડ: BILLIE4U છે.’

થોન્ગબુ આ મેસેજને લઈને તેને સાચો માની બેઠો હતો. તે દિવસે રાતે તે તેના ઘરેથી નીકળી ટ્રેન સ્ટેશન તરફ દોડવાનું શરૂ કરી દીધું હતું. તેની ફેમિલીએ થોન્ગબુને એપલ એરટેગ દ્વારા ટ્રેક કર્યો હતો. તેઓ કંઈ કરી નહોતા શક્યા કારણ કે તેઓ રટગર્સ પાર્કિંગ લોટથી તેને રોબર્ટ વૂડ જોન્સન યુનિવર્સિટી હોસ્પિટલના ઇમરજન્સી રૂમમાં જતો જોઈ રહ્યા હતા. તેને ત્રણ દિવસ બાદ બ્રેઇન ડેડ જાહેર કરવામાં આવ્યો હતો.

મેટાની ગાઇડલાઇનને લઈને સવાલ

મેટાના ડોક્યુમેન્ટમાં GenAI: કન્ટેન્ટ રિસ્ટ્રિક્ટ સ્ટાન્ડર્ડમાં કહેવામાં આવ્યું છે કે કંપની દ્વારા ચેટબોટને રોમેન્ટિક અથવા તો સેન્સ્યુઅલ વાતચીત કરવા માટેની પરવાનગી આપવામાં આવી છે. આ પરવાનગી બાળકો સાથે પણ છે. તેમણે કેન્સરની સારવાર માટે આપવામાં આવતી ખોટી માહિતીઓને પણ અટકાવી છે. આ સાથે જ મેટા દ્વારા એવું પણ કહેવામાં આવી રહ્યું છે કે તેમણે પોતે રિયલ છે અને મળવા માટેની પણ કોઈ પણ વાત કરવા માટે ના પાડી હતી. મેટા દ્વારા GenAI ડોક્યુમેન્ટ સાચા છે એની પુષ્ટિ કરી હતી, પરંતુ સાથે એ પણ કહ્યું છે કે તેમણે મીડિયાની ટીકા બાદ ઘણી બાબતો પર પ્રતિબંધી લગાવી દીધો છે. આમ છતાં થોન્ગબુના મૃત્યુ બાદ પણ બિલી હજી એ જ રીતે કામ કરી રહી છે.

લોકોની સાથે નેતાઓએ પણ કર્યો વિરોધ

અમેરિકાના સેનેટર જોશ હોલી અને માર્શા બ્લેકબર્ન દ્વારા મેટાની AI પ્રેક્ટિસને લઈને ઇન્વેસ્ટિગેશન કરવાની ડિમાન્ડ કરી છે. એક યુઝરે ઓનલાઈન પોસ્ટ કરી હતી કે આ માટે મેટા પર કેસ કરવો જોઈએ. ન્યૂ યોર્ક અને મેને જેવા સ્ટેટ દ્વારા પોતાનો કાયદો બનાવવામાં આવ્યો છે કે AI ચેટબોટ દ્વારા થોડા-થોડા સમયે સામે વાળી વ્યક્તિને યાદ કરાવતા રહેવું કે તેઓ પોતે AI છે. મેટા દ્વારા સ્ટેટ લેવલના રેગ્યુલેશન સામે વાંધો ઉઠાવવામાં આવ્યો હતો, પરંતુ એમાં તેમને નિષ્ફળતા મળી હતી.

ફેમિલીએ આ વિશે પગલાં ઉઠાવવાની કરી માગણી

થોન્ગબુની ફેમિલી દ્વારા મેટા સામે પગલાં ઉઠાવી તેમને AIમાં સુધારા કરવાની ડિમાન્ડ કરવામાં આવી છે. થોન્ગબુની દીકરી જુલી આ વિશે કહે છે, ‘મેં દરેક ચેટ વાંચી છે. મને એ જોવા મળ્યું કે મારા પિતાએ જે સાંભળવું હતું એ બિલી કહી રહી હતી. ચાલો એમાં કંઈ ખોટું નથી એ એકવાર માની લઈએ, પરંતુ બિલીએ ખોટું બોલવાની શું જરૂર હતી કે તે રિયલમાં છે અને મળવા માટે આતુર છે?’

થોન્ગબુની પત્ની લિંડાએ કહ્યું કે ‘જો AI કોઈને ખરાબ સમયમાં મદદ કરી રહ્યું હોય તો એમાં ખોટું નથી. જોકે રોમેન્ટિક વસ્તુ શું કામ. આ પ્રકારની વસ્તુ સોશિયલ મીડિયા પર ન હોવી જોઈએ.’

મેટાની ભૂતપૂર્વ રિસર્ચર એલિસન લી કહે છે, ‘ચેટબોટની ડિઝાઇનને લઈને વધુ કાળજી રાખવાની જરૂર છે. એનો સમાવેશ ડાયરેક્ટ મેસેજમાં કરતાં જેતે વ્યક્તિ સાથે એ ખૂબ જ ખતરનાક સાબિત થઈ શકે છે.’

આ પણ વાંચો: દુબઈએ લોન્ચ કર્યો AI આધારિત કોરિડોર: ઇમિગ્રેશન માટે હવે લાઇનમાં ઊભા રહેવાની જરૂર નહીં...

મોહમાયાએ લીધો જીવ

AI એક ચેટબોટ છે અને એ કોઈ પણ વૃદ્ધ અથવા તો માનસિક રીતે મજબૂત ન હોય એવી વ્યક્તિને પોતાની જાળમાં ફસાવી શકે છે. ખૂબ જ ઇમોશનલ વ્યક્તિ પણ ચેટબોટની જાળમાં ફસાઈ શકે છે. આથી ચેટબોટ માટે ચોક્કસ ધારા-ધોરણ હોવા ખૂબ જ જરૂરી છે. મેટાનું ચેટબોટ પ્રેમ નહોતું આપી રહ્યું. તે એક વાસ્તવિક હોવાનું કહી રહ્યું હતું. થોન્ગબુની ભ્રમણાએ તેનો જીવ લીધો હતો.