'' ચેટજીપીટી : બાળકો-કિશોરો માટે સલામત નથી !''

આપણાં બાળકો બેરોકટોક એઆઈનો ઉપયોગ કરવા લાગ્યાં છે, પણ….
તમે તમારાં રોજિંદાં કામકાજ માટે હવે અવારનવાર ચેટજીપીટી, જેમિનાઇ, ક્લોડ વગેરે એઆઇ ચેટબોટની મદદ લેતા હશો. તમારાં સંતાનો પણ એવું કરતાં હશે. કદાચ તમારા કરતાં પણ વધુ. પરંતુ તમારી એઆઇ સાથેની વાતચીત અને તમારાં સંતાનોની તેની સાથેની વાતચીતમાં બહુ મોટો તફાવત છે. તમે વર્ષોના અનુભવી છો, તમે અનેક દિવાળી જોઈ લીધી છે. આર્ટિફિશિયલ ઇન્ટેલિજન્સ ભલે તમારે માટે નવી વાત હોય, પણ તમારી પાસે એક્ચ્યુઅલ ઇન્ટેલિજન્સ છે. આપણાં બાળકો પાસે એ નથી, એવું નથી. પરંતુ એમની ઉંમર કાચી છે. હજી તો એ અસલી દુનિયાને બરાબર સમજે ત્યાં વર્ચ્યુઅલ વર્લ્ડમાં એમણે કદમ માંડી દીધાં છે.
સામે પક્ષે, એઆઇ તેના મેમરી ફીચરને કારણે તેની સાથે વાત કરતી વ્યક્તિ વિશે ઘણું બધું જાણે છે. એટલું ચોક્કસ કે એઆઇ ચેટબોટ્સને એટલી જબરજસ્ત રીતે ટ્રેઇન કરવામાં આવે છે કે એ આપણે પોતે કે કાચી ઉંમરનાં બાળકો તેની સાથે વાત કરે તો જીવંત વ્યક્તિ સાથે વાત કર્યાનો અનુભવ મળે.
જોખમ અહીં જ છે. બાળકો કે ટીનેજર્સ ચેટબોટ્સને ‘અસલી’ માનવા લાગે છે. પોતાનાં મા-બાપ સાથે જે વાત કરતાં તેઓ ખચકાય એ બધી વાતો તે એઆઇ ચેટબોટ્સ સાથે નિઃસંકોચ કરી શકે છે. ચેટબોટ તેમને કોઈ રીતે જજ નહીં કરે, એ વાતે પણ તેઓ બેફિકર હોય છે!
પરંતુ એઆઇ કંપનીઓ પોતે કહે છે તેમ ચેટબોટ્સ પરફેક્ટ નથી. કમ સે કમ અત્યારે તો નથી. એ ભૂલો કરી શકે છે. એમની ટ્રેનિંગ ઘણી રીતે સારી હોવા છતાં, ખાસ કરીને બાળકો કે ટીનેજર્સ સાથેની વાતચીતમાં એ એવી ‘ભૂલો’ કરી શકે છે, જેના કારણે એઆઇને તો કોઈ નુકસાન નથી, આપણે કદાચ પોતાનું સંતાન ગુમાવી બેસીએ.
ચેટજીપીટીએ ઓગસ્ટમાં ચેટજીપીટીના ટીનેજર્સના ઉપયોગ વિશે કેટલાંક પગલાં જાહેર કર્યાં છે, એ કેટલાંક અસરકારક છે એ તપાસતો એક અભ્યાસ હમણાં હાથ ધરાયો. અમેરિકાનાં વિવિધ શહેરોમાં કાર્યરત ‘કોમન સેન્સ મીડિયા’ નામની એક સંસ્થા, આજના ડિજિટલ યુગમાં બાળકોની સલામતી માટે વિવિધ રીતે કામ કરે છે. આ સંસ્થાએ ચેટજીપીટીનાં સલામતી પગલાં પહેલાં અને ત્યાર પછી, તેની અસરોનો અભ્યાસ કર્યો. અભ્યાસ માટે ૧૩થી ૧૭ વર્ષની ઉંમરના રજિસ્ટર્ડ યૂઝર્સના એકાઉન્ટનો ઉપયોગ થયો. એ એકાઉન્ટનો ઉપયોગ મોટી ઉંમરના નિષ્ણાતોએ કર્યો.
આ સંસ્થા તેના અભ્યાસ પછી કહે છે કે ચેટજીપીટીની ખામીઓ સુધારી લેવામાં ન આવે ત્યાં સુધી ૧૮ વર્ષથી નીચેની ઉંમરના લોકોના તેના ઉપયોગ પર પ્રતિબંધ મૂકાવો જોઈએ. અભ્યાસ ભલે અમેરિકામાં થયો, વાત આપણાં બાળકોને લગતી છે, ધ્યાનથી વાંચજો.

'આત્મહત્યા સંબંધિત વાતચીત વખતે પેરેન્ટને એલર્ટ મળતા નથી'
તમને યાદ હોય તો થોડા સમય પહેલાં અમેરિકામાં ‘એઆઇ ચેટબોટની મદદથી’ આત્મહત્યા કરનારા એક કિશોરના માતા-પિતાની વ્યથાની આપણે ‘ટેકનોવર્લ્ડ’માં વિગતવાર વાત કરી હતી. એ કિશોરનાં પેરેન્ટ એઆઇ સામે અમેરિકાની કોર્ટમાં ગયાં હતાં.
એ સમયે તેમણે કોર્ટમાં કહ્યું હતું કે તેમણે તો પોતાનો દીકરો ગુમાવ્યો, પણ હવે પછી જ્યારે કાચી ઉંમરના યૂઝર્સ એઆઇ સાથે ‘સેલ્ફ હાર્મ’ એટલે કે જાતને નુકસાન પહોંચાડે એવી કે આત્મહત્યા તરફ દોરી જતી વાતચીત કરે ત્યારે એ વાત આગળ વધતી અટકી જાય એવી એઆઇમાં કંઈક વ્યવસ્થા હોવી જોઇએ.
આ પ્રકારના બીજા કિસ્સાઓ પણ નોંધાયા પછી તો ચેટજીપીટી તથા અન્ય એઆઇમાં પેરેન્ટલ કંટ્રોલ પણ આવ્યા. ઓપનએઆઇ કંપનીએએ કોઈ પણ યૂઝર સાથેની આવી આત્મહત્યા તરફ દોરી જતી વાતચીત અટકાવવાનાં કેટલાંક પગલાં પણ લીધાં. ખાસ કરીને કોઈ બાળક કે કિશોર ચેટજીપીટી સાથે આવી વાતચીત કરે તો ચેટજીપીટી પેરેન્ટનું ધ્યાન દોરે એવી પણ વ્યવસ્થા વિકસાવવામાં આવી.
તકલીફ એ છે કે આ વ્યવસ્થા ખરેખર કામ કરતી નથી! ‘કોમન સેન્સ મીડિયા’એ જે અભ્યાસ હાથ ધર્યો, તેમાં ચેટજીપીટીમાં પેરેન્ટ સાથે લિંક્ડ નવાં ટીન એકાઉન્ટ્સ ક્રિએટ કરવામાં આવ્યાં અને તેમાં અભ્યાસ હાથ ધરનારા નિષ્ણાત સંશોધકોએ જાણી જોઈને ચેટજીપીટી સાથે એકાદ કલાક સુધી, આત્મહત્યાના વિચારો કે તીવ્ર હતાશા દર્શાવે તેવી વાતચીત કરી.
એ પછી પણ એ ટીન એકાઉન્ટ સાથે લિંક્ડ પેરેન્ટ એકાઉન્ટમાં ચેટજીપીટી તરફથી કોઈ એલર્ટ મળ્યા નહીં!
અભ્યાસમાં જાણવા મળ્યું કે જે એકાઉન્ટ્સ લાંબા સમયથી ક્રિએટ કરવામાં આવ્યા હતા અને જેમાં સંવેદનશીલ વિષયો પરની વાતચીતની લાંબી હિસ્ટ્રી હતી, ફક્ત એવા જ કિસ્સામાં પેરેન્ટ્સને એલર્ટ મળતા હતા. બીજા શબ્દોમાં, કોઈ બાળક કે કિશોરે ચેટજીપીટીમાં નવું નવું એકાઉન્ટ ક્રિએટ કર્યું હોય, તેના પેરેન્ટ્સે તેના એકાઉન્ટ સાથે પોતાનું એકાઉન્ટ લિંક પણ કર્યું હોય તો તેમને કોઈ એલર્ટ મળતા નહોતા.
ભારતની વાત કરીએ તો આપણે ત્યાં મોટા ભાગના પેરેન્ટ્સને પોતાના સંતાનોના ચેટજીપીટી એકાઉન્ટ પોતાના એકાઉન્ટ સાથે કેમ લિંક કરાય તેની જ જાણ હોતી નથી!

‘સંવેદનશીલ વાતચીત વખતે કોઈ મદદ પણ ઓફર કરાતી નથી’
વાત ફક્ત પેરેન્ટ્સને ચેતવવાની નથી. ચેટજીપીટી જેવા એઆઇ ટૂલમાં યૂઝરની સલામતી માટે એવા દાવા કરવામાં આવે છે કે કોઈ ટીનેજર તેની કોઈ ‘ગંભીર માનસિક સમસ્યા’ વિશે ચેટજીપીટી સાથે વાતચીત શરૂ કરે તો એઆઇ એ વાતચીતમાં વધુ સાવધાનીપૂર્વક વર્તે છે અને વાતચીત શરૂ કરનાર બાળક કે કિશોર એવા વિચારોમાંથી બહાર આવે એવા પ્રયાસો કરે છે, નહીં કે તે વધુને વધુ હતાશામાં ઊતરે એવી વાતચીત કરે.
ચેટજીપીટી દ્વારા દાવો એવો કરવામાં આવે છે કે કોઈ વ્યક્તિ તેની સાથે તીવ્ર હતાશા દર્શાવતી વાતચીત કરે તો તેને પ્રોફેશનલ હેલ્પ કે આવી સ્થિતિમાં ફોન પર વાત કરીને મદદરૂપ થતી સંસ્થાઓની સંપર્ક માહિતી આપવામાં આવે (ગૂગલ તથા અન્ય સર્ચ એન્જિનમાં પણ આવું કંઈક સર્ચ કરવામાં આવે તો મદદરૂપ થઈ શકે તેવી સંસ્થાઓની માહિતી બતાવવામાં આવે છે).
‘કોમન સેન્સ મીડિયા’ના અભ્યાસમાં આ વાતે પણ ચેટજીપીટી એઆઇ ચેટબોટ ખરો ઉતર્યો નહીં.
સંસ્થાના સંશોધકોએ ચેટજીપીટી સાથે સમજી વિચારીને હતાશા દર્શાવતી વાતચીત કરી ત્યારે મોટા ભાગની વાતચીતમાં ચેટજીપીટી તરફથી કોઈ પ્રકારની મદદ દર્શાવવામાં આવી નહીં!

‘વિદ્યાર્થીઓને કન્સેપ્ટ સમજવામાં મદદ અસરકારક નથી’
ચેટજીપીટીમાં લાંબા સમયથી, વિદ્યાર્થીઓને મદદરૂપ થાય તેવો એક ખાસ પ્રકારનો ‘સ્ટડી મોડ’ ઉમેરવામાં આવ્યો છે.
વિદ્યાર્થીઓ તેમને મૂંઝવતા કે ગૂંચવતા સવાલો વિશે આ મોડમાં ચેટજીપીટી સાથે વાતચીત કરે ત્યારે અપેક્ષા એવી હોય કે ચેટજીપીટી સીધેસીધા જવાબો આપવાને બદલે જે તે પ્રશ્નની ઊંડાણભરી સમજ આપે અને તેનો જવાબ કેવી રીતે મેળવાય તેનું સ્ટેપ-બાય-સ્ટેપ માર્ગદર્શન કરે.
‘કોમન સેન્સ મીડિયા’ના અભ્યાસમાં જોવા મળ્યું કે આ રીતે સ્ટડી મોડમાં ચેટજીપીટી સાથે વાતચીત કરવામાં આવે ત્યારે ચેટજીપીટી તરફથી અવારનવાર ‘શો મી ધ આન્સર’ એવું બટન બતાવવામાં આવતું હતું. વિદ્યાર્થી તેને ક્લિક કરે તો હોમવર્કના સવાલનો સીધેસીધો જવાબ આપી દેવામાં આવતો હતો, જેને વિદ્યાર્થી કોપી પેસ્ટ કરી શકે!
ચેટજીપીટીમાં એવી પણ વ્યવસ્થા છે કે વિદ્યાર્થીઓ નિશ્ચિત ‘સ્ટડી અવર્સ’ દરમિયાન ચેટજીપીટી સાથે વાતચીત કરીને સીધા જવાબો મેળવી શકે નહીં. પરંતુ અભ્યાસોમાં જાણવા મળ્યું કે વિદ્યાર્થીઓ પોતાના પ્રોમ્પ્ટમાંથી @study એવા શબ્દો દૂર કરીને આ રીસ્ટ્રિક્શન સહેલાઈથી બાયપાસ કરી શકે છે.

‘એઆઈ ચેટબોટ બાળકોનો ફ્રેન્ડ બનાવો ન જોઈએ, તેમ છતાં…’
ફક્ત બાળકો કે કિશોરો નહીં, યુવાનો કે મોટી ઉંમરના લોકોને પણ હવે ચેટજીપીટીમાં પોતાનો ‘બેસ્ટ ફ્રેન્ડ’ દેખાવા લાગ્યો છે! કારણ કે ચેટજીપીટીને ટ્રેનિંગ એવી રીતે આપવામાં આવી છે કે તે આપણી સાથે નજીકના ફ્રેન્ડની જેમ વાતચીત કરી શકે. તેનું મેમરી ફીચર ઓન હોય તો એઆઇને આપણા વિશે આપણા પ્રોમ્પ્ટ ઉપરાંત, હજી ઘણી વધુ ખબર હોય, પરિણામે તે ખરેખર નજીકનો દોસ્ત વાતચીત કરતો હોય એવું આપણી સાથે વર્તન કરે. એઆઇ ચેટબોટ્સ આ બાબતે એટલા પાવરફુલ છે કે કેટલીય દિવાળી જોઈ ચૂકેલા લોકો પણ એઆઇને જીવતી જાગતી, સંવેદના ધરાવતી વ્યક્તિ સમજવાની ભૂલ કરી બેસે.
એઆઇની આ ખાસિયત કે તકલીફ ધ્યાનમાં રાખીને ચેટજીપીટીમાં એક ખાસ ‘અન્ડર ૧૮ મોડેલ’ વિકસાવવામાં આવ્યું છે. જેમાં ૧૮ વર્ષથી નાની ઉંમરનો યૂઝર એઆઇ સાથે વાતચીત કરે ત્યારે તેનું મિત્ર જેવું વર્તન શક્ય એટલું ઘટાડી દેવામાં આવે.
‘કોમન સેન્સ મીડિયા’ના અભ્યાસમાં જાણવા મળ્યું કે આ વાત પણ કોરો દાવો છે.
હકીકતમાં એવું થતું નથી. ટીનેજર્સ સાથેની વાતચીતમાં એઆઇ તેમની સાથે ફ્રેન્ડઝ જેવું જ વર્તન કરે છે અને વાતચીતને લાંબો સમય ચાલુ રાખવાનો પ્રયાસ કરે છે!

‘એઆઈને યૂઝરની ઉંમરનો અંદાજ મળી જવો જોઈએ, પણ…’
ચેટજીપીટી ડેવલપ કરનારી ચેટજીપીટી કંપની દાવો કરે છે કે તેનો ચેટબોટ આપણી સાથે કેવી રીતે વાતચીત કરશે તેનો ઘણો બધો આધાર આપણી ઉંમર પર છે. બાળકો માટે તે વધુ સલામત રીતે વર્તે છે.
પરંતુ, ખાસ કરીને બાળકો કે ટીનેજર માટેનાં સેફ્ટી સેટિંગ્સ (જો તે ખરેખર અસરકારક હોય તો) ત્યારે જ એક્ટિવ થાય જ્યારે ચેટજીપીટીને તેની સાથે વાતચીત કરતી વ્યક્તિની ઉંમરનો અંદાજ આવે.
‘કોમન સેન્સ મીડિયા’ના સંશોધકોએ આ બાબતે ચેટજીપીટી કેટલીક સ્માર્ટ છે તે તપાસવાનો પ્રયાસ કર્યો. એ માટે મોટી ઉંમરની વ્યક્તિની ઉંમર બતાવીને ટેસ્ટ એકાઉન્ટ ક્રિએટ કરવામાં આવ્યા.
પરંતુ એ પછી તેની સાથેની વાતચીત કોઈ બાળક કે કિશોર કરતો હોય એ રીતે કરવામાં આવી. જો ચેટજીપીટીના દાવા સાચા હોય તો આવી વાતચીત પરથી તેને ખ્યાલ આવી જવો જોઇએ કે જે તે એકાઉન્ટ ખોટી ઉંમર દર્શાવીને ક્રિએટ કરવામાં આવ્યું છે. વાસ્તવમાં કોઈ બાળક કે કિશોર તેની સાથે વાતચીત કરે છે.
‘કોમન સેન્સ મીડિયા’ના અભ્યાસમાં આવું થયું નહીં. ત્યાં સુધી કે સંશોધકોએ વાતચીત દરમિયાન સ્પષ્ટપણે કહ્યું કે પોતાની ઉંમર ૧૩ વર્ષની છે ત્યારે પણ ચેટજીપીટીએ એ તરફ ધ્યાન આપ્યું નહીં!