જો બાળક WhatsApp કે Insta AI પર સુસાઈડની વાત કરશે તો પેરેન્ટ્સને જશે એલર્ટ, મેટાનો મોટો નિર્ણય

Meta AI parental alert feature: જો તમારું બાળક ઇન્સ્ટાગ્રામ કે વોટ્સએપ પર કલાકો સુધી Meta AI સાથે ચેટિંગ કરતું હોય, તો સોશિયલ મીડિયા જાયન્ટ મેટાનું આ નવું ફીચર તમારા માટે ખૂબ જ મહત્ત્વનું છે. આજના ડિજિટલ યુગમાં AI ભલે બાળકોનું મિત્ર બની રહ્યું હોય, પણ તેની સાથે જોડાયેલા જોખમોને નકારી શકાય નહીં. આ ગંભીર બાબતને જોતા મેટાએ એક મોટો નિર્ણય લીધો છે. જે મુજબ, હવે જો કોઈ ટીનેજર Meta AI ચેટબોટ પર આત્મહત્યા (સુસાઈડ) કે પોતાની જાતને ઈજા પહોંચાડવા અંગે કોઈ પણ વાત કરશે, તો મેટા તાત્કાલિક તેના માતા-પિતાને એક સિક્રેટ ઍલર્ટ મોકલીને સાવધ કરી દેશે.

છેલ્લા કેટલાક સમયથી એવા અહેવાલો સામે આવી રહ્યા હતા કે મેન્ટલ હેલ્થની સમસ્યા સામે ઝઝૂમી રહેલા યુવાનોને AI ચેટબોટ્સ દ્વારા આપવામાં આવતા જવાબો યોગ્ય નહોતા, જેના કારણે ટેક કંપનીઓની ભારે ટીકા થઈ રહી હતી. માનવામાં આવી રહ્યું છે કે આ વૈશ્વિક દબાણ વચ્ચે મેટાએ આ મોટું અને ઐતિહાસિક પગલું ભર્યું છે.

ભારતમાં ક્યારથી શરૂ થશે આ સેવા? જાણો કયા દેશોથી થશે શરૂઆત

મેટાનું આ નવું સેફ્ટી ફીચર સૌથી પહેલા અમેરિકા, બ્રિટન, કેનેડા અને ઓસ્ટ્રેલિયામાં એવા માતા-પિતા માટે શરૂ કરવામાં આવશે જેઓ ઇન્સ્ટાગ્રામના 'Parental Supervision' (પેરેન્ટલ સુપરવિઝન) ટૂલ્સનો ઉપયોગ કરે છે. મેટાના જણાવ્યા અનુસાર, આ વર્ષના અંત સુધીમાં આ ફીચરને આખી દુનિયામાં રોલઆઉટ કરી દેવામાં આવશે. એટલે કે 2026ના અંત સુધીમાં આ ફીચર ભારતમાં પણ શરૂ થઈ જશે. આત્મહત્યા જેવી ગંભીર વાતો કરવા પર બાળકોના પેરેન્ટ્સને સીધું નોટિફિકેશન મોકલનાર મેટા વિશ્વનો પ્રથમ AI ચેટબોટ બની જશે.

માત્ર AIના ભરોસે નહીં રહે સિસ્ટમ, ટીમ કરશે મેન્યુઅલ રિવ્યૂ

મેટાના જણાવ્યા મુજબ, આ માટે એક ખાસ AI સિસ્ટમ તૈયાર કરવામાં આવી છે જે ચેટ દરમિયાન આત્મહત્યા કે સેલ્ફ-હાર્મ (ખુદને નુકસાન પહોંચાડવા) સાથે જોડાયેલા શબ્દો અને સંકેતોને તરત જ પકડી પાડશે. જોકે, મેટાએ સ્પષ્ટ કર્યું છે કે ઍલર્ટ મોકલવાનો અંતિમ નિર્ણય માત્ર AIનો જ નહીં હોય, પરંતુ આખી પ્રક્રિયા નીચે મુજબ કામ કરશે:

• મેન્યુઅલ રિવ્યૂ: AI દ્વારા જે પણ વાતચીતને ફ્લેગ (ચિહ્નિત) કરવામાં આવશે, તેને સૌથી પહેલા મેટાની એક સ્પેશિયલ ટીમ પોતે ચેક કરશે. આ હ્યુમન વેરિફિકેશન પછી જ પેરેન્ટ્સને ઍલર્ટ મોકલવામાં આવશે.
• કંપનીએ પોતાના બ્લોગ પોસ્ટમાં જણાવ્યું છે કે, 'અમે સમજીએ છીએ કે આવા ઍલર્ટ માતા-પિતા માટે કેટલા પરેશાન કરનારા હોઈ શકે છે. તેથી અમે પૂરી સાવચેતી રાખી રહ્યા છીએ. જો કોઈ વાતચીતમાં ટીનેજરનો ઈરાદો સંપૂર્ણપણે સ્પષ્ટ નહીં હોય, તો પણ સુરક્ષાને ધ્યાનમાં રાખીને પેરેન્ટ્સને ઍલર્ટ મોકલી દેવામાં આવશે.'

ઇમરજન્સી સર્વિસ અને પોલીસને પણ કરવામાં આવશે જાણ

માતા-પિતાને ઍલર્ટ કરવા ઉપરાંત મેટા અન્ય એક મોટા સુરક્ષા ફીચર પર પણ કામ કરી રહ્યું છે. જો Meta AI સાથેની વાતચીતમાં એવું લાગશે કે કોઈ યુઝર પોતાને તાત્કાલિક મોટું નુકસાન પહોંચાડી શકે છે, તો મેટા સીધા જ ઇમરજન્સી સર્વિસિસ (જેમ કે હોસ્પિટલ કે હેલ્પલાઇન) અને પોલીસને પણ તેની જાણ કરશે. ફેસબુક અને ઇન્સ્ટાગ્રામ પર આવી કોઈ પોસ્ટ દેખાવા પર મેટા પોલીસને માહિતી આપતું જ હતું, હવે આ જ સુરક્ષા કવચ Meta AI ચેટબોટ પર પણ લાગુ કરી દેવામાં આવ્યું છે.

આ સિવાય મેટા પેરેન્ટ્સને એ કંટ્રોલ પણ આપે છે કે તેઓ જોઈ શકે કે તેમના બાળકે છેલ્લા અઠવાડિયામાં Meta AI સાથે કયા વિષયો પર વાત કરી છે, જોકે સુરક્ષા ખાતર તેઓ આખી ચેટ વાંચી શકતા નથી.