ચેટજીપીટી બાદ ચેતી ગયું મેટા: બાળકો સાથે હવે સંવેદનશીલ વાતચીત નહીં કરે AI

Meta AI Change Policy for Teenagers: ફેસબુક અને ઇન્સ્ટાગ્રામની પેરેન્ટ કંપની મેટા દ્વારા એક ખૂબ જ મહત્વનો નિર્ણય લેવામાં આવ્યો છે. મેટા AI હવે બાળકો સાથે સેન્સિટિવ વિષય પર વાત નહીં કરે. ચેટજીપીટીના કારણે એક બાળક દ્વારા સુસાઇડ કરવામાં આવ્યું છે. તેમ જ એક વ્યક્તિએ પોતાની મમ્મીનું મર્ડર કરીને પોતે પણ સુસાઇડ કરી લીધું હતું. આ પ્રકારના ઘણા કેસ સામે આવી રહ્યા છે જેમાં AI કારણભૂત બની રહ્યું છે. આથી એને ખૂબ જ વખોડવામાં આવી રહ્યું છે. આ ટીકાની વચ્ચે મેટા દ્વારા તેમની પોલિસીમાં બદલાવ કરવામાં આવ્યો છે.

ચેટબોટ પહેલાં દરેક ટોપિક પર વાત કરતું

મેટાની પ્રવક્તા સ્ટીફની ઓટવેના જણાવ્યા અનુસાર ચેટબોટ પહેલાં બાળકો સાથે દરેક ટોપિક પર વાત કરતું હતું. એમાં પોતાને નુકસાન પહોંચાડવું, સુસાઇડ, ખાવાની સમસ્યા તેમજ રોમેન્ટિક વાતચીત પણ કરતું હતું. જોકે કંપનીને હવે એવો અહેસાસ થયો છે કે આ યોગ્ય નથી અને તેમના તરફથી ભૂલ હતી. આ વિશે સ્ટીફની કહે છે, ‘અમારી કમ્યુનિટીનો જેમ જેમ વિકાસ થઈ રહ્યો છે અને ટેક્નોલોજી આગળ વધી રહી છે એમ અમે પણ શીખી રહ્યા છીએ. આથી યુવાનો આ ટૂલનો ઉપયોગ કેવી રીતે કરે એ વિશે અમે પણ પ્રોટેક્શનમાં વધારો કરી રહ્યા છીએ.’

સેન્સિટિવ ટોપિક પર વાત નહીં કરે

મેટા AI મેટા દ્વારા તેમની સિસ્ટમમાં હવે નવી સુરક્ષાનો ઉમેરો કરવામાં આવ્યો છે. એમાં હવે AIને ટ્રેનિંગ પણ આપવામાં આવશે કે તેઓ સેન્સિટિવ ટોપિક પર યુવાનો સાથે વાત ન કરે અને તેમને એક્સપર્ટ પાસે મદદ માગવા માટે પ્રોત્સાહિત કરવામાં આવે. આ સાથે જ મેટા દ્વારા તેમના કેટલાક AI કેરેક્ટર પર પણ રિસ્ટ્રિક્શન લગાવવામાં આવી રહ્યું છે. અમુક ઉંમરના લોકો અમુક કેરેક્ટર સાથે જ વાત કરી શકશે. દરેક વ્યક્તિ દરેક સાથે વાત કરી શકે એ સિસ્ટમને બંધ કરી દેવામાં આવી છે. થોડા સમય પહેલાં રોઇટર્સ દ્વારા ઇન્વેસ્ટિગેશન કરવામાં આવ્યું હતું જેમાં તેમની ઇન્ટરનલ મેટા પોલિસી ડોક્યુમેન્ટમાં ટીનેજર્સને AI સાથે સેક્સ્યુઅલ વાતચીત કરવાની પરવાનગી આપવામાં આવી હતી. આથી આ ઇન્વેસ્ટિગેશન બાદ મેટાએ એમાં પણ બદલાવ કરવાનું નક્કી કર્યું છે.

આ પણ વાંચો: ચેટજીપીટીનો ઉપયોગ ઘાતક સાબિત થયો: મમ્મીનું ખૂન કર્યા બાદ પોતાનો જીવ લીધો એક યુઝરે…

મેટા AIની પોલિસી માટે ઓફિશિયલ ઇન્વેસ્ટિગેશન શરૂ

રોઇટર્સના રિપોર્ટ બાદ સેનેટર જોશ હોવલે દ્વારા એક ઓફિશિયલ ઇન્વેસ્ટિગેશન શરૂ કરવામાં આવ્યું છે. આ ઇન્વેસ્ટિગેશન મેટા AIની પોલિસીને લઈને છે. અમેરિકાના 44 રાજ્યોના એટર્ની જનરલ દ્વારા ઘણી AI કંપનીઓને લેટર લખવામાં આવ્યો છે જેમાં મેટાનો પણ સમાવેશ થાય છે. તેમણે લેટરમાં બાળકોની સેફ્ટીને ધ્યાનમાં રાખવાનું કહ્યું છે. આ લેટર પણ રોઇટર્સના રિપોર્ટને ધ્યાનમાં રાખીને લખવામાં આવ્યો છે.