માણસ વગર જાતે કામ કરતો AI એજન્ટ બન્યો ખતરો! GPT-6.1 Astraનું રોલઆઉટ છેલ્લી ઘડીએ કેન્સલ

OpenAI Scraps GPT 6.1 Astra Release Over Safety: ChatGPT નિર્માતા કંપની OpenAIએ સુરક્ષાના કારણોસર પોતાના નવા AI મોડલ GPT-6.1 Astraને રિલીઝ ન કરવાનો મોટો નિર્ણય લીધો છે. વેબ બ્રાઉઝિંગ અને આપમેળે એપ્સ ઓપરેટ કરવાની ક્ષમતા ધરાવતી આ સિસ્ટમ કંપનીના સુરક્ષા માપદંડો પર ખરી ઉતરી ન હતી. OpenAIના સેફ્ટી સિસ્ટમ્સ હેડ સાચી જૈને જણાવ્યું કે, આ મોડલ નિર્ધારિત અધિકૃત મર્યાદામાં રહેવામાં અને યુઝર સાથેના કામના સંચારમાં અપેક્ષિત સ્તરે પહોંચી શક્યું નથી. ઉલ્લેખનીય છે કે, જટિલ તાર્કિક ક્ષમતા અને સ્વાયત્ત કામગીરી ધરાવતું ફ્લેગશિપ મોડલ GPT-6 Astra સપ્ટેમ્બરમાં લોન્ચ કરવામાં આવ્યું હતું.

ઓસ્ટ્રેલિયાની સરકારી સિસ્ટમ્સ હેક થવાનો વિવાદ

સુરક્ષા મુદ્દે આ નિર્ણય એવા સમયે લેવાયો છે જ્યારે OpenAIના એક મોડલે જૂન મહિનામાં પરવાનગી વિના ઓસ્ટ્રેલિયા સરકારની વેબસાઇટ્સ અને સિસ્ટમ્સમાં અનધિકૃત એક્સેસ મેળવી લીધો હતો:

• ઓસ્ટ્રેલિયાના વડાપ્રધાન એન્થોની અલ્બેનિસે તાજેતરમાં જાહેરાત કરી હતી કે આ પ્રકારનો આ વિશ્વનો પ્રથમ કિસ્સો છે. તેમણે સીધો સંપર્ક કરવાને બદલે સામાન્ય ઇમેઇલથી જાણ કરવા બદલ કંપનીની ટીકા પણ કરી હતી.
• સર્વિસીસ ઓસ્ટ્રેલિયા, NSW બ્યુરો ઓફ ક્રાઈમ સ્ટેટિસ્ટિક્સ, વિક્ટોરિયન ડિપાર્ટમેન્ટ ઓફ હેલ્થ અને ઓસ્ટ્રેલિયન ઈન્સ્ટીટ્યુટ ઓફ હેલ્થ એન્ડ વેલ્ફેર જેવી સંસ્થાઓ આનાથી પ્રભાવિત થઈ હતી.
• કંપનીએ પોતાની ભૂલ સ્વીકારી માફી માંગી છે અને અસરગ્રસ્ત એજન્સીઓને સાયબર સિક્યોરિટી ફંડિંગ તથા સ્પેશિયલ સપોર્ટ આપવાની ખાતરી આપી છે. આગામી 6 ઓક્ટોબરે OpenAIના ઉચ્ચ અધિકારી આ સંદર્ભે ઓસ્ટ્રેલિયાની કમિટી સમક્ષ હાજર થશે.

હગિંગ ફેસ હેક અને સેફ્ટી ટૂલ્સની ચર્ચા

આ અગાઉ જુલાઈ મહિનામાં પણ OpenAI સિસ્ટમે ઓપન સોર્સ ડેવલપર પ્લેટફોર્મ 'Hugging Face'માં અનધિકૃત પ્રવેશ કર્યો હતો. તાજેતરમાં ચિપ નિર્માતા કંપની Nvidia એ આવા સ્વાયત્ત એજન્ટ્સને નિયંત્રિત કરવા માટે નવા હાર્ડવેર સેફ્ટી ટૂલ્સ રજૂ કર્યા છે. જોકે, Nvidiaના પ્રમુખ જેનસન હુઆંગે સરકારી નિયમોના બદલે તેને એન્જિનિયરિંગ સમસ્યા ગણાવી નિયંત્રણોની માંગ ફગાવી દીધી હતી.

પોપ લિયો XIV અને ટ્રમ્પનું વલણ

• પોપ લિયો XIV: ફ્રાન્સ મુલાકાત દરમિયાન પોપ લિયોએ આ ટેક્નોલોજી અંગે ચિંતા વ્યક્ત કરી અને હુઆંગના વિચારો સામે સવાલ ઉઠાવતા કહ્યું કે, મશીનો સામે માનવતા ગુમાવવાના જોખમને ગંભીરતાથી લેવું જરૂરી છે અને સરકારો સાથે બેસીને તેના પર વાતચીત થવી જોઈએ.
• ડોનાલ્ડ ટ્રમ્પ: બીજી તરફ, વ્હાઇટ હાઉસમાં ટેક એક્ઝિક્યુટિવ્સ સાથે આયોજિત બેઠક અગાઉ અમેરિકી રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પે AIના જોખમોની ચિંતાઓને "છળ" ગણાવતા કહ્યું કે, અમેરિકા પાસે પૂરતા કાયદા છે અને આ ટેક્નોલોજી માટે માત્ર એક "મજબૂત અને સ્માર્ટ" રાષ્ટ્રપતિ જ પૂરતા ગાર્ડરેલ છે.