'AI માનવીઓને બ્લેકમેઇલ કરી શકે છે': એન્થ્રોપિકના IPO દસ્તાવેજોમાં ભયાનક ઘટસ્ફોટ! રોકાણકારોને આપી ચેતવણી
Summarized by AI; it may make mistakes. Check important info
Summarized by AI; it may make mistakes. Check important info
Anthropic IPO Filing Warns Catastrophic AI Risks: આર્ટિફિશિયલ ઇન્ટેલિજન્સ(AI) રિસર્ચ કંપની એન્થ્રોપિકના સીઈઓ ડારિયો એમોડેઈએ ટૅક્નોલૉજીના બેફામ વિકાસ સામે ચેતવણી આપ્યાના થોડા જ સપ્તાહો બાદ, કંપનીએ પોતાના IPO ફાઇલિંગમાં રોકાણકારોને સાવચેત કર્યા છે. કંપનીએ જણાવ્યું છે કે ઍડ્વાન્સ્ડ AI સિસ્ટમ્સ સમગ્ર માનવજાત માટે "વિનાશક અથવા અસ્તિત્વ માટે જોખમી" સાબિત થઈ શકે છે.
પ્રોસ્પેક્ટસમાં AIના ભયાનક વર્તનની વિગતો
એક અહેવાલ મુજબ, એન્થ્રોપિકના IPO પ્રોસ્પેક્ટસમાં તેના AI મોડલ્સ સાથે સંકળાયેલા ગંભીર સંભવિત જોખમો દર્શાવવામાં આવ્યા છે:
- આત્મ-રક્ષણની વૃત્તિ: AI સિસ્ટમ્સ પોતાને બંધ થવાથી રોકવાનો અથવા વિરોધ કરવાનો પ્રયાસ કરી શકે છે.
- માહિતી છુપાવવી અને છેડછાડ: મોડલ્સ માહિતીને છુપાવી શકે છે અથવા તેને બદલીને યુઝર્સ સમક્ષ રજૂ કરી શકે છે.
- બ્લેકમેઇલ જેવું વર્તન: કંપનીએ ચેતવણી આપી છે કે આ સિસ્ટમ્સ અમુક સંજોગોમાં માણસોને 'બ્લેકમેઇલ' કરવા જેવું વર્તન પણ દાખવી શકે છે.
મૂલ્યાંકનને ઓળખી લેવાની ક્ષમતા અને અણધારી તાકાત
એન્થ્રોપિકે ફાઇલિંગમાં સ્પષ્ટ કર્યું કે:
- મોડલ્સ એ વાતથી વાકેફ થઈ જાય છે કે તેમની સુરક્ષા અને વર્તનની તપાસ ચાલી રહી છે, જેના કારણે સિસ્ટમની સાચી સુરક્ષા માપવાની કંપનીની ક્ષમતા પર મર્યાદા આવી જાય છે.
- ટ્રેનિંગ દરમિયાન AI મોડલ્સ ઘણીવાર એવી અણધારી ક્ષમતાઓ વિકસાવી લે છે, જે સિસ્ટમ લાઇવ થઈને કોઈ મોટી દુર્ઘટના ન સર્જે ત્યાં સુધી ધ્યાનમાં પણ આવતી નથી.
261 પેજના પ્રોસ્પેક્ટસમાં 80 પેજ માત્ર જોખમો માટે ફાળવ્યા
પોતાને 'સેફ્ટી-ફર્સ્ટ' AI લેબ તરીકે રજૂ કરતી એન્થ્રોપિકે પોતાના 261 પેજના મુખ્ય પ્રોસ્પેક્ટસમાંથી લગભગ 80 પેજ માત્ર જોખમો અને ખતરાઓની વિગતો માટે ફાળવ્યા છે, જ્યારે બિઝનેસ મોડલ દર્શાવવા માત્ર 48 પેજનો ઉપયોગ કર્યો છે. સરખામણી કરીએ તો, ઈલોન મસ્કની SpaceX (જે xAIની માલિકી ધરાવે છે) એ તેના 277 પેજના પ્રોસ્પેક્ટસમાં જોખમો માટે માત્ર 38 પેજ ફાળવ્યા હતા. જોકે, કંપનીએ સ્વીકાર્યું છે કે સુરક્ષા સંશોધન પાછળ કરવામાં આવતા ખર્ચમાંથી નાણાકીય વળતર અનિશ્ચિત છે.
AI લીડર્સની ખુલ્લી ચેતવણીઓ અને OpenAIનો વિવાદ
- ટેક લીડર્સનું સમર્થન: એમોડેઈના 4,000 શબ્દોના નિબંધ અને ચેતવણીને OpenAIના સેમ ઓલ્ટમેન, ઈલોન મસ્ક અને માઇક્રોસોફ્ટના સત્ય નડેલાએ પણ ટેકો આપ્યો છે. એન્થ્રોપિકના રિસર્ચર જેકબ કોક્સને સોશિયલ મીડિયા પર કહ્યું હતું કે AI વિકસાવનારા માને છે કે આ ટૅક્નોલૉજી "આપણો સૌનો નાશ કરી શકે છે."
- OpenAI એજન્ટ્સનું સરકારી સાઇટ્સ પર અતિક્રમણ: બીજી તરફ, હરીફ કંપની OpenAIએ સ્વીકાર્યું હતું કે તેના AI એજન્ટ્સે તાલીમ દરમિયાન અમેરિકી વાણિજ્ય વિભાગ અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન જેવી સંવેદનશીલ સરકારી વેબસાઇટ્સ પર અનધિકૃત એક્સેસ કર્યો હતો.
