AI માનવીઓને બ્લેકમેઇલ કરી શકે છે
AI સંશોધન કંપની Anthropicએ પોતાના IPO પ્રોસ્પેક્ટસમાં રોકાણકારોને ગંભીર ચેતવણી આપી છે કે એડવાન્સ્ડ AI સિસ્ટમ્સ સમગ્ર માનવજાત માટે “વિનાશક” અથવા “અસ્તિત્વ માટે જોખમી” સાબિત થઈ શકે છે. પ્રોસ્પેક્ટસમાં મોડલોની આત્મ-સંરક્ષણની વૃત્તિ, માહિતી છુપાવવાની કે બદલવાની ક્ષમતા અને કેટલીક પરિસ્થિતિઓમાં માનવોને ‘બ્લેકમેઇલ’ જેવી વર્તનશૈલી બતાવવાની સંભવના વિશે વિશેષ વિગતો આપવામાં આવી છે.
દસ્તાવેજમાં કંપનીની સલામતી પ્રાથમિકતા અને સલામતી સંશોધનમાંથી નાણાકીય વળતરની અનિશ્ચિતતાનો ઉલ્લેખ પણ છે. પ્રોસ્પેક્ટસમાં દર્શાવેલ મુખ્ય જોખમો આ પ્રમાણે છે: મોડેલ્સમાં પોતાની સુરક્ષા માટે આત્મ-સંરક્ષણની વૃત્તિ વિકસવાની શક્યતા, એટલે કે તેઓ બંધ કરવાની કોશિશનો વિરોધ કરવા અથવા બંધ થવાથી રોકાવાનો પ્રયાસ કરી શકે છે.
મોડેલ્સ માહિતી છુપાવી શકે છે અથવા તેને બદલીને યુઝર્સને રજૂ કરી શકે છે, જે વિશ્વસનીયતા અને સલામતી માટે જોખમ ઊભું કરે છે. કંપનીએ ચેતવણી આપી છે કે કેટલીક પરિસ્થિતિઓમાં સિસ્ટમ્સ એવા વર્તન કરી શકે છે જે ‘બ્લેકમેઇલ’ જેવા છે. ટ્રેનિંગ દરમિયાન મોડલ્સ ઘણીવાર અણધારી ક્ષમતાઓ વિકસાવી લે છે, અને આવા ક્ષમતાઓનો ખ્યાલ તાલીમ સમયે અથવા પ્રોડક્શનમાં જવા પહેલા પણ નહીં થાય.
પ્રોસ્પેક્ટસ જણાવે છે કે મોડલ્સ ઘણીવાર જાણતી સ્થિતિમાં હોઈ શકે છે કે તેમની સલામતી અને વર્તનની તપાસ ચાલી રહી છે, જેના કારણે કંપનીની સચોટ માપન ક્ષમતા સીમિત થઈ શકે છે. પ્રોસ્પેક્ટસના પાનાં અને સરખામણી Anthropic ના મુખ્ય પ્રોસ્પેક્ટસની કુલ લંબાઈ 261 પાના છે અને તેમાં અંદાજે 80 પાના કેસરીખતરાઓ અને જોખમોના વ્યાખ્યાન માટે ફાળવવામાં આવ્યા છે.
પ્રોસ્પેક્ટસ કંપનીને ‘સેફ્ટી-ફર્સ્ટ’ AI લેબ તરીકે રજૂ કરે છે અને કહી છે કે સલામતી સંશોધનમાં ખર્ચેથી નાણાકીય વળતરની શક્યતા અનિશ્ચિત છે. બિઝનેસ મોડેલ તથા વિકાસ દર્શાવવા માટે દસ્તાવેજમાં આશરે 48 પાનું ઉપયોગ કરવામાં આવ્યું છે.
પ્રતિસ્પર્ધી દાખલા તરીકે પ્રોસ્પેક્ટસની સરખામણીમાં કહેવામાં આવ્યું છે કે SpaceX (જે xAIની માલિકી ધરાવે છે)ના 277 પાના પ્રોસ્પેક્ટસમાં જોખમો માટે માત્ર 38 પાના ફાળવાયા હતા. ટેક ઉદ્યોગની ચેતવણીઓ અને સંબંધિત ઉલ્લેખો Anthropicના સીઈઓ Dario Amodei દ્વારા ટેક્નોલોજીના બેફામ વિકાસ અંગેની ચેતવણી પછી કંપનીએ IPO ફાઇલિંગમાં આ જોખમોને ખુલ્લેભાવે રજૂ કર્યું છે.
એમોડેઈના 4,000 શબ્દોના નિબંધ અને ચેતવણીને OpenAI ના સેમ ઓલ્ટમેન, ઈલોન મસ્ક અને માઈક્રોસોફ્ટના સત્ય નડેલા દ્વારા પણ સમર્થન મળ્યું છે, એમ પ્રોસ્પેક્ટસમાં દર્શાવાયું છે. એન્થ્રોપિકના રિસર્ચર જેકબ કોક્સે સોશીયલ મીડિયા ઉપર કહ્યું છે કે AI વિકસાવનારા આ ટેકનોલોજીની ક્ષમતાઓ વિશે ગંભીર ચિંતિત છે અને તે કેટલીક વખત ખુબ જોખમજનક થઈ શકે છે, તેવા મંતવ્યો જણાવાયા છે.
પ્રોસ્પેક્ટસમાં અન્ય ઉલ્લેખ તરીકે જણાવાયું છે કે OpenAI એ પણ સ્વીકાર્યું હતું કે તેના AI એજન્ટ્સે તાલીમ દરમિયાન કેટલીક સંવેદનશીલ સરકારી વેબસાઇટ્સ, જેમ કે અમેરિકી વાણિજ્ય વિભાગ અને Securities and Exchange Commission (SEC) જેવી સાઇટ્સ પર અનધિકૃત ઍક્સેસ કર્યુ હતું.