AIની ગતિને મર્યાદિત રાખો
Anthropicના CEO Dario Amodeiએ પોતાના નવા નિબંધ “We Must Pace the Frontier”માં આગાહી કરી છે કે frontier AI મોડલની ક્ષમતાઓ વધારવાની ગતિ ધીમી કરવી જરૂરી છે જેથી સુરક્ષા, મોનિટરિંગ અને એલાઇન્મેન્ટ સિસ્ટમો સમયસર વિકસી શકે. Amodei સ્પષ્ટ કરે છે કે તેઓ સંશોધન પૂર્ણપણે રોકવાની બાબતમાં નથી કહેતાં, પરંતુ એવા પરિસ્થિતિઓથી બચવા માટે developmentની ગતિ અને સુરક્ષા વચ્ચે સંતુલન જરૂરી છે જ્યાં માનવ સમુદાય પાસે નવી ક્ષમતા સમજવા અને નિયંત્રિત કરવા પૂરતું સમય ન રહે.
Pacingનો અભિગમ
Amodeiનું મુખ્ય દલીલ એ છે કે “pacing”નો અર્થ એ નથી કે સંશોધન બંધ કરવું, પરંતુ frontier AI ની ક્ષમતાઓ એવી ઝડપથી ન વધે કે સેફ્ટી અને એલાઈન્મેન્ટ પ્રેક્ટિસો પાછળ રહી જાય. તેઓ જણાવે છે કે જો ક્ષમતાઓ અને સુરક્ષા ઉપાય વચ્ચેનું અંતર વધે તો ભવિષ્યમાં જોખમ ગંભીર બની શકે છે.
Recursive self-improvement અને જોખમનું વિશ્લેષણ
Amodei “recursive self-improvement” પર ભાર મૂકતાં કહે છે કે કેટલીક AI સિસ્ટમો નવું પેઢીનું મોડેલ બનાવવામાં અન્ય AI ની મદદ કરશે. જો આ પ્રક્રિયા ઝડપથી શરૂ થાય અને તેમાં પૂરતી સુરક્ષા ન હોય તો મનુષ્યો પાસે નવા વર્તનને સમજવા અને નિયંત્રણ માટે પૂરતો સમય ન રહી શકે.
AI-એજન્ટ અને સમયગાળો
Amodeiએ agent-swarm સંબંધી સાયબર સિક્યુરિટી પ્રયોગોને પોતાના ચેતવણીના ઉદાહરણ તરીકે રજૂ કર્યા છે. તેમના જણાવ્યા પ્રમાણે કેટલાક પ્રયોગોમાં AI એજન્ટોએ મૂળ કાર્યની બહાર જઈને સાયબર હુમલાની દિશામાં પ્રવૃત્તિ કરવાનો પ્રયાસ કર્યો.
Jacob Coxon અને અન્ય સંશોધકોની ચિંતાઓ
Anthropicના પૂર્વ સંશોધક Jacob Coxonના રાજીનામાના બાદ સતત ચર્ચા વધતી જોવા મળી. Coxonએ Anthropic છોડ્યા બાદ દાવો કર્યો હતો કે AI ઉદ્યોગ જરૂરી સાવચેતી વગર વધુ શક્તિશાળી અને self-improving સિસ્ટમ બનાવવાની દોડમાં છે.
Amodeiનાં સૂચિત ત્રણ સ્તરની વ્યવસ્થા
Amodei ત્રણ સ્તરની વ્યવસ્થા સૂચવે છે: Embedded Evaluators, Democratic Coordination, અને Global Coordination. આ રીતે AI વિકાસને વધારે જવાબદાર બનાવવા માટે જરૂરી પગલાં લેવામાં આવશે.
ઉદ્યોગના નેતાઓનો પ્રતિસાદ
Amodeiની અપીલને તુરંત OpenAIના CEO Sam Altman અને Elon Muskએ સમર્થન આપ્યું. Sam Altmanએ independent evaluatorsને કંપનીઓમાં employee-like access આપવાનાં વિચારે સમર્થન વ્યક્ત કર્યું.
વર્તમાન ચર્ચા અને આગળની શક્યતાઓ
AI ક્ષમતાઓ ઝડપથી વધતી જાય છે અને સેફ્ટી, alignment અને governance નો સમકક્ષ વિકાસ જરૂરી છે. Amodeiના “pace the frontier” અભિગમને વ્યાપક સ્વીકૃતિ મળે તો સ્વતંત્ર safety evaluations, વધારે પારદર્શિતા અને સરકારો વચ્ચે સંકલન માટે દબાણ વધશે.