Compania americană Anthropic, dezvoltatoarea chatbotului Claude, le cere marilor laboratoare de inteligenţă artificială să ia în considerare o pauză coordonată şi verificabilă în dezvoltarea modelelor avansate de AI, avertizând că tehnologia se apropie de un punct în care sistemele ar putea începe să se îmbunătăţească singure mai repede decât poate societatea să gestioneze riscurile, transmite Reuters.
Compania susţine într-o analiză că abilitatea sistemelor AI de a îndeplini sarcini în mod autonom se dublează aproximativ la fiecare patru luni şi că industria se îndreaptă către ceea ce specialiştii numesc ”autoîmbunătăţire recursivă”, momentul în care inteligenţa artificială poate dezvolta versiuni mai performante ale propriilor modele fără intervenţie umană.
”Dacă sistemele devin capabile să îşi construiască singure succesorii, modul în care le securizăm, le monitorizăm şi le influenţăm comportamentul devine mult mai important”, au scris cofondatorul Anthropic, Jack Clark, şi Marina Favaro, coordonatoarea Anthropic Institute.
Compania consideră că o încetinire temporară a dezvoltării ar oferi societăţii timp pentru a înţelege şi gestiona implicaţiile unei astfel de transformări tehnologice.
Anthropic subliniază însă că acest scenariu nu este inevitabil şi că nu s-a ajuns încă în acel punct. Totuşi, compania avertizează că progresele ar putea apărea mai repede decât sunt pregătite instituţiile să reacţioneze.
Temerile privind pierderea controlului asupra sistemelor avansate de inteligenţă artificială au crescut în ultimii ani, pe măsură ce modelele devin tot mai capabile. La începutul acestui an, modelul Mythos dezvoltat de Anthropic a atras atenţia prin capacitatea sa de a identifica vulnerabilităţi complexe în programe informatice existente.
În paralel, reglementarea sectorului rămâne limitată, în special în Statele Unite, unde sunt dezvoltate cele mai avansate modele AI. Săptămâna aceasta, administraţia Trump a emis un ordin executiv prin care solicită companiilor să transmită voluntar guvernului modelele lor cele mai avansate pentru testări de securitate cibernetică înainte de lansarea publică.
Nu este prima dată când apar apeluri pentru încetinirea dezvoltării AI. În 2023, o iniţiativă susţinută inclusiv de Elon Musk a solicitat o pauză de şase luni în dezvoltarea modelelor avansate, însă propunerea nu a avut efecte concrete.
Anthropic recunoaşte că o pauză unilaterală a unei singure companii nu ar rezolva problema şi ar schimba doar liderul cursei tehnologice. Din acest motiv, compania consideră că orice încetinire ar trebui convenită de mai multe laboratoare importante şi însoţită de reguli clare privind condiţiile de aplicare, ridicare şi supraveghere a unei astfel de măsuri.
În lunile următoare, Anthropic intenţionează să organizeze discuţii cu cercetători, autorităţi, organizaţii civice şi companii concurente pentru a analiza riscurile asociate dezvoltării accelerate a inteligenţei artificiale.
Paradoxal, apelul la prudenţă vine într-un moment în care Anthropic continuă să lanseze modele tot mai puternice. Compania a fost evaluată recent la 965 de miliarde de dolari şi a depus confidenţial documentele pentru o ofertă publică iniţială în Statele Unite, intrând astfel în competiţie directă cu OpenAI pentru atragerea de capital şi consolidarea poziţiei pe piaţa inteligenţei artificiale.
Acțiune coordonată
Postarea companiei Anthropic avertiza că încetinirile unilaterale sau slab coordonate ar putea avea efecte negative dacă actorii mai puțin prudenți continuă să avanseze, ceea ce ar putea reduce siguranța generală.
O pauză semnificativă ar necesita un acord între „mai multe laboratoare cu resurse ample” care activează la frontiera tehnologică, precum și reguli privind condițiile care ar declanșa sau ar ridica o astfel de pauză și cine ar supraveghea-o.
„O pauză unilaterală a unui singur laborator, în schimb, este realizabilă imediat, dar are rezultate mult mai modeste: ar schimba liderul, dar nu ar crea procesul deliberativ mai amplu care lipsește în prezent”, a afirmat startup-ul.
Divizia sa de cercetare, Anthropic Institute, intenționează să studieze sistemele necesare pentru a susține o încetinire și, în lunile următoare, va reuni factori de decizie, cercetători, grupuri ale societății civile și firme rivale din domeniul IA pentru a discuta gestionarea riscurilor, cum ar fi autoîmbunătățirea recursivă.
OpenAI, xAI, Alphabet, Meta Platforms și Mistral din Franța nu au răspuns imediat la solicitările de comentarii cu privire la faptul dacă s-ar alătura apelului.
(Citește și: Anthropic a depus actele pentru listarea pe Wall Street/ Acord pentru utilizarea Mythos în UE)
****
Urmărește-ne pe Google News
