Într-o după-amiază ploioasă de noiembrie, vicepreședintele Statelor Unite Kamala Harris și președintele pentru afaceri globale al Meta, Nick Clegg, s-au întâlnit într-un cort mare amplasat în curtea unei case provinciale de secol XIX, la nord de Londra, încercând, printre altele, să salveze omenirea.
Pe o vreme mohorâtă, scrie Politico, la Bletchley Park, fost sediu al forțelor aliate pentru spargerea codurilor din Al Doilea Război Mondial, Clegg și Harris s-au alăturat unei adunări de elită – formată din lideri mondiali, academicieni și directori din domeniul tehnologiei – cu scopul de a aborda ceea ce pesimiștii se tem că este o nouă amenințare devastatoare cu care se confruntă lumea: inteligența artificială scăpată de sub control.
După două zile de discuții, participanții la discuții au convenit asupra unei declarații comune de bune intenții, fără un răspuns unitar referitor la ce ar trebui făcut. În schimb, au existat propuneri alternative cu privire la modul în care să gestioneze tehnologia care va domina următorul deceniu și care va bulversa probabil totul, de la afaceri și asistență medicală până la democrația însăși.
Cum să construiești un avion aflat în zbor
Nick Clegg, un fost premier adjunct britanic, a susținut că a reglementa inteligența artificială este ca și când ai încerca să construiești un avion care zboară deja – o misiune foarte riscantă și dificilă. Harris a promovat eforturile Washingtonului de a aborda pericolul AI-ului prin acorduri comerciale voluntare. Ursula von der Leyen, președintele Comisiei Europene, i-a îndemnat pe ceilalți să urmeze exemplul Bruxelles, care deja a adoptat un set de reguli pentru controlul IA.
Dezbaterea de la Bletchley Park reprezintă doar o parte dintr-un adevăr mult mai mare. În ultimul an, în toată lumea s-a purtat o luptă politică, în mare parte ascunsă, pentru felul în care inteligența artificială ar trebui controlată.
Acest nou ”Mare Joc digital” este departe de a se fi încheiat. Câștigătorul acestei bătălii își va consolida dominația asupra regulilor care se aplică în Occident în privința unei tehnologii ce definește o nouă eră. Odată stabilite, aceste reguli vor fi aproape imposibil de rescris.
Oricine va câștiga își va consolida dominația asupra regulilor occidentale pentru o tehnologie care definește o eră. Odată stabilite aceste reguli, va fi aproape imposibil să fie rescrise.
Acord voluntar pentru a reduce riscurile IA
Pentru cei care au urmărit conversația la fața locului, târguiala din ploaia britanică a fost asemănătoare cu cea a puterilor europene din secolul al XIX-lea care își împărțeau lumea. „A fost ca o realitate alternativă”, a declarat Amba Kak, șefa AI Now Institute, o organizație non-profit. La finalul reuniunii, 29 de țări, inclusiv China, membri ai UE și Statele Unite, au semnat un acord voluntar pentru a reduce riscurile care au urcat pe agenda politică datorită sosirii ChatGPT de la OpenAI.
În anul care urmează, bătălia acerbă pentru controlul tehnologiei va avea învingători și învinși. Până la sfârșitul anului 2024, factorii de decizie politică se așteaptă ca multe dintre noile standarde de inteligență artificială să fi fost finalizate.
Pentru acest articol, Politico a vorbit cu peste trei duzini de politicieni, factori de decizie politică, directori din domeniul tehnologiei. Dintre care mulți au beneficiat de anonimat pentru a discuta subiecte sensibile, scopul demersului fiind acela de a înțelege dinamica jocului în perioada în care lumea se luptă cu această nouă tehnologie disruptivă.
Věra Jourová, misiune imposibilă în Japonia
Întrebarea principală este dacă există un plan care să fie pe placul Statelor Unite, Uniunii Europene, Marii Britanii și a tuturor democrațiilor occidentale. Dacă economiile industrializate liberale nu reușesc să ajungă la o înțelegere, China ar putea interveni pentru a umple golul și ar putea da tonul unei tehnologii despre care unii se tem că are capacitatea de a șterge omenirea de pe fața Pământului.
Cu o lună înainte de conferința desfășurată în ploaia englezească, factorii de decizie încercau cu frenezie să facă progrese în cealaltă parte a lumii. Era octombrie, iar Věra Jourová ajungea în Japonia după un zbor de 16 ore de la Bruxelles.
Misiunea Verei Jourová era să ”vândă” regulamentul european privind Inteligența Artificială la o reuniune a G7 unde liderii occidentali se adunaseră pentru a încerca să elaboreze noi standarde globale cu scopul de a refoma cea mai avansată formă a acestei tehnologii: „inteligență artificială generativă”, dezvoltarea puternică din spatele ChatGPT și al instrumentelor concurente.
Argumentele UE vs. argumentele SUA
Abordarea Bruxelles-ului este consfințită în Actul privind inteligența artificială al UE. Prima încercare din lume de a adopta o legislație obligatorie în acest domeniu. Spre deosebire de poziția preferată de SUA, viziunea UE include interdicții pentru cele mai invazive forme ale tehnologiei. Dar și reguli stricte care impun companiilor precum Google și Microsoft să fie mai deschise. Din punct de vedere al modului în care proiectează produsele bazate pe inteligență artificială. „Inteligența artificială generativă ne-a invadat viețile atât de repede și avem nevoie de ceva rapid”, a declarat Jourová.
La reuniunea de trei zile din Japonia, diplomatul american Nathaniel Fick, principalul reprezentant al lui Joe Biden în domeniul digital, a oferit o altă soluție. În locul interdicțiilor și a reglementărilor stricte, Fick a propus un regim mai blând de reguli, bazat în mare parte pe o serie de angajamente voluntare din partea industriei și în privința legilor naționale deja existente. „Oamenii se pot aștepta ca SUA să abordeze problemele politicilor AI în tot ceea ce facem. Cadrele, codurile, principiile pe care le dezvoltăm vor deveni fundația de pe care acționăm”, a spus Fick la finalul summit-ului organizat la Kyoto.
În cadrul unor dueluri cu factorii de decizie politică din G7, cu directori de companii de tehnologie și cu alte personalități influente, Jourová și Fick și-au prezentat argumentele. Pentru Jourová, din partea UE, argumentul a fost simplu. Bruxelles-ul s-a impus deja ca polițistul digital al Occidentului. Cu o avalanșă de reglementări privind orice, de la protejarea vieții private a consumatorilor la gestionarea rețelelor sociale.
Vera Jourová a susținut că numai Europa poate asigura rigoarea necesară. Potrivit acesteia, UE ar putea să aplice amenzi uriașe companiilor și poate să interzică cele mai invazive forme de inteligență artificială. Cum ar fi scorurile sociale, care sunt algoritmi complecși de urmărire a mișcărilor oamenilor, utilizate abuziv în China.
„A venit cu un plan, și anume să ne convingă că regulile Europei sunt singurele din oraș”, a declarat una dintre persoanele care s-au întâlnit cu Jourová. Un alt oficial dintr-o țară a G7 a declarat că șefa Europei în domeniul digital a respins propunerea alternativă a Washingtonului.
De partea cealaltă, contraargumentul lui Fick s-a bazat pe poziția de necontestat a Americii ca puterea mondială a dezvoltării AI. „Mesajul a fost clar: Washingtonul nu îi va permite Bruxelles-ului să facă ce vrea”, a spus un alt diplomat occidental care a participat la summit-ul G7 de la Kyoto.
Până acum, cei care sunt de părere că regulile IA nu ar trebui să fie prea aspre par că au câștig de cauză, în ciuda noilor reglementări UE.
Discuții despre IA într-un palat de secol XVIII din Paris
Înapoi în Europa, eforturile de a ajunge la un consens continuau, într-un cadru puțin probabil. O cină somptuoasă cu șase feluri de mâncare la Palatul Elysée, reședința oficială din secolul al XVIII-lea a președintelui francez din Paris, nu pare a fi cadrul discuțiilor despre înalta tehnologie. Dar, în noiembrie, în cadrul unui festin care a durat de cinci ore, Emmanuel Macron a avut invitați 40 de experți din industrie, între care președintele OpenAI, Greg Brockman, și șeful inteligenței artificiale de la Meta, Yann LeCun.
Conversația de la cină s-a transformat rapid în reglementare. Macron este un broker de putere globală. Franța are o mare industrie internă de AI. Iar președintele Franței este dornic să conducă eforturile internaționale de stabilire a unor reguli globale pentru această tehnologie.
Spre deosebire de stereotipurile despre politicienii francezi iubitori de reglementări, Macron rămâne circumspect față de Legea privind AI de la Bruxelles temându-se că aceasta va împiedica firme precum Mistral, un startup co-fondat de Cedric O, fost ministru francez al tehnologiei digitale.
Riscuri IA – două școli de gândire
Pe măsură ce Macron asculta cu atenție, invitații săi la cină își prezentau propunerile rivale. Discuția a expus o altă fațetă cheie a dezbaterii globale despre inteligența artificială: conflictul dintre cei care cred că cele mai grave riscuri sunt încă mulți ani distanță și cei care cred că ele sunt deja aici. Acesta este conflictul din centrul întregii dezbateri globale. El opune pe cei care adoptă o abordare mai optimistă față de potențialul inteligenței artificiale și doresc să permită cât mai multă experimentare posibilă, împotriva celorlalți care se tem că este deja prea târziu să protejeze umanitatea de daune grave.
Brockman de la OpenAI, unul dintre cei care sunt relaxați în ceea ce privește riscurile imediate și consideră că focusul ar trebui să fie pe adresarea amenințărilor pe termen lung, i-a spus președintelui francez că IA este în mare parte o forță pentru bine, conform a trei persoane care au participat la cină. Orice reglementare — în special reguli care ar putea împiedica creșterea meteorică a companiei — ar trebui să se concentreze pe amenințările pe termen lung, cum ar fi în cele din urmă înlocuirea controlului uman de către IA, a adăugat el.
Alții, precum Meredith Whittaker, tehnolog american prezentă și ea la cina de la Paris din noiembrie, au argumentat că prejudiciile reale ale IA existente — inclusiv seturi de date defectuoase care consolidează prejudecăți rasiale și de gen — necesită acțiune imediată din partea politicienilor.
„Macron a absorbit totul”, a declarat unul dintre participanții la întâlnire. „El dorea ca oamenii să știe că Franța este în favoarea unei reglementări mai stricte, dar și că Franța este deschisă pentru afaceri.”
Argumente similare — care opun necesitatea ca regulile să se concentreze pe riscurile pe termen lung unei intervenții imediate și de urgență — sunt expuse acum în capitalele occidentale.
În timp ce liderii naționali încearcă să înțeleagă problema, executivii din tehnologie străbat planeta îndemnând politicienii să nu reglementeze excesiv domeniul.
Lobby puternic al companiilor în favoarea unor reguli relaxate
Eric Schmidt, fostul director executiv al Google, și fondatorul LinkedIn, Reid Hoffman, au zburat între Washington, Londra și Paris pentru a-și exprima propria opinie despre modul de gestionare a IA, conform a cinci persoane familiare cu discuțiile. Un aspru regim de reglementare, au argumentat titanii tehnologici, ar oferi Chinei autoritare un avantaj decisiv în domeniul IA. Mulți, precum Schmidt și Hoffman, au investit masiv în startup-uri de IA.
După ce Bruxelles a ajuns la un acord politic, în decembrie 2023, cu privire la Legea IA, Macron — având în minte agrgumentele folosite în timpul cinei sale la care a discutat despre IA — s-a alăturat cancelarului german Olaf Scholz și prim-ministrului italian Giorgia Meloni pentru a cere mai puține controale asupra celor mai noi forme ale tehnologiei.
Franța a rămas un obstacol până când, în cele din urmă, a cedat presiunilor politice la începutul lunii februarie 2024 pentru a susține regulile, cu toate că cu mari rezerve. „Vom reglementa lucruri pe care nu le vom mai produce sau inventa,” a spus Macron în fața unei audiențe la Toulouse, după ce a obținut câteva excepții de ultim moment pentru companiile europene. „Asta nu este niciodată o idee bună.”
IA ca open source, o demonstrație cu telefonul a lui Mark Zuckerberg
Tristan Harris a crezut că a dat lovitura în cadrul unei audieri în Parlamentul american. În septembrie 2023, Harris, cofondator al Centrului pentru Tehnologie Umanitară, o organizație non-profit, a descris modul în care inginerii săi au constrâns cel mai recent produs de inteligență artificială al Meta în scopul de a nu comite un act terifiant: construirea unei arme biologice. Acest lucru a arătat că abordarea Meta în ceea ce privește inteligența artificială era mult prea permisivă și potențial periculoasă, a susținut Harris.
Gigantul tehnologic al lui Mark Zuckerberg a favorizat așa-numita tehnologie open-source, inteligență artificială ușor accesibilă tuturor, cu puține măsuri de protecție împotriva abuzurilor. O astfel de deschidere, a adăugat Harris, ar duce la daune în lumea reală, inclusiv la răspândirea armelor de distrugere în masă generate de IA.
Triumful său nu a durat mult. Mark Zuckerberg, care a fost de asemenea prezent la audierea de la Capitol Hill, și-a scos rapid telefonul și a găsit aceleași informații despre arma biologică printr-o simplă căutare pe Google. Contraatacul lui Zuckerberg a adus râsete în sală care au estompat acuzația lui Harris că abordarea inteligenței artificiale cu sursă deschisă a Meta ar fi o amenințare la adresa umanității. „Nu a fost o lovitură atât de puternică precum credea Harris că va fi”, a declarat unul dintre oficialii prezenți la audiere.
Altă întrebare: IA pentru toți sau doar în mâna unora?
Confruntarea Harris-Zuckerberg surprinde o altă întrebare cheie pentru factorii de decizie politică. Ar trebui ca AI să fie limitată la o mână de companii de încredere sau să fie deschisă pentru a fi exploatată de toți? Unii sunt în favoarea acordării de licențe pentru inteligența artificială avansată unui număr restrâns de companii deoarece riscurile imediate sunt prea mari pentru a fi lăsate libere în lumea largă.
O prezentare PowerPoint avertizează că modelele de inteligență artificială cu sursă deschisă ar dezlănțui arme biologice incontrolabile, care ar fi accesibile teroriștilor. Această concluzie a fost prezentată în privat unor oficiali guvernamentali din Londra, Paris și Washington, potrivit a șase factori de decizie politică.
Microsoft și OpenAI se numără printre companiile care sunt în favoarea restricționării tehnologiei la un număr mic de firme. Astfel încât autoritățile de reglementare să poată stabili legături cu inovatorii în domeniul IA. „O abordare bazată pe licențiere este calea corectă de urmat. Permite o interacțiune strânsă între dezvoltatorul tehnologiei și autoritatea de reglementare pentru a evalua cu adevărat riscurile”, a declarat Natasha Crampton, responsabilul principal al Microsoft pentru AI.
Criticii dominației din Silicon Valley susțin că Big Tech are un interes personal în eliminarea concurenței. Potrivit lui Mark Surman, avocat al open-source și director executiv al Fundației Mozilla, cele mai mari companii de tehnologie din lume doresc să acapareze pentru ele însele industria de inteligență artificială în curs de dezvoltare și să elimine concurenții.
Testul IA în anul electoral 2024
Dacă 2023 a fost anul în care lobby-ul pentru IA a dat buzna în mediul politic, 2024 va decide cine va câștiga. Datele cheie de decizie se apropie cu pași repezi. Până în vară, vor intra în vigoare părți din Legea europeană privind IA. Ordinul executiv rival al Casei Albe privind inteligența artificială schimbă deja modul în care agențiile federale tratează tehnologia. Până la sfârșitul anului sunt așteptate și alte reforme la Washington.
Alte țări, precum Marea Britanie, Japonia, Canada, dar și China își fac propriile planuri, care includ o mai mare supraveghere a celei mai avansate inteligențe artificiale și eforturi pentru a determina alte țări să le adopte normele. Potrivit a zeci de experți în inteligență artificială, în 2024, este puțin probabil ca dorința de acțiune politică să dispară. Impactul IA, mai ales într-un an de alegeri în masă, din SUA și UE până în Filipine și India, nu este deloc sigur.
„Această afacere despre pierderea controlului de către AI este brusc luată în serios. Oamenii își dau seama că nu mai este un lucru pe termen lung. Se întâmplă”, a declarat Max Tegmark, președintele Future of Life Institute, o organizație non-profit care militează pentru un control mai mare al IA.
***
