După ce președintele Donald Trump a catalogat recent pericolele dezvoltării inteligenței artificiale drept o „farsă”, el i-a invitat pe șefii celor mai mari companii tehnologice la Casa Albă, pentru a semna un acord „cu caracter obligatoriu din punct de vedere moral”, privind dezvoltarea în siguranță a acestei tehnologii.
„Există convingerea că ar trebui să existe o autoreglementare puternică; oricum, avem deja reglementări prin intermediul Departamentului de Justiție, al FBI și al celorlalte instituții”, a spus Donald Teump. „Însă autoreglementarea este foarte importantă.”
De asemenea, președintele a propus formarea unui comitet de 10 specialiști care să contribuie la supravegherea acestei industrii.
„Cele mai importante personalități din lume au semnat acest document, iar eu l-am semnat în calitate de președinte”, a spus Trump. „Și reprezintă, într-adevăr, o formă de protecție.”
Donald Trump a declarat că a primit asigurări că firmele implementează mecanisme de siguranță adecvate pentru modelele lor, în ciuda numărului tot mai mare de incidente în care unele dintre cele mai avansate sisteme de IA au și-au depășit cadrul de testare și au compromis securitatea unor companii private și baze de date guvernamentale. „Observ o autoreglementare remarcabilă”, a afirmat Trump.
Un document „vag” de reglementare a IA
Documentul încurajează companiile de IA să „implementeze controale interne solide” care să monitorizeze capacitățile modelelor de IA în timpul antrenării lor și să desemneze o echipă internă care să se asigure că modelele nu efectuează incursiuni informatice neintenționate în alte sisteme IT, potrivit textului acordului făcut public de Casa Albă.
De asemenea, documentul îndeamnă companiile să colaboreze cu un auditor extern independent pentru a evalua dacă mecanismele de control ale modelelor avansate funcționează conform așteptărilor și să desemneze un comitet independent care să supravegheze procesul și să primească rapoartele auditorilor.
Rămâne neclar ce prevede exact această cartă în privința guvernanței IA, însă ea semnalează disponibilitatea administrației Trump de a recunoaște îngrijorarea tot mai mare a publicului față de inteligența artificială. Această inițiativă contrastează cu situația legislației majore privind siguranța IA, care stagnează în Congres.
În trecut, Donald Trump a respins apelurile liderilor din industrie și ale cercetătorilor de a aborda cu prudență dezvoltarea inteligenței artificiale.
Ulterior, în cursul după-amiezii, Trump a ieșit cu directorii din domeniul tehnologiei în fața aripii de vest (West Wing) a Casei Albe pentru a discuta cu presa despre acordul semnat și i-a cerut lui Zuckerberg să explice principiile acestuia.
Restabilirea încrederii oamenilor în IA
„Ideea de bază este că dorim să oferim poporului american și clienților noștri încrederea că tehnologia funcționează așa cum am preconizat”, a spus Zuckerberg, adăugând că, în prezent, fiecare companie dezvoltă soluții bazate pe standarde diferite.
„Așadar, am elaborat un set de principii și angajamente privind instituirea unor controale interne solide și detectarea eventualelor scăpări ale tehnologiei, totul dublat de multiple niveluri de audit și control – începând cu evaluarea internă a riscurilor și continuând cu auditori și evaluatori externi; de asemenea, am convenit ca toate consiliile noastre de administrație să analizeze în mod independent rapoartele întocmite de auditori”, a explicat el.
Detaliile privind prevederile acordului sau modul în care acesta ar urma să fie aplicat nu au fost imediat clare. „Ei iubesc țara noastră, iubesc lumea întreagă și s-au unit pentru acest demers”, a spus Trump. „Într-un fel, este aproape ca o constituție. Cele mai importante personalități din domeniu la nivel mondial au semnat acest document, iar eu l-am semnat în calitate de președinte.”
O nouă inițiativă marca Trump: IA devine „superinteligență”
Înainte de această întâlnire, Trump a anunțat că intenționează să redenumească oficial „inteligența artificială” în „superinteligență” în toate documentele guvernamentale, printr-un ordin executiv ce a fost semnat ulterior.
Donald Trump – care menționase deja acest nou termen în cadrul Adunării Generale a ONU săptămâna trecută – a făcut declarațiile cu ocazia lansării America.gov, un nou site web promovat ca o platformă unică, bazată pe inteligența artificială, pentru accesarea serviciilor și informațiilor federale.
Noua platformă online „este încă un exemplu al motivului pentru care nu voi înăbuși niciodată dezvoltarea unei tehnologii ce va avea o amploare mai mare decât Revoluția Industrială”, a afirmat Trump în timpul evenimentului de lansare.
Printre liderii din domeniul tehnologiei prezenți marți la dejunul de la Casa Albă s-au numărat David Sacks (fost responsabil guvernamental pentru IA și investitor de capital de risc), Dario Amodei (Anthropic), Greg Brockman (OpenAI), Jensen Huang (Nvidia) și Elon Musk (SpaceX), potrivit unui oficial al Casei Albe care a oferit informații publicației POLITICO.
În această săptămână, Amodei a efectuat o serie de vizite la Washington; luni seară, el s-a întâlnit cu liderul majorității din Senat, John Thune, oferind observații pe marginea unui proiect de lege menit să atenueze riscurile catastrofale asociate inteligenței artificiale, totul după o cină privată avută cu Trump duminică seara.
Printre ceilalți participanți se numără Mark Zuckerberg (Meta), Nikesh Arora (Palo Alto Networks), Jeff Bezos (Amazon), Brad Gerstner (Altimeter Capital), Alex Karp și Shyam Sankar (Palantir), Bill McDermott (ServiceNow), Sanjay Mehrotra (Micron Technology), Satya Nadella (Microsoft), Chamath Palihapitiya (Social Capital), Sundar Pichai (Google), Brandon Rahbar Daniels (Exiger), Lisa Su (AMD) și Hock Tan (Broadcom). Opiniile celor prezenți au fost puternic divizate în privința gravității riscurilor teoretice pe care le-ar putea prezenta inteligența artificială.
Amodei și Musk au lansat avertismente grave, susținând că, în absența unor măsuri de control, această tehnologie ar putea reprezenta un risc existențial pentru umanitate. În schimb, Huang și Zuckerberg au încercat, în declarațiile lor publice, să evidențieze beneficiile inteligenței artificiale și să minimizeze ceea ce au descris drept scenarii catastrofiste.
Totuși, după eveniment, Trump a afirmat că directorii au fost, în mare parte, de acord în timpul discuțiilor: „Au existat multe puncte comune în această încăpere. A fost ceva remarcabil”, a spus el.
Cititi si: Anthropic avertizează chiar și în prospectul de listare la bursă asupra „riscurilor AI pentru dispariția umanității”
***
Urmărește-ne pe Google News
