Parlamentul European a aprobat, miercuri, la Strasbourg, propunerea de regulament european pentru „stabilirea unor norme armonizate privind inteligența artificială”. Așa numita AI Act a fost aprobată cu 499 de voturi pentru, 28 împotrivă, 93 de abțineri.
Comisia Europeană a inițiat proiectul AI Act în 2021, fiind prima încercare la nivel mondial de reglementare a domeniului inteligenței artificiale.
Coraportori ai proiectului PE sunt românul Dragoş Tudorache (REPER – Renew Europe) și italianul Brando Benifei (Socialiștii și Democrații Europeni).
Propunerea de lege va intra în negocierile interinstituționale, între Parlamentul European și Consiliul UE (miniștrii din statele membre) și Comisia Europeană (ca inițiatoare a proiectului de legislație).
Limitări ale utilizării sistemelor IA de identificare
Propus de Comisia Europeană, proiectul a fost amendat în Parlamentul European cu prevederi care asigură că sistemele de Inteligență Artificială sunt supravegheate de oameni, sunt sigure, transparente și nediscriminatorii.
AI Act va interzice „utilizarea intruzivă” a sistemelor IA de identificare biometrică „în timp real” în spații accesibile publicului, a sistemelor de clasificare biometrică care utilizează caracteristici sensibile (de exemplu, gen, rasă, etnie, statut de cetățenie, religie, orientare politică) și a celor de poliție predictivă (bazate pe profilare, locație sau comportament criminal din trecut).
Sistemele de identificare biometrică la distanță pot fi utilizate de organele de drept pentru urmărirea penală a infracțiunilor grave numai după autorizarea judiciară.
Modelele de bază generative, cum ar fi ChatGPT, trebue să respecte cerințe suplimentare de transparență, cum ar fi dezvăluirea faptului că conținutul a fost generat de AI.
De ce nu e atât de simplu să ai Inteligență Artificială sigură
Experții în Inteligență Artificială urmează, în general, două mari școli de gândire: fie ne va îmbunătăți enorm viața, fie ne va distruge pe toți.
O analiză BBC prezintă cinci dintre provocările care urmează:
Conformarea companiilor
Parlamentul European a avut nevoie de doi ani pentru a veni cu o definiție a unui sistem AI: software care poate „pentru un anumit set de obiective definite de om, să genereze rezultate precum conținut, predicții, recomandări sau decizii care influențează mediile cu care interacționează”.
Actul pentru Inteligență Artificială instituie în UE primele reguli privind IA și impun companiilor să se conformeze.
Tehnologia nu respectă granițele – e nevoie de un acord global
Fostul șef al Biroului pentru Inteligență Artificială din Regatul Unit, Sana Kharaghani: „Trebuie să avem o colaborare internațională în acest sens – știu că va fi greu. Nu este o problemă internă. Aceste tehnologii nu se află în limitele unei singure țări”.
Nu există nici un plan pentru o reglementare globală, la nivelul Națiunilor Unite, a AI – deși, unii au sugerat acest lucru.
(Citește și: ”Organism ONU de supraveghere a AI, după modelul agenţiei pentru energie atomică”)
Diferite teritorii au idei diferite:
- Propunerile Uniunii Europene sunt cele mai stricte și includ clasificarea produselor AI în funcție de impactul lor
- Statele Unite au doar coduri voluntare, parlamentarii admițând, într-o audiere recentă a comisiei de inteligență artificială, îngrijorările cu privire la strictețea acestor coduri voluntare.
- China intenționează să oblige companiile doar să notifice utilizatorii ori de câte ori este utilizat un algoritm AI
Încrederea publicului
„Dacă oamenii au încredere în Inteligența Artificială, atunci o vor folosi”, spune Jean-Marc Leclerc, șeful de reglementare al International Business Machines Corporation (IBM). Există oportunități enorme pentru AI de a îmbunătăți viața oamenilor în moduri incredibile. Dar nu este clar dacă oamenii ar accepta, de exemplu, screening-ul solicitanților de locuri de muncă sau analiza probabilităților ca cineva să comită o infracțiune.
(Citiți și: ””Era AI a început” – Previziunile lui Bill Gates despre viitorul Inteligenței Artificiale”)
Parlamentul European dorește ca publicul să fie informat cu privire la riscurile asociate fiecărui produs AI. Companiile care încalcă regulile ar putea fi amendate cu 30 de milioane de euro sau 6% din cifra de afaceri anuală globală.
Cine scrie regulile?
Până acum, AI a fost în mare parte auto-reglementată. Marile companii spun că sunt de acord cu reglementările guvernamentale – „critice” pentru a atenua riscurile potențiale, potrivit Sam Altman, șeful creatorului ChatGPT OpenAI.
Dar vor pune profiturile înaintea oamenilor dacă se implică prea mult în redactarea regulilor? Fondatoarea Lastminute.com, baronesa Lane-Fox, spune că este important să nu ascultăm doar corporațiile. „Trebuie să implicăm societatea civilă, mediul academic, oameni care sunt afectați de aceste modele și transformări diferite”, spune ea.
Lipsește capacitatea de reacție rapidă
ChatGPT a intrat în uz public cu puțin peste șase luni în urmă. Acum, poate scrie eseuri, poate planifica vacanțele oamenilor și poate trece examene profesionale. Capacitatea acestor modele de limbaj la scară largă crește într-un ritm fenomenal.
Legea privind inteligența artificială nu va intra în vigoare mai devreme de 2025 – „mult prea târziu”, a spus șefa pentru tehnologie a UE, Margrethe Vestager. Ea elaborează un cod interimar voluntar pentru sector, alături de SUA, care ar putea fi gata în câteva săptămâni.
Dragoș Tudorache: ”Autoreglementarea companiilor nu este suficientă pentru a ne proteja cetățenii și companiile”
”Este acesta momentul cel mai potrivit pentru ca UE să reglementeze Inteligența Artificială (IA)? Răspunsul meu este un mare DA datorită impactului profund pe care IA îl are, dar și pentru că autoreglementarea din partea companiilor nu va fi suficientă pentru a ne proteja cetățenii și societățile.
Am muncit pentru a ne asigura că drepturile și libertățile cetățenilor noștri nu sunt doar respectate, ci și protejate și consolidate. Nu vrem supraveghere în masă, Nu vrem social scoring, Nu vrem poliție predictivă în Uniunea Europeană. Asta face China, nu noi.
Sunt mândru că am reușit să pregătim un set preliminar de reguli pentru IA generativă bazată pe modele fundamentale puternice.
Nu în ultimul rând, poate cel mai important este faptul că am găsit un consens copleșitor în rândul tuturor grupurilor politice cu privire la aceste reguli”, a comentat europarlamentarul român votul de miercuri.
***
