Regulamentul UE privind Inteligența Artificială a intrat în vigoare: Principalele noutăți – Abordarea bazată pe riscuri și monitorizarea

3 august, 2026

Oficiul pentru IA al Comisiei Europene, împreună cu autoritățile naționale au început duminică, 2 august, asigurarea respectării Legii privind inteligența artificială (IA), odată cu aplicare noilor norme în materie de transparență, care impun anumitor sisteme de IA să informeze utilizatorii atunci când interacționează cu IA și când conținutul a fost generat sau modificat de aceasta.

Pentru cele mai grave abateri, amenzile pot ajunge până la 35 de milioane de euro.

Principalele noutăți:

În conformitate cu noile norme, roboții de chat și alte sisteme de IA interactive vor trebui să le spună utilizatorilor că au de-a face cu IA, nu cu un om.

Deepfake-urile (imagini, videoclipuri sau materiale audio care au fost editate sau generate cu ajutorul IA) vor trebui etichetate.

Conținutul generat sau modificat de IA va trebui, de asemenea, să poarte marcaje care pot fi citite automat, astfel încât să poată fi detectat mai ușor.

Măsurile sunt menite să reducă înșelăciunea și manipularea și să ajute oamenii să facă alegeri în cunoștință de cauză.

De asemenea, acestea oferă întreprinderilor obligații mai clare și o modalitate practică de a demonstra conformitatea.

Comisia a publicat o primă listă cu peste 180 de organizații care au semnat Codul de bune practici privind transparența conținutului generat de IA, care operaționalizează normele privind transparența conținutului generat de IA.

Regulamentul stabilește norme bazate pe riscuri pentru dezvoltatorii și operatorii de IA în ceea ce privește utilizările specifice ale IA, asigură faptul că europenii pot avea încredere în ceea ce are de oferit IA.

Deși majoritatea sistemelor de IA prezintă riscuri limitate la zero și pot contribui la soluționarea multor provocări societale, anumite sisteme sunt periculoase pentru că nu este posibil să se afle de ce a luat o decizie sau o predicție și a stabilit o anumită măsură.

Deși legislația existentă oferă o anumită protecție, aceasta nu este suficientă pentru a aborda provocările specifice pe care le pot aduce sistemele de IA.

Modul de funcționare a normelor în cazul sistemul cu grad ridicat de risc

Odată ce un sistem de IA este pe piață, autoritățile sunt responsabile de supravegherea pieței, implementatorii asigură supravegherea și monitorizarea umană, iar furnizorii dispun de un sistem de monitorizare ulterioară introducerii pe piață.

Furnizorii și operatorii vor raporta, de asemenea, incidentele grave și disfuncționalitățile.

Punerea în aplicare a Regulamentului

Oficiul pentru IA poate pune acum în aplicare normele Regulamentului privind IA pentru furnizorii de modele de IA de uz general (GPAI). Aceste modele pot îndeplini multe sarcini diferite și pot fi utilizate într-o gamă largă de instrumente și servicii, inclusiv agenți IA.

Normele acoperă, de asemenea, cele mai avansate modele GPAI care pot prezenta riscuri sistemice. Furnizorii acestora trebuie să îndeplinească obligații suplimentare pentru a aborda riscurile de vătămare la scară largă, cum ar fi riscurile legate de incidentele chimice, biologice, radiologice și nucleare, pierderea controlului, infracțiunile cibernetice, manipularea dăunătoare și amenințările la adresa drepturilor fundamentale. Acestea abordează, de asemenea, riscurile care au atras recent atenția publicului, inclusiv riscurile la adresa securității cibernetice europene și a IA care acționează în afara controlului uman.

Toți furnizorii de modele GPAI trebuie să documenteze anumite informații și să le furnizeze autorităților competente sau furnizorilor din aval. De asemenea, acestea trebuie să pună în aplicare o politică privind drepturile de autor și să publice un rezumat suficient de detaliat al conținutului utilizat pentru formarea modelelor lor.

Punerea în aplicare începe, de asemenea, în ceea ce privește obligațiile de transparență și practicile IA interzise. Acestea interzic sistemele deosebit de dăunătoare, inclusiv sistemele care manipulează oamenii, exploatează vulnerabilitățile în moduri dăunătoare sau marchează pe nedrept oamenii în moduri care le amenință drepturile.

Responsabilitatea pentru asigurarea respectării normelor de transparență și a practicilor interzise este împărțită între trei organisme. Oficiul pentru IA asigură respectarea normelor pentru sistemele de IA oferite de același furnizor ca modelul de IA de uz general subiacent. Acesta acoperă, de asemenea, sistemele integrate în platforme online foarte mari sau în motoare de căutare online foarte mari desemnate în temeiul Regulamentului privind serviciile digitale.

Autoritățile naționale competente asigură respectarea normelor pentru alte sisteme de IA. Autoritatea Europeană pentru Protecția Datelor asigură respectarea normelor privind sistemele de IA utilizate de instituțiile, organele și agențiile Uniunii Europene.

Asigurarea eficace a respectării normelor va depinde, de asemenea, de asigurarea de către statele membre a faptului că autoritățile naționale competente sunt desemnate în mod corespunzător și dispun de resurse adecvate.

Instrumente de monitorizare

Pentru a sprijini asigurarea respectării legii, Oficiul pentru IA a lansat mai multe instrumente pentru persoane fizice și întreprinderi.

Persoanele fizice și juridice pot utiliza instrumentul de tratare a plângerilor pentru a raporta presupusele încălcări ale Regulamentului privind IA de către furnizorii de sisteme de IA supravegheați de Oficiul pentru IA.

Persoanele care lucrează cu furnizori de sisteme de IA sau de modele de IA de uz general pot utiliza instrumentul pentru avertizori pentru a raporta în siguranță posibilele încălcări ale legii.

Un canal specific este, de asemenea, disponibil pentru furnizorii din aval care construiesc sisteme de IA pe modele de uz general și doresc să raporteze presupusele încălcări de către furnizorii modelelor respective.

Abordare bazată pe riscuri

Risc inacceptabil

Toate sistemele de IA considerate o amenințare clară la adresa siguranței, a mijloacelor de subzistență și a drepturilor persoanelor sunt interzise.

Regulamentul privind IA interzice nouă practici:

manipulare și înșelăciune dăunătoare bazate pe IA
exploatarea dăunătoare a vulnerabilităților bazată pe IA
punctajul social
Evaluarea sau anticiparea riscurilor legate de infracțiunile individuale
răzuire nedirecționată a internetului sau a materialelor CCTV pentru a crea sau a extinde bazele de date de recunoaștere facială
Recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ
clasificarea biometrică pentru a deduce anumite caracteristici protejate
identificarea biometrică la distanță în timp real în scopul asigurării respectării legii în spațiile accesibile publicului
sisteme de IA care generează conținut sexual explicit și intim neconsensual sau materiale care conțin abuzuri sexuale asupra copiilor (CSAM), cum ar fi aplicațiile de „nudificare” a IA;

Interdicția 9 intră în vigoare în decembrie 2026 și a fost introdusă ca parte a pachetului Omnibus privind IA.

Risc ridicat

Cazurile de utilizare a IA care pot prezenta riscuri grave pentru sănătate, siguranță sau drepturile fundamentale sunt clasificate ca prezentând un grad ridicat de risc.

Printre aceste cazuri de utilizare cu risc ridicat se numără:

Componentele de siguranță ale IA în infrastructurile critice (de exemplu, transporturi), a căror defectare ar putea pune în pericol viața și sănătatea cetățenilor
Soluții de IA utilizate în instituțiile de învățământ, care pot determina accesul la educație și parcursul vieții profesionale a unei persoane (de exemplu, notarea examenelor)
Componentele de siguranță ale produselor bazate pe IA (de exemplu, aplicația IA în chirurgia asistată de robot)
Instrumente de IA pentru ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente (de exemplu, software de sortare a CV-urilor pentru recrutare)
Anumite cazuri de utilizare a IA utilizate pentru a oferi acces la servicii publice și private esențiale (de exemplu, notarea creditelor care le refuză cetățenilor posibilitatea de a obține un împrumut)
Sisteme de IA utilizate pentru identificarea biometrică la distanță, recunoașterea emoțiilor și clasificarea biometrică (de exemplu, sistemul de IA pentru identificarea retroactivă a unui hoț din magazine)
Cazuri de utilizare a IA în asigurarea respectării legii care pot interfera cu drepturile fundamentale ale persoanelor (de exemplu, evaluarea fiabilității probelor)
Cazuri de utilizare a IA în gestionarea migrației, a azilului și a controlului la frontiere (de exemplu, examinarea automată a cererilor de viză)
Soluții de IA utilizate în administrarea justiției și a proceselor democratice (de exemplu, soluții de IA pentru pregătirea hotărârilor judecătorești)

Începând cu 2 decembrie 2027, sistemele de IA cu grad ridicat de risc vor face obiectul unor obligații stricte înainte de a putea fi introduse pe piață:

sisteme adecvate de evaluare și atenuare a riscurilor
calitatea ridicată a seturilor de date care alimentează sistemul pentru a reduce la minimum riscurile de rezultate discriminatorii
înregistrarea activității pentru a asigura trasabilitatea rezultatelor
documentația detaliată care furnizează toate informațiile necesare privind sistemul și scopul acestuia pentru ca autoritățile să evalueze conformitatea acestuia
informații clare și adecvate pentru implementator
măsuri adecvate de supraveghere umană
nivel ridicat de robustețe, securitate cibernetică și precizie

Riscul de transparență

Aceasta se referă la riscurile asociate cu nevoia de transparență în ceea ce privește utilizarea IA. Regulamentul privind IA introduce obligații specifice de divulgare pentru a se asigura că oamenii sunt informați atunci când este necesar pentru a menține încrederea. De exemplu, atunci când se utilizează sisteme de IA, cum ar fi roboții de chat, oamenii ar trebui să fie conștienți de faptul că interacționează cu o mașină, astfel încât să poată lua o decizie în cunoștință de cauză.

În plus, furnizorii de IA generativă trebuie să se asigure că conținutul generat de IA este identificabil. În plus, anumite conținuturi generate de IA ar trebui să fie etichetate în mod clar și vizibil, și anume deepfake-urile și textul publicat cu scopul de a informa publicul cu privire la chestiuni de interes public.

Normele privind transparența din Regulamentul privind IA vor intra în vigoare în august 2026.

Risc minim sau inexistent

Regulamentul privind IA nu introduce norme pentru IA care să fie considerate ca prezentând un risc minim sau să nu prezinte niciun risc. Marea majoritate a sistemelor de IA utilizate în prezent în UE se încadrează în această categorie. Printre acestea se numără aplicații precum jocurile video bazate pe IA sau filtrele de spam.

****