Viteza cu care evoluează tehnologia aduce tot mai aproape scenarii precum calcularea primei de asigurare de sănătate pe baza comportamentului fiecărei persoane sau a asigurării auto RCA în funcție de stilul de condus și de datele colectate de la autoturism în acest sens.
Aceste ipoteze presupun utilizarea tehnologiilor de tipul AI (inteligență artificială) care, dincolo de beneficiile semnificative pe care le oferă, presupun și riscuri cu privire la respectarea drepturilor și libertăților fundamentale ale persoanelor vizate. La nivel european există, în ultimii ani, preocupări intense în legătură cu acest subiect, cu scopul de a proteja consumatorii, însă fără a frâna utilizarea tehnologilor de acest tip.
Inteligența artificială este deja intens utilizată în domenii diverse, iar avantajele sunt evidente. Oficialii europeni susțin însă că folosirea inteligenței artificiale trebuie să țină cont și de faptul că aceasta poate aduce prejudicii semnificative persoanelor vizate, atât de ordin material, cât și moral. Totodată, aceștia recunosc că, în practică, persoanele afectate pot întâmpina dificultăți în exercitarea drepturilor lor în legătură cu anumite decizii luate de inteligența artificială.
În zona de publicitate și marketing, în comerțul online, în procesele de segmentare a audienței vizate și de personalizare a mesajelor de promovare folosite de platforme online, aplicații sau site-uri, se utilizează deja diferite procese decizionale automate, inclusiv de tipul inteligenței artificiale.
Așa cum arată și Comisia Europeană în documentele emise în legătură cu acest subiect, AI este utilizată de intermediarii online pentru a stabili prioritatea informațiilor destinate clienților și pentru a asigura modelarea conținutului. Dar datele prelucrate, modul în care sunt concepute aplicațiile și posibilitățile de intervenție umană pot afecta drepturile la libertatea de exprimare, la protecția datelor cu caracter personal și a vieții private, precum și libertățile politice.
Din ce în ce mai multe programe de calculator personalizează experiența utilizatorilor în mediul online, pe baza informațiilor colectate despre aceștia referitoare la activitate, modul de petrecere a timpului, preferințe, informații tranzacționale etc.
Implicațiile utilizării AI și conformarea cu legislația în vigoare
Având în vedere că, din perspectiva protecției datelor cu caracter personal, există riscuri de prelucrare intruzivă și de „etichetare” a utilizatorilor, discuțiile cu privire la folosirea unei soluții sau aplicații software care poate presupune și AI se concentrează în jurul a două idei.
Prima este legată de etica juridică, în contextul potențialului conflict dintre perspectiva de business și perspectiva utilizatorului. Din acest punct de vedere, instrucțiunile transmise clienților trebuie să respecte anumite criterii de transparență și să nu fie discriminatorii, îndeplinind în același timp așteptările acestora, în special legate de UI – user infrastructure design (o comunicare vizuală estetică și interacțiune plăcută pentru utilizatori) și UX – user experience (atenție la detalii, empatie și simplificarea proceselor pe care clienții sunt nevoiți să le parcurgă).
A doua idee este legată de conformarea cu legislația aplicabilă în zone precum protecția consumatorilor, a drepturilor de proprietate intelectuală și, mai ales, a datelor cu caracter personal. În această ultimă privință, conformarea nu reprezintă doar bifarea unor „termeni și condiții” sau redactarea unei „privacy policy” ori a unei note de informare.
În acest caz, sunt relevante aspecte precum alegerea sau validarea unui temei de prelucrare, recomandări în ceea ce privește instrucțiunile date motorului de personalizare (diferite de la un model de business la altul), clarificări în legătură cu criteriile de profilare, cum se realizează efectiv profilarea și gradul de intruziune, modalitatea în care se asigură intervenția umană, asigurarea unui echilibru între ce înseamnă intruziv și non-intruziv.
În acest context, având in vedere beneficiile semnificative pe care le implică economia bazata pe date (data-driven economy), care includ și dezvoltarea tehnologiilor de tipul AI, este apreciabilă preocuparea forurilor europene pentru definirea unui cadru legislativ care să garanteze că progresul tehnologic în domeniul digitalizării respectă drepturile și libertățile fundamentale ale persoanelor vizate.
Regulamentul general privind protecția datelor cu caracter personal (GDPR) impune o serie de reguli și pune la dispoziția persoanelor vizate mecanisme menite să le protejeze de riscurile ce pot apărea în legătură cu deciziile luate de AI (de exemplu, riscuri de discriminare, practici neloiale și efecte de blocare).
Cu toate acestea, mai sunt necesare inițiative legislative sau, cel puțin, recomandări și bune practici pentru identificarea celor mai potrivite mijloace care trebuie puse la dispoziția persoanelor vizate pentru a-și exercita drepturile, precum și pentru adaptarea mecanismelor existente la provocările specifice utilizării AI în diferite sectoare.
*
Silvia Axinescu, Senior Managing Associate la Reff & Asociații|Deloitte Legal
Un răspuns
Pina acum competitia intre om si masina a fost in principal in ce priveste forta fizica si durata exercitarii ei in munca.
Competitia valorica intre oameni are acum o evaluare aproximativa, reflectata in domeniul scolar, iar la locul de munca prin pozitii in procesul productiv sau bugetar, in functii si salarii/venituri.
In domeniul asigurarilor exista aceeasi aproximare in ce priveste costul serviciilor de acest gen, fara criterii de departajare afara de numarul de accidente.
Odata cu IA apar instrumente de departajere obiectiva, masurate tehnic prin personalizarea calitatii si defectelor indivizilor in ce priveste diversele activitati sau operatii cu consecinte materiale sau financiare, de tipul asigurarilor Auto de pilda.
Cunoasterea si evaluarea obiectiva/tehnica a capacitatii conducatorului auto si istoricul comportamental va deveni elementul concret si evaluat in domeniul asigurarilor, iar aceasta procedura va fi asumata treptat in fiecare domeniu de activitate.
Rezultatul va fi eliminarea delasarii si indiferentei fata de viata sociala in genere, obligind la constructia si indeplinirea unui proiect personal, care va restringe libertatea individului in genere, iar „legile capitalismului” vor innaspri concurenta dintre indivizi, care vor da totul pentru a fi la nivelul de „plutire” sociala.
Masina IA isi va spune cuvintul in domeniul inteligentei, constringind individul prin procesul aratat sa devina la rindul lui o „masina organica”, conectata treptat cu cea „anorganica” facuta din cabluri si cipuri.
Evolutia va fi relativ lenta, indivizii si legislatia se vor obisnui si intelege in aceasta combinatie care pare a defavoriza pe cei mai putin dotati intelectual, insa diferentele dintre indivizi au existat si se schimba doar mecanismele care le creaza si sustin politic, economic si social.
Urmeaza ca acest proces sa dobindeasca o denumire specifica, de „umanizare mecanica” sau cine stie care alta…