Interviu Jeanette Hofmann / Corona-Apps și Bio-supravegherea: ”Noi nu avem controlul asupra felului în care ar putea fi folosită în viitor.”

Textul de mai jos reprezintă  fragmente esențiale preluate din interviul apărut în CRONICILE Curs de Guvernare  (publicație exclusiv print, cu un conținut diferit de cel al cursdeguvernare.ro), al cărui număr 94 tocmai a apărut.

Despre sumarul numărului 94 al CRONICILOR, precum și despre alte detalii privind publicația – UN LINK AICI.
Redacția.

***

Guvernele lumii, adică inclusiv ale UE, au început planurile de monitorizare a răspândirii noului coronavirus, monitorizănd prin telefoanele mobile deplasările și întâlnirile cetățenilor – prin așa numitele generic Corona-Apps – într-un mod mai strict decât o fac pentru combaterea terorismului.

Dacă în unele țări nu există scrupule privind drepturile cetățenești (China, Rusia etc.), statele UE se află în plină dezbatere cu atât mai mult cu cât lumea se așteaptă la alte valuri de infectare. Dezbatere nu în ce privește oportunitatea și constituționalitatea măsurii, ci în ce provește metoda prin care Corona-Apps să fie implementată.

Prof. Dr. Jeanette Hofmann, director cercetător în domeniul Internet Policy & Governance al Institutului Alexander von Humboldt pentru Internet și Societate din Berlin și Director al Grupului de cercetare pentru politică de digitalizare a Centrului Științific de Cercetare Socială Berlin (WZB) explică pentru CRONICILE mizele și riscurile implementării unui control nemaiîntâlnit până acum într-o societate liberală, precum și pericolul alunecării spre o lume distopică.

***

CRONICILE:
Există o teamă în societatea civilă, că introducerea controlului telefoanelor pentru prevenirea răspândirii virusului corona (așa numita corona-apps) ar putea împinge democrațiile liberale spre un control nesănătos exercitat de autorități, după modelul Chinei sau Rusiei. Cât de îndreptățită e această teamă?

Prof. Dr. Jeanette Hofmann:
Ce e în primul rând interesant cu privire la aceasta temă e multitudinea de soluții tehnologice apărute. Nu se poate spune că o anumită tară a dat startul iar restul au imitat.

Avem de exemplu aplicații menite să asigure că persoanele aflate în carantină nu își părăsesc locuința, cum e în Polonia sau în Taiwan;
avem exemplul „Datenspende-App“ în Germania, care combină date din brățările de fitness si Smartwatches (pentru a urmări de exemplu dacă cineva are febră) si codul poștal, pentru a urmări răspândirea geografica a îmbolnăvirilor. Cu totul altfel arata soluțiile in China sau in Israel. În toate aceste țări s-au pus in balanță valori sociale diferite, de exemplu sfera privată a individului pe de o parte, si controlul efectiv al virusului de cealaltă.

Ceea ce deosebește curentul european de celelalte e convingerea ca ambele valori pot fi împăcate, că nu trebuie să sacrificam standardele noastre de protecție a datelor personale pentru a controla pandemia. Acesta este motivul pentru care ideea unui răspuns pan-european la criza, cristalizată in inițiativa PEPP-PT (Pan-European Privacy-Preserving Proximity Tracing – n.red.), a stârnit la începuturi mari speranțe.

Pe parcursul dezvoltării acestei inițiative însă, s-au cristalizat două abordări foarte diferite, doua arhitecturi de sistem divergente: o abordare centralizată si una descentralizată.

(……………………………………………………….)

”How it works”. Server vs. Cetățean – sau până unde poate merge încrederea

CRONICILE:
Care e deosebirea dintre cele doua arhitecturi de sistem – cea centralizata si cea descentralizata?

Prof. Dr. Jenette Hofmann
Ideea comună de la care pornește inițiativa a fost de a identifica căile de infecție pe care se răspândește virusul pentru de a le stopa într-o fază incipientă. Pe baza datelor generate de semnalele Bluetooth între telefoane se poate realiza un grafic social – pentru ca mai apoi peroanele care s-au aflat în  apropierea unei persoane testate pozitiv sa fie înștiințate. Acesta e punctul in care cele doua abordări din cadrul PEPP-PT se despart:

Varianta centralizata propune ca toate aceste rețele de contacte să fie trimise unui server: în momentul în care eu am fost testată pozitiv, telefonul meu trimite serverului toate contactele pe care le-am avut într-un anumit interval de timp.

Varianta descentralizată însă propune ca eu, persoana infectată, să trimit înștiințarea direct către toate celelalte telefoane în apropierea cărora m-am aflat.

In varianta centralizată, responsabilitatea se află la serverul central, care trimite înștiințările în mod automat; în modelul descentralizat, responsabilitatea se află la persoana infectată, care trebuie să ia decizia de a informa celelalte persoane.

În esența, vorbim de fapt despre instalarea unui mecanism de enforcement – sau nu.

Pentru ca în varianta centralizata, serverul știe cu exactitate care sunt persoanele care au fost in preajma infectatului. Fiecare dintre aceste persoane primește în sistem un ID personal – așa numita pseudonomizare a utilizatorilor – iar pseudonomizarea nu înseamnă anonimizare. Asta înseamnă ca serverul este capabil sa identifice cu exactitate fiecare persoană aflată in spatele acelui ID.

Dacă serverul adună toate datele și e capabil să afle cine sunt eu, atunci el mă poate controla dacă mă voi duce la doctor sau nu. Modelul descentralizat evită tocmai asta.

(…………………………………………………..)

De fapt e o diferența în arhitectura încrederii.

Cine sunt promotorii și partizanii fiecăreia dintre variante

CRONICILE:
Mulți parteneri au parasit inițiativa acestei aplicații de control din cauza acestui conflict, mai ales experți din domeniul academic, care susțineau modelul descentralizat. Cum vedeți viitorul?

Prof. Dr. Jenette Hofmann
Momentan avem un „Patt“:

Platforma PEPP-PT își dorea inițial sa găzduiască ambele modele. Inițiatorii platformei susțin modelul centralizat și sunt cei care au contacte puternice in guvernul german. Coordonatorul proiectului, germanul Chris Boos este membru al Consiliului pentru Digitalizare al guvernului („Deutscher Digitalrat“) si are relații bune cu șefia cancelariei federale (Chef des Bundeskanzleramtes).

De cealaltă parte, aripa descentralizării e reprezentata de academicieni europeni. Deci expertiza științifica susține modelul descentralizat – iar faptul ca susținerea academică pentru întreaga inițiativă e momentan la pământ ar trebui să fie un semnal pentru partea politică. Aproape niciun academician nu susține varianta centralizată – excepție fac doar institutele germane „Franhofer“ si „Heinrich Hertz“ și institutul francez INRIA (Institutul Național de Cercetare în Informatică și Automatizări).

Deci avem pentru modelul centralizat legături strânse cu politica, care se extind parțial si pe partea de institute științifice. Dar „creierele“ individuale academice sunt clar de partea descentralizată.

Nu as putea spune exact cum se va concluziona. Ca o recomandare pentru politica germana pot spune doar că ea nu ar trebui să se autodeclame ca unic purtător de decizie, sa nu favorizeze în acest stadiu o soluție în detrimentul celeilalte. Pentru că momentan, niciunul dintre cele două modele nu este gata de implementare.

(……………………………………………………..)

Să ne obișnuim cu ideea că acest instrument va rămâne cu noi și după Criza Covid-19

CRONICILE:
Ați numit aplicațiile de tracking apărute in cadrul pandemiei „infrastructuri emergente care nu vor dispărea odată cu criza“. La ce va referiți când spuneți „infrastructuri”?

Prof. Dr. Jenette Hofmann
Eu tocmai lucrez la un articol științific în care propun sa abordăm aplicațiile Corna din perspectiva infrastructurilor.

Infrastructurile sunt niște fenomene fascinante. Ele apar, la fel ca și exemplul Corona-Apps, sub forma unor experimente locale. Pentru ca ele sa se răspândească mai departe, să continue să crească, trebuie să respecte niște norme, să fi standardizate.

Exact in aceasta fază ne aflăm acum – în acest proces de dezbatere, de dispută între mai multe soluții de modelare posibile, fără a ști care variantă va fi cea câștigătoare.

Însă din momentul în care o unică soluție s-a implementat, se poate spune din analiza infrastructurilor deja existente că dezbaterile politice dispar complet din focus, discuțiile despre alternative nu mai au loc, infrastructurile sunt abordate ca fiind de la sine înțelese. Astăzi nu-si mai amintește nimeni cat de controversat a fost internetul la începuturile lui, cate dezbateri si câtă critică a fost exprimată cu privire la modul în care ar trebui sa funcționeze această infrastructură masivă, mod care azi pare de la sine înțeles. Este vorba de un proces de normalizare, care pune luptele politice pentru diferitele posibilități tehnice pe stand-by.

Putem vorbi de o infrastructură din momentul în care soluția tehnica intră in habitusul oamenilor: adică din momentul în care eu știu cum se circulă cu tramvaiul sau cum folosește curentul electric – când toate astea au devenit un comportament implicit. Astfel ca infrastructurile ajung să dea tactul la comportamentul din societate, ele prescriu ce putem sa facem și cum, și dețin astfel o putere.

Eu propun să privim dezvoltarea actuală a Corona-Apps ca pe procesul unor infrastructuri în devenire – pentru e foarte posibil ca ele să nu mai dispară niciodată.

Noi tocmai construim un instrument pentru o criză, dar eu cred că ar trebui să luam în considerare faptul ca acest instrument va rămâne cu noi, si ca ar putea fi folosit în multe alte scopuri după criza.

De exemplu pentru supravegherea protestelor stradale sau a gripei in sezonul rece.

Există foarte multe alte scenarii in care folosirea acestor aplicații devenite infrastructură ar putea sa intervină. Daca suntem conștienți de acest fenomen de normalizare a unei infrastructuri pe termen lung, după momentul de criză, atunci responsabilitatea noastră e mult mai mare, trebuie să ne întrebăm foarte clar cum ne dorim să construim această unealtă și ce principii și valori ne dorim să respectam în construcția ei. Pentru că la un moment dat, nu o vom mai percepe ca pe ceva periculos, ci doar ca pe o normalitate.

Noi nu avem controlul asupra felului în care ar putea fi folosită în viitor

CRONICILE:
Dacă ne gândim la scenarii concrete de folosire a aplicațiilor Corona ca infrastructuri după trecerea crizei: Cum vi se pare formularea lui Edward Snowden că aceste aplicații sunt începutul unei ere a bio-supravegherii?

Prof. Dr. Jenette Hofmann
Conceptul de bio-supraveghere mi se pare foarte potrivit. Infrastructurile au mereu o componentă ambivalentă.

Pe de-o-parte, ele aduc cu sine multe beneficii si prosperitate sociala. Asta devine clar în cazul autostrăzilor: Ele ne asigură libertatea de mișcare si transportul de bunuri, dar trebuie sa te gândești și ca ele distrug natura sau ca multe persoane mor in fiecare an în accidente. Revenind la infrastructura în construcție la care tocmai lucrăm:

Trebuie menționat și faptul că de fapt noi nu avem controlul asupra felului în care ar putea fi folosita în viitor. Și nimeni nu a creat vreodată o infrastructura care sa nu fie predispusă greșelii sau accidentului.

De exemplu, o mare întrebare cu răspunsuri multiple se referă la modul în care această infrastructura ar putea fi cuplata cu altele existente: care ar fi atunci posibilitățile de folosire?

De exemplu în China, aplicațiile Corona deja sunt conectate cu sistemele de recunoaștere faciala, ceea ce deschide scenarii sociale mult mai ample.

(……………………………………………………….)

Cine va deține ”butoanele”

CRONICILE:
Cui vor aparține aceste infrastructuri împreuna cu datele care „circulă” prin ele?

Prof. Dr. Jenette Hofmann
Asta este o întrebare foarte importanta în cadrul dezbaterilor dintre modelul centralizat si cel descentralizat al PEPP-PT.

In cazul modelului centralizat am avea un operator național de server, ceea ce ar aduce cu sine si o centralizare a puterii. In Germania, entitatea centrală ar fi institutul Robert Koch.

Un aspect de luat în considerare însă în cazul ideii de posesor al sistemului este următorul: În multe țări vorbim de o folosire benevola a aplicațiilor Corona.

Odată ce ai instalat aplicațiile însă apar obligații clare. De exemplu, în Germania devii în baza Legii privind protecția de infecții obligat de a lua măsuri, de exemplu de a merge la doctor. Deci îmi instalez în mod voluntar un software, dar tot ceea ce urmează apoi cade sub incidenta legii iar dacă nu respect procedurile mă fac culpabil. Astfel că folosirea unei astfel de infrastructuri, indiferent de posesorul ei, se împletește automat cu aparatul legislativ și depinde de legile in vigoare.

CRONICILE:
Ați menționat folosirea voluntara a aplicațiilor Corona, care e valabila in Europa. Credeți în puterea de decizie a cetățenilor în ceea ce privește folosirea acestui tip de tehnologie – și în general a tehnologiilor emergente?

Prof. Dr. Jenette Hofmann
Definitiv. Cred ca ne folosim însă în moduri diferite de această putere de decizie. Chiar vorbim de un spectru enorm în ceea ce privește gândirea critică asupra tehnologiei.

Avem persoane care folosesc tot ce apare nou, avem însă și persoane devotate unui ethos de autodeterminare, de a rămâne indivizi independenți, si avem si mulți activiști foarte vizibili care întrețin în societate acest discurs al independentei individuale.

În ceea ce privește aplicațiile Corona, unde discuțiile în societate sunt momentan foarte politizate, oamenii au percepții foarte deferite. Ieri mi-a povestit cineva la telefon că soția sa refuză de ani la rând să folosească sisteme de navigare în timpul condusului – dar că așteaptă cu nerăbdare apariția aplicațiilor Corona pentru a si le instala. Vorbim aici de o perspectiva morală, din care unii oameni privesc situația si își doresc sa aducă un aport la rezolvarea crizei.

Exista desigur si cealaltă atitudine a persoanelor pentru care ideea de control si scenariile de abuz al datelor atârna mai greu in luarea deciziei. Cred că foarte importantă in luarea deciziei de a utiliza tehnologiile e întrebarea asupra entității care le modelează: cine are puterea de a le modifica, de a decide structura lor si ce se poate face cu ele? Si apoi: am încredere în aceasta entitate?

O rupere de tabu: schimbarea raporturilor de putere între individ și stat

CRONICILE:
Vorbim totuși de aplicații care înregistrează fiecare contact personal al unui individ. Credeți că tocmai se face un pas ca ruperea unui tabu în ceea ce privește nivelul nostru de acceptanță  a tehnologiilor emergente?

Prof. Dr. Jenette Hofmann
Eu nu as vorbi de ruperea unui tabu în ceea ce privește acceptanța noastră, pentru ca asta ar însemna ca toți oamenii au aceeași percepție a standardelor de protecție a sferei private.

Ceea ce observăm acum este mai degrabă un foarte puternic puseu de integrare a tehnologiilor digitale in viețile noastre. Toata lumea realizează că trebuie să știe să facă o gama largă de activități online. De exemplu statul tocmai începe să pună un mult mai mare accent pe digitalizarea administrației si spune „fie ce-o fi, trebuie sa răspândim acum posibilitățile online pană in ultimul colț al republicii“. Din ce in ce mai multe practici sociale de digitalizează – criza a adus cu sine un puseu enorm. Iar oamenii se poziționează fata de asta in mod diferit.

O adevărata rupere de tabu însă are loc dintr-o alta perspectiva: Masuri care pana acum se foloseau doar pentru combaterea terorismului, de exemplu reconstruirea de rețele de contact, tocmai sunt propuse si pentru domeniul sănătății. Posibilitățile din domeniul analog pot fi extinse puternic prin aplicațiile digitale:

Devine posibil sa reproduci întreaga rețea de contacte a unei persoane într-un anumit interval de timp. Iar asta ar însemna o schimbare puternică in raportul de putere dintre individ si stat sau dintre individ si companii private, pe care trebuie sa o refuzam neapărat. In situația asta se poate spune într-adevăr ca „odată ieșită din tub, pasta de dinți nu mai poate fi băgata la loc“.

CRONICILE:
Apple si Google au anunțat ca doresc sa ofere ajutor in criza prin instalarea automata a trakingului odată cu un simplu update de sistem pe fiecare smartphone. Cum vedeți șansele de implicare a acestor companii in dezvoltarea Corona-Apps in Europa?

Prof. Dr. Jenette Hofmann
In primul rând trebuie spus ca fără cooperarea cu Apple si Google nu merge nimic. Fără o interfață din partea Apple sau Google, aplicațiile Corona nu pot fi instalate. Oricine susține acum ca o anumita soluție ar lucra fără ajutorul acestor companii, se iluzionează. Întrebarea e deci in ce condiții are loc cooperarea. Google si Apple susțin ambele varianta descentralizata. Iar acum ne putem doar întreba ce poate sa însemne asta: nimeni nu știe. Eu observ ca poziția celor doua companii este folosita acum pentru a argumenta împotriva soluției descentralizate. Si cred ca asta nu e fair.

CRONICILE:
Există posibilitatea ca aceste aplicații să ajungă să facă parte din dotarea standard a telefoanelor?

Prof. Dr. Jenette Hofmann
Sigur. Google si Apple au anunța pe de-o-parte ca vor sa implementeze trakingul in sistemul de operare, si pe de alta, ca vor sa dezvolte Corona-apps proprii. Iar asta e foarte problematic. Putem doar spera ca soluția care se dezvolta in Europa va fi îndeajuns de buna din punct de vedere tehnic, încât vom putea respinge soluțiile acestor companii.

(………………………………………………………)

***

Citiți interviul integral în nr. 94 al revistei CRONICILE Curs de Guvernare. 

Despre sumarul numărului 94 al CRONICILOR, precum și despre alte detalii privind publicația – UN LINK AICI.

(CRONICILE Curs de Guvernare: un ghid de navigare prin istoria vremii tale).