Ai butonat greșit – și ești un infractor sau cine beneficiază de ratingul social?

Secolul tehnologiilor avansate mereu ne aduce alte noutăți. Dar nu putem spune că societatea le percepe cu entuziasm. În prezent, principalele temeri ale multor oameni țin de dezvoltarea inteligenței artificiale (IA), care treptat ar putea elimina omul dintr-un șir întreg de profesii. Provoacă îngrijorări și consecințele digitalizării totale.

Benevol-obligatoriu?

Ne-am deprins în așa măsură să utilizăm internetul, tot felul de gadgeturi, servicii publice electronice și conturi în serviciile electronice (rețele de socializare, internet-banking, marketuri etc.), că dacă acestea ar dispare la un moment dat, mulți își vor pierde sensul vieții. Unii cred că digitalizarea este un lucru bun, și menționează că odată cu ea viața oamenilor a devenit mai ușoară și mai confortabilă, dat fiind că au mai mult timp liber. Alții au convingerea că implementarea în exces a digitalizării omoară relațiile sociale culturale obișnuite, oamenii încetează să se mai vadă, să petreacă timpul împreună, deoarece gadgeturile ”inteligente” înlocuiesc comunicarea vie între oameni.

Fiecare parte are propriul adevăr, dar în cazul dat este incontestabil faptul, că noi utilizăm aceste servicii sau gadgeturi fără a fi forțați de cineva. Dorim – utilizăm, nu dorim - ștergem profilul de pe rețelele de socializare, contul de Telegram, Instagram sau altă aplicație, schimbăm androidul pe un telefon cu butoane sau renunțăm în general la mijloacele de comunicare. În acest caz, noi decidem.

Dar e de menționat, că în paralel cu cea descrisă, se dezvoltă și o altă digitalizare, care nu depinde deloc de noi. Spre exemplu, introducerea codului de identificare pentru fiecare persoană, luarea amprentelor, scanarea retinei ochiului a soluționat simultan numeroase probleme cu care anterior se confruntau statele: persoana luată la evidență nu se mai poate dizolva, ascunde. Introducerea diferitor registre, sisteme automatizate de evidență a contribuțiilor la asigurările sociale, plăți fiscale permit urmărirea laturii financiare a vieții contribuabililor. Instalarea camerelor video pe drumuri, în instituțiile publice, magazine și multe alte locuri publice permite urmărirea deplasării cetățeanului. Ne urmăresc și prin intermediul sistemelor electronice de plată, și prin camerele telefoanelor mobile, etc.

Inteligența artificială în locul învățătorului

Deja instituțiile școlare din mai multe țări introduc traiectorii educaționale digitale, portofolii digitale ale studenților, iar IA este implicată în elaborarea acestor traiectorii educaționale ale elevilor.

În Rusia, de exemplu, Ministerul educației și științei intenționează să introducă așa zisele traiectorii educaționale , sensul declarat al cărora este următorul: fiecare copil diferă de ceilalți, de aceea fiecare are nevoie de o abordare individuală și, mai mult, de discipline personale de studiu. Adică, nu e nevoie ca toți copiii să fie educați la fel.

În comentariul pe marginea inițiativei Ministerului rus al educației, jurnalistul, persoana publică, conducătorul proiectului «На распутье.ру» Andrei Afanasiev a menționat că în toate declarațiile oficiale traiectoria individuală este prezentată drept un bun absolut și incontestabil.

– Chipurile, asta se face pentru a descoperi aptitudinile individuale ale fiecărui elev concret, – spune A. Afanasiev. – Pentru mulți părinți ideea educației individuale a copilului sună destul de atractiv. Dar de fapt, cele propuse prin aceste traiectorii nu au nimic în comun cu educarea personalizată. Este o schemă, prin care pedagogii formează soarta și viitorul copilului. Și nu doar conform unui scenariu prestabilit de autorii acestor traiectorii. Dacă asta ar face doar învățătorii, ar fi cum ar fi, dar la dezbaterea tuturor traiectoriilor individuale de studii este vorba despre inteligența artificială, care va și determina aceste traiectorii. Adică, drumul elevului îl va stabili nu învățătorul, ci un oarecare program. Alcătuit conform unor algoritmi necunoscuți publicului larg.

La 1 martie,2022 în FR a început să funcționeze programul «Tehnologiile inteligenței artificiale în educație ». Proiectul presupune, că un anumit program va stabili, reieșind din caracteristicile pe cale le va citi pe copil, materialele din care acesta trebuie să învețe. Și nu este vorba doar despre procesul de studii.

Spre exemplu, la punctul «Tehnologii de viziune computerizată» se spune direct, că în clasă va fi instalată urmărirea video permanentă, pentru prevenirea situațiilor de conflict între elevi. În document asta sună așa: «recunoașterea în timp real a unei secvențe video și evaluarea stării psiho-emoționale a elevilor în clasă, identificarea tiparelor unei stări psiho-emoționale instabile».

În opinia lui A. Afanasiev, este vorba despre un sistem de identificare a emoțiilor, care a fost deja testat în multe școli din Moscova și Perm, unde și-a demonstrat inutilitatea totală.

– Am discutat personal cu oameni care au avut posibilitatea să utilizeze nemijlocit acest sistem. Nu există măcar un beneficiu. Iar datele pe care el le dă despre elevi, nu se corelează deloc cu realitatea, – susține conducătorul proiectului «На распутье.ру».

Un alt punct este consacrat faptului, că sistemul va determina pentru pedagog planul de studii al copilului, va elabora sarcinile reieșind din «datele mari» ale acestuia.

– Pentru ce atunci mai este nevoie de învățător ? – întreabă A. Afanasiev. – Învățătorul poate lipsi în general. Chiar așa este scris: «Totalitatea tehnologiilor de inteligență artificială descrise poate fi utilizată pentru învățarea autonomă, fără intervenția unui profesor, prin intermediul unui tutore de inteligență artificială». Astfel, un oarecare sistem va acumula toate datele despre copil, inclusiv cele comportamentale. Și în baza acestor date va determina viitorul lui, soarta lui! În baza unui algoritm stabilit nu se știe de cine și nu se știe pentru ce!

Afanasiev ne duce spre ideea, că de fapt acesta este un analog complet al ratingului social – sistemul în care comportamentul și faptele omului influențează direct posibilitatea lui de a obține anumite bunuri sociale.

– Dacă elevul încă din clasa 1 învață bine și are un comportament exemplar (da în acest sistem purtarea este apreciată chiar mai mult ca cunoștințele), atunci sistemul, nu pedagogul, îl va conduce pe o traiectorie convențională pozitivă, în care sarcinile se vor complica treptat, iar ratingul convențional va crește, – își explică A Afanasiev punctul de vedere . – Dar dacă elevul va începe încă din prima clasă să comită careva greșeli (în special comportamentale), sistemul îl va duce pe o cu totul altă traiectorie, în care din contra, sarcinile vor fi mai simple , iar la ieșire el se va alege cu ceea ce nu poate fi numit educație veritabilă. Asta în timp ce pe parcurs sistemul va elimina și într-un caz, și în altul, disciplinele pe care le va considera inutile. Dar în final doi elevi, unul eminent și altul slab, vor deveni oamenii unui buton, programat pentru diferite funcții. Doar că butoanele vor fi diferite. Acești absolvenți vor putea activa numai în acea sferă, pe care o va selecta pentru ei programul, deoarece alte cunoștințe pentru alte profesii ei pur și simplu nu vor avea. Anume aceasta este principala diferență intre sistemul propus și educația clasică, care oferea pachetul complet de cunoștințe în toate sferele. Și absolvind școala, copilul putea alege unde să meargă mai departe să studieze sau să muncească, și ce profesie să-și aleagă. Iar în acest sistem nu va mai exista o atare posibilitate. Absolventul va putea merge doar acolo, unde îi va indica programul.

În sistemul educațional din Republica Moldova încă nu există mișcări active privind introducerea traiectoriilor individuale, însă de ceva ani demnitarii de la Ministerul educației vorbesc despre aceea, că elevii și studenții trebuie educați reieșind din interesele businessului. Tinerii cu studii medii sunt îndemnați să aplice la colegiile care pregătesc specialități muncitorești, cu explicația că nu toți trebuie să meargă la universități, deoarece țara nu are nevoie de un număr așa de mare de specialiști cu studii superioare. Iar termenul «educație» tot mai des este înlocuit cu termenul «competență». Adică, e nevoie nu de o persoană care are studii, ci de una care poate îndeplini o singură funcție, o competență reieșind din necesitățile angajatorului.

Din emisiunea aceluiași Andrei Afanasiev am aflat că în Rusia se intenționează și înființarea unui profil digital, care să acumuleze întreaga informație despre fiecare cetățean, de la naștere și pe parcursul întregii vieți. La început, este preconizată realizarea unui proiect-pilot în 15 regiuni, după care acesta va fi extins în toată țara. Se presupune, că acest profil digital va influența educația elevilor și admiterea lor la universități.

Controlul total asupra cetățenilor în versiune chineză

Acest sistem amintește mult ratingul social și de creditare, care funcționează în prezent în China. Acolo din a. 2021 este implementat un sistem complex al ratingului social, care evaluează persoanele fizice și juridice în baza analizei datelor acumulate. Sistemul prevede un rating de la 1 la 1000 puncte, sau gradarea literală de la А la D. Ratingul social este «procesul de evaluare a activității umane în timp real, în baza tehnologiilor de inteligență artificială (IA)». Adică, este un fel de dosar virtual al fiecărui om, în care este introdusă toată informația acumulată despre el.

În China, datele despre oameni se acumulează din trei sfere de bază : 1) relațiile cu statul (dacă cetățeanul achită în timp util impozitele și conturile, întoarce creditele, a comis sau nu infracțiuni etc.); 2) comportamentul în societate (încalcă sau nu regulile circulației rutiere, îndeplinește normele de natalitate (numărul de copii în familie), este sau nu onest în activitatea profesională, are o abordare responsabilă a educației etc.); 3) viața în spațiul digital (cum se comportă persoana în spațiul virtual – cultura comunicării cu alți utilizatori, fiabilitatea și calitatea informațiilor plasate de ea, analiza cererilor de consum cu utilizarea platformelor digitale și a cumpărăturilor efectuate în magazinele virtuale). În funcție de datele disponibile, fiecare persoană este categorisită după cum urmează – loial, exemplar, neloial. În funcție de categoria atribuită, persoana are acces la anumite servicii.

Printre altele, oamenii cu ratingul scăzut nu pot pretinde la ocuparea unui șir întreg de locuri vacante, nu pot obține credite, cumpăra bilete pentru anumite genuri de transport, beneficia de multe servicii publice și înlesniri.

Experții spun, că un dezavantaj serios al sistemelor biciului și turtei dulci, cum este ratingul social sau învățarea variabilă, constă în faptul că viața noastră este construită în așa fel, că întotdeauna există mai multe motive pentru a pedepsi, nu pentru a stimula. Respectiv, oameni care lunecă în jos întotdeauna vor fi mai mulți. Căci la fiecare nivel următor ei vor fi lipsiți de anumite drepturi și posibilități, fără care e și mai dificil să ieși la suprafață. Așa e și în educație. Dacă în școala primară programul îl va purta pe elev spre traiectoria inferioară, el niciodată nu-i va ajunge din urmă pe elevii eminenți. Pur și simplu nu va dispune de cunoștințele necesare.

Involuntar, mai apare o întrebare: și dacă sistemul va eșua și toate punctele acumulate de persoană vor fi distruse? Atunci, fără îndoială, cetățeanul momentan se poate transforma dintr-un membru respectat al societății într-un proscris. Și e imposibil să explici programului că e vorba despre o eroare. Așa e și în cazul educației, este convins A. Afanasiev, conducătorul proiectului «На распутье.ру». Elevul pe care inteligența artificială îl va considera incapabil ( reieșind in niște parametri înțeleși doar de ea), va fi automat aruncat de sistem la marginea vieții.

O chestiune pentru dezbateri publice

Jurnalista portalului Noi.md l-a întrebat pe Veaceslav Cunev, președintele Asociației companiilor IT din Moldova, expert în domeniul tehnologiilor informaționale , dacă în viitorul apropiat ne putem aștepta și noi la introducerea unui astfel de sistem de evaluare a activității cetățenilor Moldovei, cum este ratingul social . În opinia acestuia, introducerea ratingului social în țara noastră este inevitabilă.

– Trebuie să înțelegem, că ratingul social într-o formă sau alt ori există, ori va apare ulterior, întrebarea este doar forma și gradul lui de rigiditate, – a comentat expertul. – Acum cea mai rigidă este varianta chineză a ratingului social, care este perceput foarte calm de societatea chineză. Asta deoarece el corespunde deplin tradițiilor mentale ale confucianismului. Chinezii se simt prost dacă cineva cunoaște despre ei ceva rău. Cu pierderea punctelor de rating social, dacă persoana a făcut ceva inacceptabil pentru societate, ea își pierde fața. La chinezi asta funcționează, și ei știu de ce. De aceea populația a perceput calm introducerea ratingului social. În același timp, este un control extrem de dur, și acest control dur prezintă interes pentru toate guvernele. Fiecare guvern, oricum ar fi el, dorește să-și controleze dur cetățenii. Trebuie de văzut cum reacționează la asta societatea concretă. O societate, de exemplu cea chineză, reacționează calm, da alta, educată în tradiții liberale, se poate împotrivi și demonstra că nu-i place asta. Ulterior vom urmări care societăți și cum reacționează la asta, și în ce măsură guvernele le vor permite să o facă. Dar cert e că așa va fi peste tot, fără variante.

V.Cunev spune că deocamdată în societatea moldovenească se observă variante aparte de control digital. Iar controlul general asupra noastră a fost instalat odată cu digitalizarea tuturor cetățenilor. Azi statul cunoaște toate datoriile persoanei, dacă ea a achitat sau nu amenda. Dacă cetățeanul nu a achitat o amendă, el poate avea probleme la hotar, la ieșirea din țară pentru o vacanță sau o deplasare de serviciu. O vreme a existat amenințarea ca persoana să nu poată ieși din țară dacă are datorii pentru serviciile comunale.

– La noi în Moldova și azi este totul gata pentru implementarea elementelor de rating social, și guvernarea va merge tot mai departe, pentru că așa îi este cel mai comod, – continuă V.Cunev. – Firește, totul este învelit într-un ambalaj acceptabil din punct de vedere social, că este necesar în scopuri de securitate, etc., etc. În principiu, e ceva rezonabil aici, deoarece un sistem complex, iar noi percepem societatea ca sistem, este mai dificil de administrat. Și dacă ai un sistem foarte complicat, bazat pe necesitatea internetului, a curentului electric și așa mai departe, înțelegi că dacă, Doamne ferește, va exista un atac terorist, el ar putea avea consecințe catastrofale. De aceea, pentru a preveni astfel de situații e nevoie de niște sisteme de control foarte complicate. Conform legii în vigoare, sistemul de administrare trebuie să fie mereu mai complicat ca obiectul administrat. Dat fiind că din punct de vedere al tehnologiilor societatea noastră devine mai complexă, și tehnologiile care administrează societatea trebuie să devină tot mai complicate. Pe de o parte este clar că e ceva necesar, căci în caz contrar noi vom lăsa să treacă persoane, care pot comite acte teroriste cu consecințe catastrofale. Pe de alta, e nevoie de un echilibru, trebuie să stabilim unde este limita. Corectă este societatea, în care subiectul se discută și ratingul social stabilește ce este bine și ce este rău; cu ce viteză putem noi aplica asta. Chiar dacă dispunem de posibilități tehnologice să facem așa ca în China, trebuie să discutăm – o facem la fel, sau lăsăm cetățenilor anumite libertăți? Este o întrebare pentru dezbateri publice, de aceea unicul lucru pe care îl putem face e să lansăm o discuție la acest subiect, pentru ca oamenii să înțeleagă maxim ce gen de rating social avem noi. Orice metodă de a controla cetățenii prin careva acțiuni digitale este o variantă a ratingului social. Și noi trebuie să discutăm ce fapte și în ce măsură trebuie sau nu trebuie să influențeze ratingul social; care scor al ratingului social ar trebui să corespundă căror privări de drepturi și așa mai departe. Adică, e nevoie de o discuție publică .

În opinia lui Dumitru Tărăburcă, directorul Societății evaluatorilor independenți (SEIRM) care nu este un profesionist în acest domeniu, dar e un cetățean activ al țării sale, implementarea ratingului social și a digitalizării nu numai că nu ne trebuie, dar e și periculoasă.

– Pe neașteptate, vă puteți trezi un bandit numai pentru că cineva a încurcat butonul, asemenea metode necesită o anumită cultură înaltă și o dezvoltare uniformă a societății , – crede el. – Dacă unul e spre Est, altul spre Vest, unul nu mai este moldovean, altul – încă nu este român, despre ce fel de rating social vorbim? Nu avem destule pușcării pentru cei nedoriți, nu există standarde de dezvoltare a societății. Unul poate înjura necenzurat în emisie directă și scuipa pe mormintele strămoșilor, altul este amendat pentru că a sărbătorit Ziua Victoriei. Dar ratingul social este un scop, nu o acțiune. Mai bine lasă la toți să existe, da la noi – nu, așa un element de libertate, un nivel ortodox înalt de încredere în oameni.

Probleme garantate

La studierea detaliată a chestiunii privind ratingul social, s-a dovedit, că un șir de experți cred că introducerea concepției de rating social poate provoca mai multe probleme, printre care:

– netransparența regulilor și algoritmilor în baza cărora sistemul ratingului social va aprecia comportamentul omului;

– nimeni nu va fi imun la deranking-ul social( reducerea gradului, a categoriei);

– sistemul ratingului social poate avea numeroase verigi ( din cauza ratingului redus omul poate să nu obțină funcția cerută, dat fiind că nu va permite «supraveghetorul digital», și deci vor fi limitate libertățile fundamentale ale omului privind dreptul la alegere, dreptul de a dispune liber de propria viață );

– discriminarea digitală a persoanei (plus la Constituție și legislația în vigoare, va apare un set de legi digital, un cod procesual digital: unele garantează niște drepturi, altele pot discrimina oamenii fără ca aceștia să comită infracțiuni în temeiul actelor juridice existente );

– sistemul ratingului social duce la destabilizarea socială (nemulțumirea cetățenilor se poate solda cu acțiuni de protest, da cineva va dori să-și sporească ratingul contra unei plăți moderate ).

UE va interzice utilizarea sistemelor IA cu «risc sporit»

Apropo, UE spre care mereu se orientează autoritățile noastre intenționează să introducă o barieră pentru ratingul social, dat fiind că structurile superioare ale UE au văzut riscurile implementării lui încă la etapele inițiale. Acum doi ani, Comisia Europeană s-a pronunțat pentru interzicerea implementării tehnologiilor de IA, utilizate pentru «supravegherea în masă, aplicată în mod generalizat tuturor persoanelor fizice, fără excepții ». Ilegale se consideră așa metode de supraveghere, ca «monitorizarea și supravegherea persoanelor fizice în mediul digital sau fizic, precum și agregarea și analiza automată a datelor personale din diverse surse ».

UE preconizează să interzică utilizarea sistemelor IA «cu risc sporit», categorie la care au fost atribuite tehnologiile IA în chirurgia robotizată, programele IA în software-ul de recrutare a angajaților, IA pentru verificarea actelor și a probelor (în procedura justițiară) , precum și IA pentru evaluarea ratingului de creditare al cetățenilor — elementul inițial în sistemul de rating social. Mai mult, în nota explicativă Comisia Europeană menționează, că este inacceptabilă însăși esența ratingului social și utilizarea IA în «aplicațiile care manipulează comportamentul persoanei pentru a-i ocoli voința ».

Astfel, implementarea tuturor tehnologiilor și proceselor menționate mai sus necesită o abordare competentă. Cum a menționat V.Cunev, e nevoie să se discute cu societatea, trebuie nu pur și simplu să implementăm după exemplul altor țări, dar să ținem cont de mentalitatea societății. Același V.Cunev , spre exemplu, vorbind despre fenomenul IA din punctul de vedere al societății în general, a menționat că, oferind IA prea multe competențe, încetăm să o mai controlăm și nu vom putea înțelege logica deciziilor pe care aceasta le va propune, dar și urmările ce pot avea loc. De aceea și în acest caz este important să discutăm cu societatea : dacă lansăm IA, care domenii ale vieții acceptăm să fie influențate și care - nu, și în ce formă. Dar nu putem sta în poziția struțului care ascunde capul în nisip. Subiectul trebuie studiat și despre el trebuie să se vorbească. Problema e că la noi nu se leagă dezbateri publice pe marginea unor chestiuni așa de importante pentru întreaga societate .

Noi propunem să începem…

Lidia Ceban