În confruntare cu enciclica „Magnifica humanitas”
Când demnitatea devine regulă
Această lucrare examinează Magnifica humanitas dintr-o perspectivă juridică, concentrându-se pe potențiala traducere a demnității umane în criterii concrete pentru reglementarea inteligenței artificiale. Scopul nu este de a atribui enciclicei o forță normativă pe care aceasta nu o deține în ordinea juridică a statelor, ci mai degrabă de a examina în ce măsură principiile sale (centralitatea persoanei, responsabilitatea, supravegherea umană, transparența, protecția celor vulnerabili și limitarea puterii tehnologice) converg cu modelele de reglementare existente și pot ghida potențial noi alegeri legislative și instituționale. Din această perspectivă, Magnifica humanitas este astfel interpretată ca o sursă potențială de raționament public pentru legea inteligenței artificiale: nu o lege despre tehnologie, ci o contribuție la înțelegerea limitelor în care tehnologia poate avea un impact legitim asupra indivizilor.
De la întrebarea tehnică la întrebarea antropologică
Magnifica humanitas nu este o lege privind inteligența artificială. Dar poate ajuta la explicarea motivului pentru care avem nevoie de anumite legi privind inteligența artificială. Aceasta este o modalitate, dintr-o perspectivă juridică, de a citi enciclica lui Leon al XIV-lea.
Dezbaterea contemporană despre IA tinde să înceapă cu întrebări tehnice: ce sisteme ar trebui interzise, ce obligații de transparență ar trebui impuse, cine ar trebui să fie responsabil pentru erori, ce riscuri ar trebui evaluate și ce supraveghere ar trebui asigurată. Acestea sunt întrebări esențiale; dar mai întâi, există una mai fundamentală: ce idee despre persoana umană ar trebui să ghideze dezvoltarea și utilizarea inteligenței artificiale?
Magnifica humanitas mută problema tocmai la acest nivel. Tehnologia nu este evaluată exclusiv pe baza eficienței sale, a capacității sale de inovare sau a beneficiilor economice pe care le poate genera. Criteriul decisiv este relația dintre progresul tehnic și demnitatea umană. Ființele umane nu pot deveni o variabilă de optimizare, un set de date, un profil statistic sau un obiect care să fie clasificat în funcție de criterii de performanță, predictibilitate sau utilitate.
Această abordare nu implică o respingere a tehnologiei. Dimpotrivă, ne permite să distingem între inovație și tehnocrație. O societate poate utiliza sisteme din ce în ce mai sofisticate fără a abandona ideea că tehnologia trebuie să rămână un instrument. Problema începe atunci când capacitatea tehnică tinde să devină un criteriu autonom de legitimitate: dacă ceva poate fi automatizat, atunci ar trebui să existe; dacă poate fi prezis, atunci ar trebui folosit pentru a lua decizii; dacă poate fi măsurată, atunci ar trebui să determine valoarea sau oportunitățile unei persoane.
Tocmai aici întrebarea antropologică devine o întrebare juridică.
De la demnitatea abstractă la regula concretă
A afirma că inteligența artificială trebuie să fie „centrată pe om” este relativ simplu. Traducerea acestei formule în obligații, drepturi și instituții este mai dificilă. Și în acest context, Magnifica humanitas demonstrează o relevanță deosebită pentru drept.
Demnitatea umană, atunci când este luată în serios, nu este o declarație generală. Ea implică limite concrete. Dacă o persoană nu poate fi redusă la profilul său informațional, atunci nu orice inferență algoritmică poate fi folosită în mod legitim împotriva ei. Dacă autonomia este o valoare juridică, atunci tehnicile capabile să manipuleze sistematic deciziile individuale trebuie să îndeplinească restricții. Dacă responsabilitatea rămâne umană, atunci este inacceptabil ca o administrație, o companie sau un profesionist să se ascundă în spatele afirmației că „algoritmul a decis”.
Aceeași logică se aplică transparenței și supravegherii umane. Nu este vorba despre a face public fiecare cod sursă, ci mai degrabă de a ne asigura că cei afectați de o decizie importantă știu că a fost utilizat un sistem automatizat, înțeleg elementele esențiale care au influențat rezultatul și au instrumentele necesare pentru a-l contesta.
De asemenea, prezența formală a unei persoane la sfârșitul unui proces nu este suficientă: cei care exercită supravegherea trebuie să aibă informațiile, expertiza și autoritatea efectivă pentru a înțelege, critica și, dacă este necesar, a anula rezultatul mașinii. În caz contrar, intervenția umană devine un gest ritualic care legitimează o decizie deja luată în esență în altă parte.
Protecția persoanelor vulnerabile devine regula împotriva discriminării, manipulării și exploatării fragilității. Responsabilitatea devine răspundere (accountability). Centralitatea persoanei devine dreptul de a contesta. Critica concentrării tehnologice devine o chestiune de concurență, control al infrastructurii și distribuție a puterii.
În acest sens, Magnifica humanitas se pretează la o traducere juridică concretă.
O convergență deja vizibilă
Poate cel mai interesant este faptul că multe dintre aceste principii sunt deja prezente, independent, în principalele modele contemporane de reglementare a inteligenței artificiale (IA).
Regulamentul general privind protecția datelor (GDPR) prevede că prelucrarea datelor cu caracter personal trebuie să fie concepută pentru a servi omenirea. Artificial Intelligence Act a Uniunii Europene (AI Act) conturează o inteligență artificială antropocentrică și credibilă, reglementează sistemele cu risc ridicat, impune transparență și supraveghere umană și interzice practicile incompatibile cu valorile fundamentale ale sistemului juridic european.
Recomandarea UNESCO privind etica inteligenței artificiale leagă tehnologia de demnitate, nediscriminare și responsabilitate. Principiile OCDE solicită valori centrate pe ființa umană, transparență, robustețe și responsabilitate (accountability). În contexte instituționale foarte diferite, apare un lexicon comun: demnitate, responsabilitate, control uman, nediscriminare, transparență și capacitatea de a contesta puterea algoritmică.
Desigur, aceste instrumente sunt anterioare Magnifica humanitas și nu au fost influențate de aceasta; dar tocmai din acest motiv, relația este mai semnificativă: există o convergență normativă. Tradițiile religioase, sistemele juridice, organizațiile internaționale și diferite instituții politice, prin propriile căi independente, ajung la o concluzie similară: inteligența artificială nu poate fi reglementată exclusiv în funcție de parametrii de eficiență și siguranță tehnică, ci trebuie integrată într-un cadru de valori care preced tehnologia și pe care nu este autorizată să le redefinească singură.
Prin urmare, Magnifica humanitas nu introduce aceste principii din nou; dimpotrivă, le reunește într-o concepție coerentă a persoanei și a puterii. Tocmai această capacitate de a conecta aspecte pe care legea le reglementează separat (date, discriminare, responsabilitate, transparență, vulnerabilitate, concentrare economică) constituie una dintre potențialele sale contribuții la dezbaterea juridică.
Limitarea puterii în era algoritmică
Cea mai profundă contribuție a enciclicei la legea inteligenței artificiale ar putea rezida tocmai în concepția sa despre putere.
Reglementarea tehnologică este adesea prezentată ca o problemă de gestionare a riscurilor. Această perspectivă este necesară, dar nu suficientă. Unele probleme privesc nu numai riscul funcționării defectuoase a unui sistem, ci și puterea pe care o permite să fie exercitată chiar și atunci când funcționează exact așa cum este prevăzut.
Un algoritm poate clasifica corect și totuși poate utiliza criterii nelegitime. Poate prezice cu mare precizie și totuși poate interfera în mod nejustificat cu libertatea. Poate fi eficient și totuși poate produce o concentrare de putere incompatibilă cu pluralismul. Poate fi transparent din punct de vedere tehnic și totuși integrat într-o structură economică în care câțiva actori controlează infrastructura, datele și capacitatea de calcul.
De aceea, legea nu trebuie doar să se întrebe dacă inteligența artificială este sigură, ci și cine o controlează, cine îi decide scopurile, cine îi poate contesta efectele și cine este responsabil atunci când utilizarea sa are impact asupra vieții oamenilor. Această interpretare nu este străină instrumentelor existente: interzicerea lui social scoring în AI Act și protecția împotriva profilării în GDPR nu se referă la sistemele care funcționează prost, ci la sistemele care funcționează prea bine; ele reglementează puterea, nu doar riscul.
Este vorba, la urma urmei, de o chestiune constituțională foarte veche. Constituționalismul s-a născut pentru a limita puterea. Societatea algoritmică nu face ca această funcție să fie obsoletă; o face mai dificilă. Puterea contemporană poate fi publică sau privată, vizibilă sau invizibilă, teritorială sau transnațională. Poate fi exercitată printr-o decizie formal recognoscibilă sau prin ierarhizarea conținutului, producerea de profiluri, predicția comportamentelor și distribuția oportunităților.
Însă noutatea este că această putere este din ce în ce mai puțin publică și mai mult privată: platformele, nu statele, sunt cele care determină cine este vizibil, cine are acces la muncă, la credite și la informații. Este o putere cvasi-suverană, exercitată în afara garanțiilor pe care constituționalismul le-a construit împotriva puterii suverane. Aici, demnitatea necesită eficacitatea drepturilor fundamentale chiar și în relațiile private.
De aceea, demnitatea nu se limitează la a afirma o valoare: funcționează ca o regulă triplă, interzicând anumite utilizări, necesitând justificare și atribuind responsabilitate.
Nu este nevoie să ne imaginăm valori juridice complet noi. Libertatea, egalitatea, demnitatea, responsabilitatea și respectarea garanțiilor legale rămân esențiale; ceea ce trebuie să se schimbe sunt instrumentele care le fac eficiente în fața noilor forme de putere.
Magnifica humanitas denunță, de asemenea, logica ce transformă tehnologia într-un instrument de dominație, excluziune sau moarte și solicită dezarmarea acesteia: întrebarea crucială nu este cât de departe poate merge inteligența artificială, ci în ce limite vrem să-i permitem să aibă un impact asupra persoanei și a societății.
Progresul tehnic ne poate spori capacitățile. Nu poate decide singură cum ar trebui utilizate aceste capacități. Această decizie rămâne morală, politică și juridică. Rămâne o întrebare: cum putem traduce aceste rațiuni publice în reguli, fără a reintroduce paternalismul statal sau cenzura morală?
Și tocmai aici demnitatea devine regulă. În era inteligenței artificiale, protejarea demnității umane înseamnă și recunoașterea faptului că nicio putere nu devine legitimă pur și simplu pentru că a învățat să se exercite prin intermediul unui algoritm.
Oscar Valente Cardoso, judecător federal brazilian și profesor de Drept digital
(După L’Osservatore Romano, 15 septembrie 2026)
Traducere de pr. Mihai Pătrașcu
