© Vatican Media

Despre mesajul papei pentru a 60-a Zi Mondială a Comunicaţiilor Sociale

Pentru o tehnologie în favoarea binelui comun

Mesajul puternic al Papei Leon al XIV-lea pentru a 60-a Zi Mondială a Comunicaţiilor Sociale începe cu o reflecţie care îi ghidează şi orientează întreaga desfăşurare: "Chipul şi vocea sunt trăsături unice, distinctive ale fiecărei persoane; ele manifestă identitatea sa irepetabilă şi sunt elementul constitutiv al fiecărei întâlniri".

Această consideraţie activează imediat la două reflecţii ulterioare. În primul rând, suntem chip şi voce şi nu avatare şi postări. Umanitatea noastră se exprimă graţie chipului nostru, care trebuie să se manifeste şi să fie observat, şi graţie unei voci care ne permite să exprimăm nu numai ideile noastre, ci şi emoţiile noastre. Prin urmare, o tehnologie în mod autentic după măsura omului trebuie să potenţeze, nu să elimine, înlocuindu-le, chipul nostru şi vocea noastră. Şi tocmai specificul care sculptează chipurile şi vocile - uneori considerate imperfecţiuni aparente - care ne caracterizează, ne definesc, ne identifică.

În al doilea rând, tocmai datorită puterii definitorii a chipului şi a vocii, acolo algoritmii şi maşinile de falsificare îşi concentrează eforturile de a ne înşela. Aşadar este interesant de observat că există un alt atribut propriu-zis uman - mâna - care continuă să scape creaţiilor sintetice. Adesea, tocmai privind mâinile într-o imagine de calitate fotografică recunoaştem generarea sa artificială, nu nu numai datorită plictiselii sale frecvente, la jumătatea distanţei dintre fotografie realistă şi desenul animat fantastic, ci mai ales datorită stângăciei cu care mâinile sunt (încă) reprezentate.

De fapt, pentru a recunoaşte cu uşurinţă fotografiile sintetice ar trebui ştearsă de praf metoda Morelli, dezvoltată de Giovanni Morelli - un contemporan al lui Arthur Conan Doyle - pentru a aplica rigoarea ştiinţei investigative studiului artei. Ipoteza metodei este că mâna unui artist poate fi identificată prin detalii anatomice caracteristice şi recurente în arta sa, pe care pictorul le-a repetat în mod aproape mecanic, deoarece el însuşi le-a considerat nesemnificative în contextul compoziţiei de ansamblu. Aceste "motive semnătură" (numite ulterior "cifruri morelliene") permit cercetătorului să atribuie corect o atribuire şi sunt, de exemplu, forma lobului urechii, conturul pleoapelor, lungimea falangelor, forma degetelor. În cazul IA generativă, cifrul morellian pentru a dezvălui influenţa algoritmică ar fi tocmai mâna.

Există un alt aspect care evidenţiază importanţa mâinii în era revoluţiei digitale: funcţionalitatea sa nu numai că defineşte fiinţa umană (datorită degetului mare opozabil), ci demonstrează şi modul corect de a ne implica în inovaţia tehnologică. Inovaţia autentică nu ar trebui să înlocuiască, ci să consolideze; nu ar trebui să fie un robot, ci un instrument care să fie ţinut şi orientat cu mâinile noastre. Pe de altă parte, însăşi etimologia cuvântului manager ne aminteşte de acest lucru: manu agere, a ghida cu mâna.

Provocarea pe care papa o evocă în acest mesaj este, aşadar, de a convieţui cu aceste tehnologii digitale, fiind conştienţi în acelaşi timp de luminile şi de umbrele lor. Nu de a renunţa la ele, considerându-le pur şi simplu periculoase, ci de folosindu-le la maximum pentru a potenţa umanitatea noastră şi a promova binele comun. A le folosi la maximum, aşadar, protejând chipul nostru, vocea noastră... şi, aş adăuga, mâinile noastre.

Şi astfel comunicarea, cea autentică şi dialogică făcută între fiinţele umane, devine centrală. Noi nu numai că ne completăm, ci ne definim cu Celălalt. Emmanuel Mounier nota în Personalismul: "Prima experienţă a persoanei este experienţa celei de-a doua persoane. Tu-ul, şi în el noi-ul, precede eu-l, sau cel puţin îl însoţeşte". Şi, de fapt, pentru Friedrich Nietzsche, "Tu-ul este mai vechi decât Eu-l". Şi poate că originea acestui lucru este tocmai procesul de concepere a fiinţei umane. Donald W. Winnicott, în Copiii şi mamele lor, scrie: "EU SUNT nu înseamnă nimic dacă nu există fundamentul că Eu la început sunt împreună cu o altă fiinţă umană, încă nediferenţiată".

Din aceste motive, dialogul - cu un prieten, un coleg, un profesor, un părinte - nu poate fi înlocuit în niciun fel de prompting-ul [îndemnul] unei platforme de inteligenţă artificială generativă. Mai mult, dialogul, căutarea de informaţii, reamintirea conceptelor care ne-au frapat, rezumarea unui text sau a unei discuţii, conectarea unor puncte aparent fără legătură... sunt activităţi care necesită practică şi antrenament. Delegarea lor către maşină nu numai că poate submina calitatea rezultatelor (nu atât în cazul începătorilor, cât al experţilor), dar ne condamnă la un degradare cognitivă progresivă.

Din examinarea extinsă pe care mesajul o face cu privire la riscurile potenţiale ale acestei tehnologii - "părţile întunecate ale digitalului", aşa cum le-am numit într-o carte a mea de acum câţiva ani - aş dori să aprofundez unul dintre ele, deoarece cred că este nu numai deosebit de importantă, ci şi adesea înţeleasă greşit. Papa Leon al XIV-lea ne avertizează, de fapt, împotriva "dependenţei naiv necritice de inteligenţa artificială ca «prietenă» omniscientă, distribuitoare a tuturor informaţiilor, arhivă a oricărei memorii, «oracol» al oricărui sfat".

Este interesant să amintim un text antic în acest sens - parte a culturii noastre mediteraneene - şi poate unul care nu a fost suficient luat în considerare de tehnocraţii digitalului. Platon îl scrie în Sofistul, punându-l pe străinul din Elea - actualul Velia în Cilento - să spună: "Noi trebuie să credem că există şi o altă artă [capabilă să imite realitatea, precum pictura], o artă a discursurilor, prin care este posibil, de data aceasta cu discursuri, să încântăm şi urechile tinerilor şi ale celor încă departe de cunoaşterea realităţii lucrurilor, arătându-le imagini rostite ale tuturor lucrurilor şi în aşa fel încât să le generăm opinia că vorbitorul spune adevărul şi că este cel mai înţelept dintre toţi în toate lucrurile?".

Ar putea părea o reflecţie asupra inteligenţei artificiale - sau, mai degrabă, un fragment dintr-o întâlnire internă la una dintre companiile care lansează pe piaţă noile platforme de inteligenţă artificială generativă. În schimb este o intuiţie care datează de aproximativ 2.300 de ani.

Pentru că scopul final al platformelor de inteligenţă artificială generativă nu este atât producerea de cunoştinţe, de sisteme experte, cât realizarea unui limbaj foarte puternic - numit language model [model lingvistic] - capabil să se adapteze la fiecare interlocutor care le interoghează şi să-l convingă de corectitudinea răspunsurilor lor. Un fel de "certificat oracular" care garantează că aceste tehnologii pot convinge fără a fi nevoie să demonstreze nici coerenţa a ceea ce spun, nici credibilitatea surselor din care se inspiră - care, de fapt, rămân întotdeauna în mod substanţial ascunse.

Prin urmare, inima sistemului este language model [modelul lingvistic], iar scopul antrenamentului este de a alimenta platforma cu miliarde de fragmente de conversaţii online pentru a se alinia şi a se familiariza cu limbajele reţelei şi cu ceea ce le place oamenilor (şi generează like [aprecieri]) şi, în ultimă instanţă, de a consolida propriul arsenal lingvistic în sens persuasiv pentru a ajunge să construiască ceea ce Cicero ar numi captatio benevolentiae digitală.

În concluzie, reluând cuvintele Papei Leon al XIV-lea, "problema care ne preocupă, totuşi, nu este ce reuşeşte sau va reuşi să facă maşina, ci ce putem şi vom putea face noi, crescând în umanitate şi cunoaştere, cu o utilizarea înţeleaptă a unor instrumente atât de puternice aflate la dispoziţia noastră".

Prin urmare, raportul cu tehnica nu este o simplă problemă de competenţe, ci de leadership autentică şi eficientă: nu este vorba numai de utilizarea corectă a noilor tehnologii, ci şi de luarea deciziilor corecte care deschid la utilizarea lor sau nu şi de crearea de contexte pentru utilizarea lor. Este, aşadar, o temă de discernământ şi de governance, care necesită şi un nou tip de leadership - sau, mai degrabă, de îndrumare - care să ne permită să folosim această tehnologie pentru binele comun, fără a fi folosiţi la rândul nostru.

Aşadar, există trei acţiuni de întreprins în această direcţie, care rezultă din recitirea inovaţiei tehnologice cu lentilele culturii şi tradiţiei mediteraneene:

- o tehnica drept techne;

- o tehnica drept pharmakon;

- o tehnica drept mijloc şi nu scop.

În primul rând, tehnica este o techne, un cuvânt grecesc care ne aminteşte dublul său sens: tehnică, o metodă de învăţat, şi artă, adică abilitatea individuală de a transforma cunoştinţele tehnice într-un produs artistic şi personal. Întotdeauna elementul uman este cel care le transformă în excelenţă.

În al doilea rând, este un pharmakon: un alt cuvânt grecesc care înseamnă atât medicament, cât şi otravă. Statutul său de pharmakon nu numai că ne aminteşte că tehnologia cu cât este mai puternică, cu atât este mai potenţial problematică; dar şi că "vina" nu este a tehnologiei, ci a celor care o administrează. Dacă este folosită bine, de fapt, aduce beneficii enorme. Dacă este administrată rău, în schimb, poate provoca daune semnificative şi - pentru a continua cu alegoria medicală - poate duce chiar la moartea pacientului. A vedea digitalul ca un pharmakon, ne mută atenţia de la tehnologie la competenţele necesare pentru a o utiliza.

În cele din urmă, este şi trebuie să rămână un mijloc, deşi unul foarte puternic, fără a se transforma vreodată în scop. Un oraş este smart [inteligent] pentru că în el se trăieşte mai bine, nu pentru că este plin de tehnologie. A confunda un mijloc cu scop este, după cum se ştie, periculos şi ineficient. Produce supunere şi acceptare necritică şi deschide calea pentru adoraţie care poate deveni cu uşurinţă idolatrie. Iar semnele sunt acum numeroase.

Andrea Granelli

(După L'Osservatore Romano, 26 februarie 2026)

Traducere de pr. Mihai Pătraşcu