|
| © Vatican Media |
Mesajul Sfântului Părinte Leon al XIV-lea
pentru a 60-a Zi Mondială a Comunicaţiilor Sociale
Protejarea vocilor şi chipurilor umane
Iubiţi fraţi şi surori!
Chipul şi vocea sunt trăsături unice, distinctive, ale fiecărei persoane; manifestă propria identitate irepetabilă şi sunt elementul constitutiv al fiecărei întâlniri. Anticii ştiau bine acest lucru. Astfel, pentru a defini persoana umană, grecii antici foloseau cuvântul "chip" (prósōpon), care etimologic indică ceea ce se află în faţa privirii, locul prezenţei şi al relaţiei. Termenul latin persona (din per-sonare) include în schimb sunetul: nu un sunet oarecare, ci vocea inconfundabilă a cuiva.
Chipul şi vocea sunt sacre. Ne-au fost dăruite de Dumnezeu, care ne-a creat după chipul şi asemănarea sa, chemându-ne la viaţă cu Cuvântul pe care el însuşi ni l-a adresat; un Cuvânt care a răsunat mai întâi de-a lungul secolelor în vocile profeţilor, apoi s-a întrupat la plinirea timpurilor. Acest Cuvânt – această comunicare pe care Dumnezeu o face despre sine însuşi – am putut să-l ascultăm şi să-l vedem şi direct (cf. 1In 1,1-3), pentru că s-a făcut cunoscut în vocea şi în Chipul lui Isus, Fiul lui Dumnezeu.
Din momentul creaţiei sale, Dumnezeu l-a voit pe om ca interlocutor al său şi, aşa cum spune Sfântul Grigore de Nyssa[1], i-a imprimat pe chip o reflexie a iubirii divine, pentru ca acesta să poată trăi pe deplin propria umanitate prin iubire. A păstra chipurile şi vocile umane înseamnă, aşadar, a păstra această pecete, această reflexie de neşters a iubirii lui Dumnezeu. Nu suntem o specie alcătuită din algoritmi biochimici, definiţi dinainte. Fiecare dintre noi are o vocaţie de neînlocuit şi inimitabilă care izvorăşte din viaţă şi se manifestă tocmai în comunicarea cu ceilalţi.
Tehnologia digitală, dacă nu reuşim să ne protejăm, riscă în schimb să modifice radical unii dintre pilonii fundamentali ai civilizaţiei umane, pe care uneori îi considerăm de la sine înţeleşi. Prin simularea vocilor şi chipurilor umane, a înţelepciunii şi cunoaşterii, a conştientizării şi responsabilităţii, a empatiei şi prieteniei, sistemele cunoscute sub numele de inteligenţă artificială nu numai că interferează în ecosistemele informaţionale, ci invadează şi cel mai profund nivel al comunicării, acela al raportului dintre persoane umane.
Prin urmare, provocarea nu este tehnologică, ci antropologică. Protejarea feţelor şi a vocilor înseamnă, în ultimă instanţă, a ne proteja pe noi înşine. A îmbrăţişa oportunităţile oferite de tehnologia digitală şi inteligenţa artificială cu curaj, determinare şi discernământ nu înseamnă a ascunde de noi înşine problemele critice, opacităţile, riscurile.
A nu renunţa la propria gândire
Există de mult timp dovezi multiple care arată că algoritmii concepuţi pentru a maximiza implicarea pe reţelele de socializare – profitabilă pentru platforme – recompensează emoţiile rapide şi penalizează în schimb exprimări umane care au mai mare nevoie de timp, cum ar fi efortul de a înţelege şi reflecţia. Prin limitarea grupurilor de oameni în bule de consens uşor şi indignare uşoară, aceşti algoritmi slăbesc capacitatea de ascultare şi de gândire critică şi cresc polarizarea socială.
La aceasta s-a adăugat apoi o dependenţă naivă şi necritică de inteligenţa artificială ca "prietenă" omniscientă, distribuitoare a tuturor informaţiilor, arhivă a tuturor amintirilor, "oracol" al tuturor sfaturilor. Toate acestea pot eroda şi mai mult capacitatea noastră de a gândi în mod analitic şi creativ, de a înţelege semnificaţiile, de a distinge între sintaxă şi semantică.
Deşi IA poate oferi sprijin şi asistenţă în gestionarea sarcinilor de comunicare, evitarea efortului propriei noastre gândiri, mulţumindu-ne cu compilarea statistică artificială, riscă să ne erodeze abilităţile cognitive, emoţionale şi comunicative pe termen lung.
În ultimii ani, sistemele de inteligenţă artificială au preluat din ce în ce mai mult controlul asupra producţiei de texte, muzică şi videoclipuri. O mare parte din industria creativă umană riscă astfel să fie demontată şi înlocuită cu eticheta "Powered by AI", transformând persoanele în simpli consumatori pasivi de gânduri negândite, de produse anonime, fără paternitate, fără iubire. În timp ce capodoperele geniului uman în muzică, artă şi literatură sunt reduse la simple terenuri de antrenament pentru maşini.
Totuşi, problema care ne preocupă nu este ce reuşeşte sau va reuşi să facă maşina, ci ce putem şi vom putea face noi, crescând în umanitate şi cunoaştere, cu o utilizare înţeleaptă a unor instrumente atât de puternice aflate la dispoziţia noastră. Oamenii au fost întotdeauna tentaţi să îşi însuşească roadele cunoaşterii fără efortul de implicare, cercetare şi responsabilitate personală. Renunţarea la procesul creativ şi predarea propriilor funcţii mentale şi a propriei imaginaţii maşinilor înseamnă totuşi să îngropăm talanţii pe care i-am primit în scopul de a creşte ca oameni în relaţie cu Dumnezeu şi cu ceilalţi. Înseamnă să ascundem chipul nostru şi să reducem la tăcere vocea noastră.
A fi sau a ne preface: Simularea relaţiilor şi a realităţii
Pe măsură ce parcurgem fluxurile noastre de informaţii (feed), devine tot mai dificil să înţelegem dacă interacţionăm cu alte fiinţe umane sau cu "bot" [boţi] sau "virtual influencers" [influenceri virtuali]. Intervenţiile opace ale acestor agenţi automatizaţi influenţează dezbaterile publice şi alegerile oamenilor. Chatboţii bazaţi pe modele lingvistice mari (LLM), în special, se dovedesc surprinzător de eficienţi în convingerea ascunsă, printr-o optimizare continuă a interacţiunii personalizate. Structura dialogică şi adaptivă, mimetică, a acestor modele lingvistice este capabilă să imite sentimentele umane şi, astfel, să simuleze o relaţie. Această antropomorfizare, care poate fi chiar amuzantă, este şi înşelătoare, mai ales pentru cei mai vulnerabili. Deoarece chatboţii făcuţi excesiv de "afectuoşi", pe lângă faptul că sunt mereu prezenţi şi disponibili, pot deveni arhitecţi ascunşi ai stărilor noastre emoţionale şi, astfel, pot invada şi ocupa sfera intimităţii persoanelor.
Tehnologia care exploatează nevoia noastră de relaţie poate avea nu numai consecinţe dureroase asupra destinului indivizilor, ci poate deteriora şi structura socială, culturală şi politică a societăţilor. Acest lucru se întâmplă atunci când înlocuim relaţiile cu ceilalţi cu cele cu inteligenţe artificiale antrenate să ne catalogheze gândurile şi astfel să construim o lume de oglinzi în jurul nostru, unde totul este făcut "după chipul şi asemănarea noastră". În acest fel, ne permitem să fim jefuiţi de oportunitatea de a-l întâlni pe celălalt, care este întotdeauna diferit de noi şi cu care putem şi trebuie să învăţăm să interacţionăm. Fără a îmbrăţişa alteritatea, nu poate exista nici relaţie, nici prietenie.
O altă provocare majoră pe care o prezintă aceste sisteme emergente este cea a distorsiunii (în engleză bias), care duce la dobândirea şi transmiterea unei percepţii alterate a realităţii. Modelele de IA sunt modelate de viziunea asupra lumii a celor care le construiesc şi pot, la rândul lor, impune moduri de gândire prin replicarea stereotipurilor şi a prejudecăţilor prezente în datele pe care le utilizează. Lipsa de transparenţă în proiectarea algoritmilor, coroborată cu reprezentarea socială inadecvată a datelor, tinde să ne prindă în reţele care ne manipulează gândurile şi perpetuează şi adâncesc inegalităţile şi nedreptăţile sociale existente.
Riscul este mare. Puterea simulării este de aşa natură încât IA ne poate chiar amăgi prin fabricarea de "realităţi" paralele, însuşindu-şi chipurile noastre şi vocile noastre. Suntem cufundaţi într-o multidimensionalitate, unde devine tot mai dificil să distingem realitatea de ficţiune.
La aceasta se adaugă problema inexactităţii. Sistemele care prezintă probabilitatea statistică drept cunoştinţe ne oferă, de fapt, în cel mai bun caz, aproximări ale adevărului, care uneori sunt pur şi simplu "halucinaţii". Lipsa verificării surselor, combinată cu criza din jurnalismul de teren, care necesită colectarea şi verificarea constantă a informaţiilor la locul evenimentelor, poate crea un teren şi mai fertil pentru dezinformare, provocând un sentiment tot mai mare de neîncredere, rătăcire şi insecuritate.
O alianţă posibilă
În spatele acestei enorme forţe invizibile care ne implică pe toţi, există numai o mână de companii, cele ai căror fondatori au fost prezentaţi recent drept creatorii "persoanei anului 2025", şi anume arhitecţii inteligenţei artificiale. Acest lucru ridică îngrijorări semnificative cu privire la controlul oligopolistic al sistemelor algoritmice şi de inteligenţă artificială capabile să orienteze subtil comportamentele şi chiar să rescrie istoria umană – inclusiv istoria Bisericii – adesea fără ca noi să fim cu adevărat conştienţi de acest lucru.
Provocarea care ne aşteaptă nu este să oprim inovaţia digitală, ci să o ghidăm, să fim conştienţi de caracterul său ambivalent. Depinde de fiecare dintre noi să ne ridicăm vocea în apărarea persoanelor umane, astfel încât să putem integra cu adevărat aceste instrumente ca aliaţi.
Această alianţă este posibilă, dar trebuie să fie fondată pe trei piloni: responsabilitate, cooperare şi educaţie.
În primul rând, responsabilitatea. În funcţie de rol, aceasta poate fi definită ca onestitate, transparenţă, curaj, capacitate de viziune, datorie de a împărtăşi cunoştinţe, dreptul de a fi informat. Dar, în general, nimeni nu poate scăpa de propria responsabilitate în faţa viitorului pe care îl construim.
Pentru cei aflaţi la cârma platformelor online, aceasta înseamnă să se asigure că propriile strategii de afaceri nu sunt ghidate numai de maximizarea profitului, ci şi de o viziune clarvăzătoare care ţine cont de binele comun, în acelaşi mod în care fiecare dintre ei are grijă de bunăstarea copiilor săi.
Creatorilor şi dezvoltatorilor de modele de inteligenţă artificială le este cerută transparenţă şi responsabilitate social în ceea ce priveşte principiile de proiectare şi sistemele de moderare care stau la baza algoritmilor şi modelelor dezvoltate, pentru a favoriza un consimţământ informat din partea utilizatorilor.
Aceeaşi responsabilitate este impusă şi legislatorilor naţionali şi autorităţilor de reglementare supranaţionale, care sunt responsabili de asigurarea respectului pentru demnitatea umană. O reglementare adecvată poate proteja persoanele de o legătură emoţională faţă de chatboţi şi poate limita răspândirea conţinuturilor false, manipulatoare sau înşelătoare, păstrând integritatea informaţiei împotriva simulărilor înşelătoare.
Companiile de mass-media şi de comunicare, la rândul lor, nu pot permite ca algoritmii hotărâţi să câştige bătălia pentru câteva secunde suplimentare de atenţie cu orice preţ să prevaleze asupra loialităţii lor faţă de valorile lor profesionale, care vizează căutarea adevărului. Încrederea publică se câştigă prin acurateţe şi transparenţă, nu prin urmărirea oricărui tip de implicare. Conţinuturile generate sau manipulate de inteligenţa artificială trebuie să fie clar semnalizate şi distinse de conţinuturile create de persoane. Paternitatea şi proprietatea suverană asupra muncii jurnaliştilor şi a altor creatori de conţinut trebuie protejate. Informaţia este un bun public. Un serviciu public constructiv şi semnificativ nu se bazează pe opacitate, ci pe transparenţa surselor, pe includerea subiecţilor implicaţi şi pe un standard ridicat de calitate.
Suntem cu toţii chemaţi să cooperăm. Niciun sector nu poate aborda singur provocarea de a stimula inovaţia digitală şi guvernanţa IA. Prin urmare, trebuie create mecanisme de salvgardare. Toate părţile interesate – de la industria tehnologică la legislatori, de la companii creative la lumea academică, de la artişti la jurnalişti, la educatori – trebuie să fie implicate în construirea şi implementarea unei cetăţenii digitale conştiente şi responsabile.
Acest lucru este ceea ce îşi propune educaţia să realizeze: să sporim capacităţile noastre personale de reflecţie critică, să evaluăm credibilitatea surselor şi potenţialele interese din spatele selecţiei informaţiilor care ajung la noi, să înţelegem mecanismele psihologice care le activează, să permitem familiilor, comunităţilor şi asociaţiilor noastre să elaboreze criterii practice pentru o cultură a comunicării mai sănătoasă şi mai responsabilă.
Tocmai din acest motiv, este tot mai urgentă introducerea în sistemele educaţionale la toate nivelurile şi a alfabetizării în domeniul mass-media, al informaţiei şi al inteligenţei artificiale, pe care unele instituţii civile o promovează deja. Fiind catolici, putem şi trebuie să aducem contribuţia noastră la asigurarea faptului că persoanele – mai ales tinerii – dobândesc capacitatea de gândire critică şi cresc în libertate spiritului. În afară de asta, această alfabetizare ar trebui integrată în iniţiative mai ample de educaţie permanentă, ajungând şi la persoanele în vârstă şi la membrii marginalizaţi ai societăţii, care adesea se simt excluşi şi neputincioşi în faţa rapidelor schimbări tehnologice.
Alfabetizarea în domeniul mass-media, al informaţiei şi al inteligenţei artificiale (IA) va ajuta pe toţi să evite adaptarea la deriva antropomorfizantă a acestor sisteme, ci, în schimb, să le trateze ca pe nişte instrumente, să utilizeze întotdeauna o validare externă a surselor furnizate de sistemele de IA – care pot fi inexacte sau incorecte – şi să-şi protejeze confidenţialitatea şi datele prin înţelegerea parametrilor de securitate şi a opţiunilor de soluţionare a litigiilor. Este important să îi educăm pe ceilalţi şi să ne educăm despre cum utilizăm IA în mod intenţionat şi, în acest context, să protejăm propria imagine (fotografiile şi audio), propriul chip şi propria voce, pentru a evita ca să fie utilizate pentru a crea conţinuturi şi comportamente dăunătoare, cum ar fi frauda digitală, hărţuirea cibernetică şi deepfake-urile care încalcă viaţa privată şi intimitatea peroanelor fără consimţământul lor. Aşa cum revoluţia industrială a necesitat alfabetizare de bază pentru a permite persoanelor să răspundă la noutăţi, tot aşa şi revoluţia digitală necesită alfabetizare digitală (împreună cu educaţie umanistă şi culturală) pentru a înţelege cum algoritmii ne modelează percepţia asupra realităţii, cum funcţionează prejudecăţile IA, ce mecanisme dictează apariţia anumitor conţinuturi în fluxurile noastre de informaţii (feed), care sunt şi cum se pot schimba fundamente şi modele economice ale economiei IA.
Avem nevoie de chip şi de voce pentru a exprima din nou persoana. Avem nevoie să protejăm darul comunicării ca fiind cel mai profund adevăr al omului, spre care trebuie să fie călăuzită şi fiecare inovaţie tehnologică.
Oferind aceste reflecţii, le mulţumesc tuturor celor care lucrează pentru atingerea obiectivelor schiţate aici şi îi binecuvântez din inimă pe toţi cei care lucrează pentru binele comun cu mijloacele de comunicare.
Din Vatican, 24 ianuarie 2026, comemorarea Sfântului Francisc de Sales.
LEO PP. XIV
Traducere de pr. Mihai Pătraşcu
Notă:
[1] "Faptul de a fi creat după chipul lui Dumnezeu înseamnă că omul, din momentul creării sale, a fost imprimat cu un caracter regal […]. Dumnezeu este iubire şi izvorul iubirii: Creatorul divin a aşezat şi această trăsătură pe chipul nostru, astfel încât prin iubire – o reflectare a iubirii divine – fiinţa umană să recunoască şi să manifeste demnitatea naturii sale şi asemănarea sa cu Creatorul său" (cf. Sfântul Grigore de Nyssa, Crearea omului: PG 44, 137).
