© Vatican Media

Quattrociocchi: "Magnifica humanitas" invită să nu delegăm judecata

Într-un interviu acordat mass-media vaticane, Walter Quattrociocchi, profesor de informatică la Universitatea "Sapienza" din Roma, numeşte prima enciclică a Papei Leon "foarte lucidă" şi capabilă să aducă discuţia despre inteligenţa artificială la un "nivel mult mai matur". Cercetătorul avertizează împotriva unei societăţi care înlocuieşte "verificarea cu plauzibilitatea percepută", deleagă judecata maşinilor şi riscă să confunde simularea cunoaşterii cu cunoaşterea însăşi.

"(...) aşa-numitele inteligenţe artificiale nu au o experienţă, nu posedă un corp, nu experimentează bucuria şi durerea, nu se maturizează în relaţii (...)". Aceste cuvinte ale Papei Leon al XIV-lea din numărul 99 al Magnifica humanitas reprezintă, potrivit lui Walter Quattrociocchi, unul dintre cele mai semnificative puncte ale primei enciclice dedicate inteligenţei artificiale. Într-un interviu acordat mass-media vaticane, profesorul de informatică la Universitatea "Sapienza" din Roma şi director al Center of Data Science and Complexity for Society, subliniază modul în care documentul papal contribuie la mutarea dezbaterii publice la un nivel mai profund.

Dincolo de dezbaterea dintre entuziasm şi frică

Potrivit lui Quattrociocchi, enciclica "schimbă firul discuţiei, care oscilează între entuziasm naiv şi catastrofism", abordând problema dintr-o perspectivă metodologică şi epistemică, invitând la reflecţie asupra a ceea ce este cunoaşterea, cum se formează şi care sunt limitele sale. Punctul crucial, observă el, nu este dacă maşinile gândesc sau nu, ci mai degrabă înţelegerea "cât de mult transformă aceste tehnologii condiţiile şi criteriile prin care o societate construieşte cunoaştere, judecată, adevăr şi chiar relaţii". În opinia sa, textul lui Leon al XIV-lea este deosebit de clar în a recunoaşte că provocarea nu este numai tehnică sau antropologică, ci priveşte procesul de învăţare în sine. "Astăzi - explică el - plauzibilitatea lingvistică, care este optimizată de Modelele Mari de Limbaj, se interconectează, se interconectează şi devine aproape inseparabilă de responsabilitatea judecăţii umane".

Simularea judecăţii

Una dintre cele mai frecvente neînţelegeri este confuzia dintre calitatea rezultatului unui chatbot şi natura procesului care îl generează. "Vedem limbaj şi suntem imediat conduşi să credem că a fost produs de ceva care raţionează similar cu noi, dar acest lucru nu este deloc adevărat". Modelele lingvistice, explică el, produc texte coerente şi convingătoare prin corelaţii statistice, fără a avea experienţă în lume sau capacitatea de a verifica informaţiile. Citând un studiu realizat de echipa sa, intitulat "Simularea judecăţii", Quattrociocchi afirmă că, pentru sarcini complexe, aceste sisteme sunt incapabile să producă evaluări cu adevărat fiabile. "Nu avem o judecată, ci o simulare a unei judecăţi; nu avem o interacţiune, avem o simulare a unei interacţiuni". Diferenţa este substanţială: fiinţa umană operează într-un cadru normativ, poate recunoaşte erorile şi îşi poate pune la îndoială propriile decizii; modelele lingvistice, pe de altă parte, operează în domeniul "simplei aproximări statistice a cuvintelor".

Când plauzibilitatea înlocuieşte verificarea

Pentru profesorul şi cercetătorul de la "Sapienza", principalul risc nu este atât halucinaţia algoritmului, cât invizibilitatea sa. "Riscul, mai degrabă decât atunci când apare eroarea maşinii, este atunci când aceasta nu apare". "Punctul critic - explică el - este o societate care înlocuieşte progresiv verificarea cu plauzibilitatea percepută". În timp ce cunoaşterea apare în mod tradiţional din compararea surselor şi testarea ipotezelor, sistemele generative tind să comprime totul într-un rezultat predefinit şi credibil din punct de vedere lingvistic. În domeniul informaţiei, acest fenomen este împletit cu dinamica economiei atenţiei. Reţelele sociale, observă Quattrociocchi, recompensează ceea ce captează atenţia mai degrabă decât ceea ce informează. În acest context, Large Language Models [Modelele de Limbaj Mari] "reduc şi industrializează această producţie de conţinut capabil să convingă utilizatorul" şi, deşi nu sunt concepute pentru a manipula, "au mare succes în manipulare".

Transparenţă, responsabilitate şi noi "bias" [prejudecăţi]

Comentând accentul pus de Papa pe faptul că inteligenţele artificiale sunt, de fapt, "cultivate" şi nu "construite" şi, prin urmare, cresc autonom, Quattrociocchi subliniază modul în care aceste sisteme sunt "cel mai îndepărtat lucru de conceptul de normativ care ar putea exista". Din acest motiv, el consideră că este înşelător să le interpretăm prin categorii care le echivalează cu fiinţele umane. Abordarea etică ce solicită transparenţa IA este, prin urmare, insuficientă, deoarece, explică el, simpla deschidere a codului sau publicarea datelor de antrenament nu este suficientă. "Problema este să înţelegem cum ajunge sistemul la un răspuns, ce semnal foloseşte şi, mai presus de toate, ce scurtătură încorporează".

În special îngrijorător este efectul asupra proceselor cognitive şi culturale. "Numărul de persoane care discută subiecte pe care nu le cunosc a crescut dramatic, căzând victime ale bolii cunoaşterii certe, adică epistemicii" (un termen inventat de un grup de cercetători condus de Quattrociocchi pentru a descrie iluzia confortabilă de a deţine cunoştinţe certe şi verificate). Mulţi utilizatori, notează cercetătorul, deleagă, prin urmare, în întregime producerea de conţinut unor modele lingvistice, fără a deţine instrumentele necesare pentru a o verifica. Rezultatul este lansarea în spaţiul public a unor informaţii "perfect ambalate, dar în cele din urmă goale şi nerezonabile". O dinamică ce, potrivit lui Quattrociocchi, riscă să facă din ce în ce mai dificilă distincţia dintre cunoaştere şi ignoranţă.

O discuţie mai matură

În concluzii, profesorul de informatică îşi exprimă aprecierea pentru contribuţia oferită de enciclică la dezbaterea contemporană. Magnifica humanitas, afirmă el, "aduce o viziune foarte clară şi mult mai puţin legată de copilăria şi naivitatea care decurg din puţină cunoaştere a temei", plasând discuţia pe un teren mai matur. Speranţa finală se referă la o reflecţie din ce în ce mai necesară asupra chestiunii care - după Quattrociocchi - străbate întregul document al Papei Leon.

Fabio Colagrande

(După Vatican News, 3 iunie 2026)

Traducere de pr. Mihai Pătraşcu