© Vatican Media

Fr. Benanti: Un document care ne ajută să ne punem întrebările corecte

De vorbă cu eticianul tehnologic care studiază impactul inteligenţei artificiale asupra informaţiei: Nota celor două dicastere face apel la responsabilitate.

"Un document care ne spune: probabil acesta este timpul de a ne pune întrebări mai înainte de a da răspunsuri." Cu aceste cuvinte fratele Paolo Benanti - profesor la Gregoriana, expert de bioetică şi etică a tehnologiilor, preşedinte al Comisiei pentru studiul impactului inteligenţei artificiale asupra jurnalismului şi editurilor de la Preşedinţia Consiliului italiană - "fotografiază" Nota Antiqua et Nova a Dicasterelor pentru Doctrina Credinţei şi pentru Cultură şi Educaţie despre raportul dintre inteligenţa artificială şi inteligenţa umană. Aşa îl comentează cu mass-media vaticane.

După părerea dumneavoastră, care este noutatea acestui document?

Este o conştientizare din partea gândirii credincioase care are ca scop şi acela de a însoţi Biserica în viaţa societăţii. Cu cât ne putem întrebări despre această maşină în măsură să înlocuiască parte din decizia umană, cu atât ne punem în mod inevitabil întrebări despre însăşi identitatea fiinţei umane şi despre unicitatea care o caracterizează, adică despre ceea ce ne face creaturi în relaţie cu un Creator. Adevărata noutate a acestui text este să ne pună în perspectiva corectă pentru a ne pune întrebări despre identitatea noastră şi despre capacităţile noastre de a putea contribui la păstrarea şi la cultivarea lumii încredinţată nouă de Creator.

Astfel inteligenţa artificială devine ocazie pentru a ne pune întrebări despre ceea ce suntem noi realmente?

Aceasta este o noutate foarte mare: să ne gândim că până acum 10/15 ani, acest tip de întrebare despre uman părea eclipsată. Aveam decizii politice care de fapt echivalau unele specii de maimuţe mari cu persoana umană sau care negau identitatea de persoană embrionului sau celui care trăieşte faza terminală a propriei vieţi. Ceea ce părea o problemă de arhivat în trecut, pe neaşteptate, graţie operei omului, revine cu prepotenţă în dezbaterea publică şi în interesul global. Această întrebare are o dublă instanţă: pe de o parte antropologică, aşa cum este bine subliniat de document; pe de altă parte, are desigur consecinţe sociale şi, prin urmare, putem deja să ne imaginăm că va fi dezvoltată în matca Doctrinei Sociale a Bisericii.

Ce diferenţă există între aşa-numita inteligenţă artificială şi inteligenţa umană?

Tocmai natura umană - cu greu de cuprins în cadrul unei definiţii sau al unui perimetru determinat - ne face să spunem că atunci când vorbim despre om, vorbim despre ceva ce este mai uşor de descris în atâtea dimensiuni ale sale. Dacă noi ne gândim la modul în care grecii vorbeau despre inteligenţă, trebuie să recunoaştem că termenii erau "plurali": Ulise este definit "isteţ", "inteligent", cu termenul metis, care indică o formă de inteligenţă capabilă să găsească soluţii la problemele practice. În schimb, când se vorbeşte despre inteligenţa capabilă să perceapă sensul a toate, grecii foloseau cuvântul nous. Iată, deja în matricele gândirii occidentale avem o inteligenţă umană plurală, capabilă să meargă în mai multe direcţii. Inteligenţa artificială nu înlocuieşte toate aceste forme de inteligenţă: este foarte bună să câştige jocuri, să găsească soluţii, este capabilă de un mare metis. Dar nous, ceea ce caută sensul a toate şi este capabil să orienteze vieţile noastre spre un orizont, spre un viitor sau şi spre transcendenţă, acesta este numai uman.

De ce anume trebuie să ne temem de aplicaţiile inteligenţei artificiale?

Dacă pot să fac o glumă, aş spune că primul lucru de care să ne temem este stupiditatea naturală. Pentru că maşina nu se pune singură în măsură să înlocuiască: întotdeauna suntem noi cei care, ca urmare a calculelor sau a tentativelor de a optimiza unele procese, am putea utiliza maşina făcând-o să aleagă în locul omului. Şi o maşină aşa de puternică, în măsură să aleagă între opţiuni infinite în fracţiuni de secundă, nu este mereu în măsură să înlocuiască ceea ce omeneşte se numeşte decizie, adică ceva legat cu înţelepciunea. Aici este toată ambivalenţa IA în măsură să facă lucruri cu mare viteză şi eficienţă, în timp ce omul, în schimb, este chemat să se întrebe cu privire la sens. Probabil că am putea sau ar trebui să ne temem de toate acele alegeri care nu ajung la decizii. De exemplu, să ne gândim la domeniul medical: o diagnoză nu este niciodată pur şi simplu o alegere între terapii, ci o luare în grijă a unei existenţe umane din partea unei alte existenţe umane care în mod implicit îi face o promisiune de îngrijire. Trebuie să ne temem de toate acele situaţii în care vom ajunge să trăim o umanitate diminuată pentru a permite o "maşinaţiune" crescută. Şi să promovăm, în schimb, toate aplicaţiile care menţin vie această responsabilitate umană.

Documentul insistă mult asupra responsabilităţii umane şi asupra necesităţii de a da cont de decizia luată. De ce?

Există două mari filoane care dau viaţă răspunsului frumos prezent în acest document. Există un filon care porneşte de la optica de credinţă şi se întreabă despre ce este specificul uman din punctul de vedere al conştiinţei. Constituţia conciliară Gaudium et spes ne vorbeşte despre acel loc intim dinăuntrul nostru unde noi auzim un glas care în unele momente ne spune: fă asta şi evită asta. Este locul sacru unde omul simte glasul lui Dumnezeu. Iată matricea responsabilităţii. Însă în cadrul acestei conştiinţe credincioase există şi o întreagă conştiinţă a efectului de a sustrage responsabilitate de la decizia umană. Mari scriitori precum Hannah Arendt au vorbit despre modul în care, în marile masacre din secolul trecut, s-a încercat să se sustragă responsabilitate de la decizia umană pentru a deveni parte dintr-un angrenaj care duce la maxima dezumanizare personală şi socială. Aceste două capacităţi umane, credinţă şi raţiune, dându-şi mâna, pot să ne ajute să vedem cum să inovăm inteligenţa artificială aşa încât să poată deveni cu adevărat izvor de dezvoltare umană.

Din păcate, continuăm să vedem rolul armelor autonome. Ce anume putem spune despre aplicarea inteligenţei artificiale la război?

Să ne gândim la noi în urmă cu 60.000 de ani, când într-o peşteră am luat în mână pentru prima dată o măciucă. Era o ustensilă pentru a avea mai multe nuci de cocos şi o armă pentru a deschide mai multe cranii ale altor persoane. De fiecare dată când suntem în faţa unei tehnologii, suntem în faţa tentaţiei de a transforma o ustensilă într-o armă. Dar suntem inseraţi şi într-o istorie de salvare - să ne amintim de profetul Isaia - în care armele pot să devină ustensile de folosit pentru a cultiva, pentru a sătura şi a da viaţă. În această istorie a noastră de păcat şi convertire, cel care face războiul are tentaţia foarte puternică de a folosi instrumente cu o tehnologie aşa de puternică. Aş vrea să amintesc că IA nu este prima formă de tehnologie autonomă utilizată în război. Să ne gândim la minele anti-om: sunt autonome! Un sistem de inteligenţă artificială îl putem defini ceva ce poate lua de la uman un scop, şi apoi să adaptează mijloacele pentru a obţine acel scop. Însă niciodată ca în război nu vedem că mijloacele nu sunt toate egale: pornind de la marea tragedie atomică, ne-am dat seama de existenţa de mijloace de evitat cu orice preţ. O maşină, spre deosebire de fiinţa umană, nu va înceta niciodată să urmărească obiectivul său şi, prin urmare, ar putea să nu fie niciodată o încetare a luptelor dacă ne încredinţăm numai maşinilor. Cu cât este mai mare capacitatea omului, cu atât devin mai radicale întrebările la care trebuie să răspundem.

Intervenind la G7 de anul trecut, Papa Francisc a spus că niciodată n-ar trebui lăsată unei maşini decizia de a lua o viaţă umană.

O voce profetică cea a papei. O voce foarte puternică ce indică o direcţie. Avem nevoie de o precauţie extremă sau, mai bine zis, pentru a folosi cuvintele documentului, de o responsabilitate extremă.

Inteligenţa artificială permite astăzi să se falsifice reprezentarea realităţii. Să ne gândim la imaginile false sau retuşate care pot fi deosebite tot mai puţin de cele adevărate. Sau la difuzarea masivă a fake news. Cum putem contrasta aceste derive?

Se pare că pentru unii adevărul a devenit ceva secundar şi că sunt posibile naraţiuni complet dezlipite de fapte. Toate democraţiile occidentale se întemeiază pe o premisă fundamentală: ele pot să existe ca democraţii dacă persoanele sunt în măsură să-şi facă o opinie corectă despre fapte. Aşadar, democraţia dă jurnalistului aproape un rol de civil servant: profesionalitatea sa este asemenea cu aceea a omului de ştiinţă care caută adevărul sau a judecătorului care caută să verifice faptele. Inteligenţa artificială ar putea face mult mai puţin scumpe unele procese de producere a unor tipuri de informaţie, dar asta nu înseamnă că ar fi mai adevărate şi nici mai utile. Pentru a trăi într-o democraţie avem nevoie de jurnalism profesional, iar jurnalismul profesional are nevoie de un sector industrial. Toate acestea pot fi vătămate economic, sau distruse în capacitatea lor, de o inteligenţă artificială aflată în mâini greşite sau cu finalităţi greşite.

Cum să ne protejăm?

Documentul ne aminteşte categoria cheie a responsabilităţii şi există forme de responsabilitate care în spaţiul public asumă consistenţa dreptului. Probabil că a venit momentul de a insista ca să existe un drept "cognitiv" al persoanelor: acela de a şti care conţinuturi au fost elaborate de o fiinţă umană care pune în ele responsabilitatea sa profesională, şi care, în schimb, au fost produse de o maşină. Probabil că trebuie să definim nişte guardrail pentru a ţine în frâu slujirea adusă adevărului informaţiei şi al jurnalismului. Documentul ne spune că probabil acesta este timpul de a ne pune întrebări, mai înainte de a da răspunsuri.

Andrea Tornielli

(După Vatican News, 28 ianuarie 2025)

Traducere de pr. Mihai Pătraşcu

* * *

Sfântul Scaun: Inteligenţa Artificială oferă oportunităţi, dar omul poate să devină sclav al maşinilor