© Vatican Media

Pr. Benanti: Inteligenţa Artificială să fie în slujba binelui comun

de Alessandro Gisotti

Interviu al presei de la Vatican cu părintele Paolo Benanti, teolog şi filosof franciscan, membru al Comitetului de experţi al ONU privind inteligenţa artificială, cu privire la posibilele evoluţii ale "maşinilor inteligente". Pentru Benanti, Biserica poate aduce o contribuţie importantă la umanizarea acestor noi tehnologii puternice, care trebuie să servească binele comun şi nu să fie simple instrumente de putere.

Toţi vorbesc despre ea, mulţi au început s-o utilizeze, dar încă puţini înţeleg ce este şi mai ales care pot să fie consecinţele sale asupra vieţii umane. Vorbim despre Inteligenţa Artificială, care tot mai mult se profilează ca marea inovaţie tehnologică a timpului nostru. Pentru unii va face mai bună viaţa tuturor, pentru alţii va duce la catastrofa neamului omenesc. Între timp, valoarea sa economică creşte în mod exponenţial şi guvernele încearcă s-o reglementeze cu multe dificultăţi dată fiind rapiditatea cu care aceste "maşini inteligente" devin tot mai puternice. Unul dintre cei mai mari experţi în materie este părintele Paolo Benanti, teolog şi filozof, franciscan din Al Treilea Ordin Regular. În octombrie, secretarul general al Naţiunilor Unite, Antonio Guterres, l-a chemat să facă parte din Comitetul ONU de experţi despre Artificial Intelligence (AI) care chiar în zilele trecute s-a reunit la Palatul de Sticlă din New York. În acest interviu cu mass-media vaticane, Benanti se opreşte asupra aspectelor etice în afară de cele tehnologice ale AI şi arată contribuţia pe care Biserica "expertă în umanitate" o poate da dezbaterii despre Inteligenţa Artificială.

Despre Inteligenţa Artificială de acum discută toţi. În vorbirea obişnuită a devenit aproape o formulă sacră: "Se va gândi Inteligenţa Artificială". Dar suntem cu adevărat în faţa unei realităţi care, aşa cum spune cineva, va avea un impact asupra umanităţii mai mare decât acela al Revoluţiei industriale?

Efectiv, există o anumită inflaţie a termenului "revoluţie". Ne place să ne gândim că atâtea lucruri sunt revoluţionare, în sensul că schimbă tot. Din acest punct de vedere, aş spune că mai mult decât a avea în faţă o adevărată revoluţie, avem o evoluţie a Revoluţiei industriale. Revoluţia industrială s-a caracterizat ca un sistem pentru a înlocui unele îndatoriri făcute de om cu maşini. Începutul Revoluţiei industriale a înlocuit forţa musculară; astăzi am vrea să înlocuim un pic ceea ce este capacitatea cognitivă a omului. Maşina imită foarte bine toate acestea; este foarte capabilă să aibă un scop şi totuşi această maşină încă este o imitaţie şi nu are o conştiinţă a sa, o voinţă a sa. Aşadar, revoluţie este un termen prea puternic. Este o evoluţie a acestei automatizări. Însă ceea ce merită de afirmat în mod clar este că efectele, pe care le poate avea în impactul social, pot fi "revoluţionare". Dacă prima Revoluţie industrială a avut impact asupra "gulerelor albastre" (lucrătorii care îndeplinesc sarcini manuale) făcându-le mai puţin necesare în procesul productiv, Inteligenţa Artificială poate avea impact şi va avea impact foarte mare asupra "gulerelor albe", adică asupra acelor lucrări care formează clasa mijlocie şi, dacă nu o gestionăm după criteriile care sunt şi criterii de dreptate socială, efectele ar putea să fie cu adevărat devastatoare sau cel puţin foarte puternice în capacitatea de coeziune a statelor democratice.

Un mare om de ştiinţă, astrofizicianul Stephen Hawking, a afirmat deja în urmă cu câţiva ani că succesul Inteligenţei Artificiale poate să fie cel mai mare eveniment în istoria umană, dar dacă nu evităm riscurile, ar putea să pună capăt şi umanităţii însăşi. Care ar trebui să fie paşii corecţi pentru o dezvoltare care să nu aibă consecinţe distructive?

Aş spune, întărit şi de o reflecţie care este proprie a Doctrinei Sociale a Bisericii, de a distinge bine între inovaţie şi dezvoltare pentru a răspunde la această întrebare. Inovaţia sau progresul tehnologic sunt capacitatea de a face ceva într-o manieră tot mai eficientă şi tot mai puternică. Să ne gândim la un domeniu negativ, dar din păcate zilnic cum este cel al războiului. Un pistol, o mitralieră, o bombă, o bombă atomică, sunt câteva puncte dintr-o inovaţie războinică. Însă nimeni nu se gândeşte că bomba atomică este cea mai bună sau mai bună decât pistolul. În schimb, dezvoltarea este ceea ce ia de la inovaţia tehnologică şi o transformă în ceva ce priveşte şi la binele social, la binele comun.

Toate inovaţiile tehnologice poartă cu sine întrebări cu caracter etic. Cu Inteligenţa Artificială aceste întrebări par mult mai complexe faţă de trecut. De ce?

Englezii, când vorbesc despre aceste maşini, folosesc un termen care se traduce cu dificultate în română, pentru că este plin, probabil, de alte semnificaţii. Aceste maşini au un soi de agency, acolo unde am putea traduce agency cu o serie de cuvinte: capacitatea de a se adapta la contexte pentru a urmări finalităţi. Dar, dintotdeauna, scopul nu justifică mijloacele! Aşadar, maşina care într-o oarecare măsură poate determina ce mijloc este mai adecvat pentru a urmări scopul său, este o maşină care prin natura sa are nevoie de "guardrail etice" foarte ample, pentru că întocmai scopul nu justifică mijloacele.

Inteligenţa Artificială ar putea să-şi pună întrebări etice în mod autonom şi să găsească răspunsuri sau această dimensiune morală va rămâne mereu un apanaj al omului?

Nu. În pofida a ceea ce unele filme ştiinţifico-fantastice pot să ne facă să credem, conştiinţa nu este ceva ce aparţine maşinii. Aşadar, nu există o subiectivitate care se întreabă cu privire la ea însăşi sau care întreabă lumea. Este o maşină care îndeplineşte sarcini. Primeşte scopuri de la om, ca roboţelul care ne poate curăţa casa, motiv pentru care îi spun: "curăţă casa", şi apoi adaptează mijloacele folosind aspiratorul, se loveşte de ceva, se întoarce, lucru care se întâmplă atunci când eventual găseşte scări, toate lucruri legate de acel scop. Aşadar, această parte, "noua mânecă" a Inteligenţei Artificiale, adică alegerea scopurilor adecvate, trebuie şi poate să fie numai în mâna omului. Asta nu elimină că a da maşinii scopuri fără a ne gândi prea mult, fără a ne pune întrebări juste, poate duce la rezultate catastrofale, chiar fără prezenţa unei maşini conştiente.

ChatGpt, instrumentul cel mai "popular" de inteligenţă artificială, a împlinit un an în aceste zile. Pentru unii este puţin mai mult decât o jucărie, pentru alţii în schimb ne dă deja ideea schimbărilor pe care le poate aduce vieţii noastre. Care este evaluarea dumneavoastră?

Este impresionant succesul pe care l-a avut ChatGpt. A fost App cea mai descărcată dintotdeauna. A fost aplicaţia care a invadat cotidianitatea noastră digitală. Acest lucru, dacă pe de o parte ne spune cât de mult ne fascinează inteligenţa artificială, pe de altă parte ne deschide şi la riscul de înţelegeri rele, deoarece ChatGpt nu se naşte ca produs industrial destinat să fie folosit pentru ceva, ci ca un soi de mare demo (versiune demonstrativă a unui program, n.r.) pe care această societate, OpenAI, l-a deschis publicului pentru a arăta puterea a ceea ce dezvolta. ChatGpt este pur şi simplu o expansiune a altor produse care se numesc Gpt, fără "Chat" în faţă, care sunt nişte mari modele lingvistice, adică sunt maşini care au lucrat pe cantităţi enorme de text - în mod oportun fărâmiţate în părţi mici care se numesc "parametri" - şi de la acesta, într-o oarecare măsură, au determinat statistic cum să stea bine cuvintele între ele. Aşadar, CharGpt este un sistem prin care, dată fiind o frază de input, se produce un text de output. Dar acest text este rafinat cu interacţiunea atâtor oameni care - vai, plătiţi rău în părţi foarte sărace ale lumii - au început să răspundă acestei maşini şi să "spună" maşinii care erau cele mai bune răspunsuri şi care erau cele mai rele între cele pe care le furniza. Din păcate, cea mai mare parte a persoanelor, când a venit ChatGpt, nu au înţeles-o în acest mod, adică o demo a cuiva care răspunde la orice întrebare este pusă, ci ca un adevărat motor de căutare, cerând sistemului informaţii sau încrezându-se în ceea ce spunea.

Aşadar, această înţelegere rea a instrumentului ChatGpt ce probleme ar putea genera?

Asta duce la mari erori, pentru că maşina este făcută în aşa manieră încât textul trebuie în mod necesar să iasă de la o întrebarea a mea care intră, dar acel text nu este deloc verificat în corectitudinea faptelor. Dacă ChatGpt produce un text atât de frumos, nu este spus că produce conţinuturi care sunt reale. Aici este toată potenţialitatea şi riscul maşinii. Potenţialitatea este aceea de a avea în sfârşit un instrument care să mânuiască limba într-o manieră foarte puternică. Limita este că nu înţelegem că acela este un soi de mare demo şi nu este un instrument definitiv şi ne încredem într-o maşină pentru lucruri care nu au nicio valoare. A nu întreba niciodată această maşină cum să ne vindecăm de o boală!

De mulţi ani se vorbeşte despre un digital divide care separă naţiunile mai avansate tehnologic de cele în curs de dezvoltare. Cu inteligenţa artificială această prăpastie nu riscă să se acutizeze lăsând şi mai în urmă acele popoare care deja se afirmă cu greu într-o lume şi o economie tot mai globalizată?

Absolut da. Inteligenţa Artificială poate funcţiona ca un multiplicator. Unde găseşte bogăţie şi un ţesut cu atâtea resurse, le poate multiplica. Unde găseşte, în realitate, nu un semn în plus, ci un semn în minus, poate marca acest semn în minus, şi pentru că aceste sisteme - oricât ar fi de globale - sunt apanaj şi în proprietatea câtorva foarte puţine firme mondiale. În acest moment, marile inovaţii ale inteligenţei artificiale sunt făcute de nouă companii globale, care au toate o capitalizare mai mare de un trilion de dolari. Pentru a ne da seama de asta, tot PIB-ul Marii Britanii este de 3,3 trilioane, aşadar, vorbim de cifre ameţitoare. Aşadar, nu este un produs răspândit, nu este un lucru la care pot ajunge toţi. Se riscă tot mai mult o formă de dependenţă de foarte puţini monopolişti. Un alt element de pus în cadrul acestui bilanţ este "costul ascuns" al acestor tehnologii care sunt făcute pe computere bazate pe terenuri rare şi alte materiale care au un cost ambiental foarte ridicat şi consumă foarte mult curent. Aşadar, dacă este frumos să ne interogăm şi să ne întrebăm cu uimire ce înseamnă minunăţiile acestor maşini, trebuie de asemenea să nu uităm că o întreagă parte mult mai puţin vizibilă, dar mult mai costisitoare în termen de egalităţi, de costuri ambientale şi energetice, care trebuie să fie luate în considerare ca să nu devină o cheltuială pe care ajung s-o plătească naţiunile cele mai sărace ale lumii.

Guvernele se înzestrează cu reglementări despre Inteligenţa Artificială, în timp ce şi Naţiunile Unite înfruntă problema. Dumneavoastră aţi fost numit de secretarul general al ONU ca să faceţi parte dintr-un comitet de 39 de experţi care se ocupă de Inteligenţa Artificială. Care sunt sarcinile acestui organism?

Aşa cum spune însuşi titlul acestui organ de lucru, este un comitet de anunţare pentru secretarul general al ONU. Ceea ce ni se cere este, înainte de toate, să fotografiem ce se întâmplă cu această formă de inovaţie şi să facem asta într-o manieră foarte echilibrată. Ni se cere să fotografiem, înainte de toate, care pot să fie marile avantaje ale acestor tehnologii pentru omenire. Să ne gândim la creşterea capacităţilor de îngrijire, la ocazii în care se pot crea noi forme de bogăţie. Dar ni se cere să evaluăm şi riscurile, nu numai din cauza inegalităţilor care pot să crească, ci pentru că în special în ultimele forme de Inteligenţă Artificială, ca aceea pe care am citat-o puţin mai înainte - ChatGpt -, noi avem o maşină care este capabilă să "relateze", capabilă să povestească istorii şi istoriile pot contribui la formarea opiniei publice. Aşadar, această maşină poate fi utilizată pentru scopuri care nu sunt exact pozitive, ca acelea de a mări ura socială sau a crea duşmani acolo unde nu există. O maşină care poate influenţa aşa de mult opinia publică este în mod clar o maşină care trebuie privită cu multă atenţie, mai ales de acele organisme care au o voinţă de a colabora la ceea ce este pacea globală sau o dezvoltare egală. Sarcina comitetului ONU este apoi şi aceea de a oferi un eventual cadru în interiorul căruia să se poată căuta acorduri internaţionale bazate pe platforme de valori care să poată da acestui instrument un ajutor ca să fie o formă de dezvoltare şi nu pur şi simplu o formă de câştig pentru puţini.

Biserica nu se sustrage de la dezbaterea despre Inteligenţa Artificială. Demonstrează asta şi angajarea dumneavoastră personală. În afară de asta, Sfântul Scaun lucrează pe această frontieră în diferite domenii. Următoarele Mesaje ale papei pentru Ziua Mondială a Păcii şi pentru Ziua Comunicaţiilor Sociale vor avea ca temă tocmai Inteligenţa Artificială. Care este contribuţia cea mai importantă pe care o poate da Biserica?

Biserica se înţelege ca "expertă în umanitate". Este o instituţie care ca atare este prezentă peste tot. A aduna şi a oferi ceea ce este viaţa omului astăzi în toate marile sale aspiraţii, visele sale, dar şi în acelea care sunt fragilităţile şi fricile sale, este primul teren fertil pe care Biserica oferă o reflecţie lumii întregi. De acum din 2020, tema locuieşte şi atinge în mai multe maniere reflecţiile şi în Sfântul Scaun. Este clar că, aşa cum sunt toate temele mari, are nevoie să se matureze şi în această întâlnire a acestei bogăţii de umanitate care vine de jos, din prezenţa pastorală şi din această capacitate de reflecţie legată şi de evanghelie şi de reflecţia teologică. Această mare atenţie are loc într-un moment în care Sfântul Părinte a voit să dea mare relevanţă unor teme globale, cum este îngrijirea casei comune şi fraternitatea. Îngrijirea casei comune şi fraternitatea ar putea să fie două dintre marile perspective în care Biserică îşi aduce contribuţia sa unică, originală şi pozitivă la această dezbatere. Nu este de folos numai contribuţia politică, nu este de folos numai cea industrială. Această contribuţie de umanitate, de o umanitate care trăieşte într-un ambient, într-o casă care este planeta noastră, şi care trăieşte ca fraţi este o contribuţie de "umanizare" a Inteligenţei Artificiale, adică de transformare a progresului în dezvoltare umană autentică, de care este atâta nevoie astăzi.

(După Vatican News, 12 decembrie 2023)

Traducere de pr. Mihai Pătraşcu

lecturi: 2.