© Vatican Media

Un ghid despre dezvoltările etice ale IA

Dicasterul pentru Doctrina Credinţei şi Dicasterul pentru Cultură şi Educaţie au publicat marţi, 28 ianuarie 2025, documentul intitulat "Antiqua et nova: Notă despre raportul dintre inteligenţa artificială şi inteligenţa umană". Vorbind la mass-media vaticane, episcopul Paul Tighe, secretar al Dicasterului pentru Cultură şi Educaţie, a explicat că prin această notă se doreşte să se contribuie la dezbaterea despre această temă, oferind un ghid etic şi idei de reflecţie. "Există o înţelegere mai amplă a inteligenţei - afirmă prelatul - care are de-a face cu capacitatea noastră umană de a găsi în vieţile noastre un scop şi o semnificaţie, şi aceasta este o formă de inteligenţă pe care maşinile chiar nu sunt în măsură să o înlocuiască." În continuare publicăm o traducere din engleză a câtorva fragmente din interviu.

Monsenior Tighe, ce este "nou" în acest document şi ce speraţi să comunice lumii, îndeosebi Bisericii?

Documentul reuneşte multe reflecţii care au fost dezvoltate în manieră organică în aceşti ultimi ani. Ceea ce încearcă să facă este să ofere persoanelor unele perspective de la care să poată începe să se gândească în mod critic la IA şi la potenţialităţile sale benefice pentru societate, şi apoi să alerteze persoanele cu privire la ceea ce trebuie să acordăm atenţie pentru a ne asigura că nu am creat fără să ne dăm seama ceva ce ar putea să fie dăunător pentru omenire şi societate. Mi-ar veni să spun că există un anumit element de atenţie aici. Atâţia dintre noi, cu venirea lui social media, au fost foarte rapizi să accepte potenţialul lor extraordinar. Şi probabil că nu am văzut, în schimb, care puteau să fie dezvoltările negative în termeni de polarizări, fake news şi alte probleme. Vrem să primim un ceva ce are un potenţial enorm pentru fiinţa umană: vrem să vedem acest potenţial, dar în acelaşi timp să acordăm atenţie posibilelor efecte contraproductive. Şi cred că asta este ceea ce încercăm să facem aici. Într-o zi citim în titlurile ziarelor că IA va fi salvarea noastră a tuturor şi în ziua următoare că va provoca eliminarea şi sfârşitul lumii. Încercăm să oferim persoanelor o abordare mai echilibrată. Documentul se opreşte asupra unei serii de puncte. Există unele probleme principale legate de viitorul locurilor de muncă, de război, deepfake şi inegalităţi. Există probleme etice şi probleme sociale asupra cărora vrem să ne oprim. Totuşi, în tratarea acestor teme, încercăm, în acelaşi timp, să ne întrebăm şi să ne focalizăm asupra unei probleme care este mai la bază, adică asupra problemei antropologice a ce înseamnă a fi umani. Ce anume dă vieţii umane o valoare, un scop, o semnificaţie? Noi recunoaştem că sistemele IA pot întări şi îmbunătăţi unele aspecte ale umanităţii noastre, precum capacitatea noastră de a raţiona, de a elabora, a discerne, a descoperi, a observa căi, a genera inovaţii. Ceea ce noi vrem să afirmăm este că există o înţelegere mai amplă a inteligenţei care are de-a face cu capacitatea noastră umană de a găsi un scop şi o semnificaţie în viaţă. Parte din întrebarea pe care trebuie să ne-o punem este următoarea: Ce anume este un bine pentru omenire? Ce anume încurajează bunăstarea fiinţei umane? Şi aceasta este o formă de inteligenţă pe care maşinile chiar nu sunt în măsură s-o înlocuiască. În tradiţia catolică, maniera în care noi înţelegem inteligenţa este mai mult decât un simplu a raţiona, a calcula şi a elabora, ci cuprinde şi capacitatea noastră de a merge în căutarea unui scop, a unei semnificaţii şi a unei direcţii în vieţile noastre. Cred că ceea ce ne preocupă mereu este căutarea adevărului ultim, a ce anume dă formă, scop şi semnificaţie vieţii. Aşadar, putem folosi IA pentru a face în aşa fel încât aceasta să ne ajute în unele aspecte, dar, în ultimă analiză, dimensiunea noastră intelectuală merge dincolo de ceea ce poate fi desfăşurat pur şi simplu de o maşină.

Dezvoltarea IA merge înainte cu paşi rapizi. De ce Dicasterul pentru Doctrina Credinţei şi Dicasterul pentru Cultură şi Educaţie au decis să publice Nota în acest moment?

Cu siguranţă, din punctul nostru de vedere, cât priveşte lumea educaţiei, toţi educatorii îşi pun întrebări despre care este potenţialul IA în optica unui sprijin dat educaţiei şi despre riscurile vreunei depersonalizări, din cauza acesteia din urmă, a naturii însăşi a educaţiei. În acelaşi timp, răspundem la întrebările care ne sunt puse în timpul vizitelor ad limina, pentru că episcopii au nevoie de unele indicaţii în această privinţă. Documentul se naşte din asta şi adună şi pune împreună multe alte iniţiative. În afară de asta, el oferă o unitate de viziune, care încearcă să unească problemele etice şi să le lege cu acea viziune antropologică mai fundamentală a ceea ce ne face umani. UNESCO a afirmat că - şi asta e ceea ce m-a impresionat mai mult - duce la ceea ce ei definesc o "disruption antropologică". Silicon Valley iubeşte limbajul stricării, de a face în bucăţi pentru a reinventa. Totuşi, aici, când vorbim despre natura a ceea ce este o fiinţă umană, este foarte important să reflectăm în manieră critică despre asta fără a face bypass la întrebarea despre semnificaţia ultimă a vieţii. Şi aici cred că problemele care reies puternic în acest document se referă la riscul unei inegalităţi care creşte cu IA. Asta se poate vedea, în general, din ceea ce s-a întâmplat cu digitalizarea, care a dus la creşterea unui număr foarte mic de persoane extraordinar de bogate, cu enorme cantităţi de putere, şi care nu sunt în mod necesar responsabile faţă de alte instituţii. Aşadar, cum credem că putem face în aşa fel încât toate acestea să nu contribuie la fracturarea unităţii familiei umane, care trebuie să fie unită şi în accesul la putere şi la informaţii? Un domeniu în care IA are un potenţial extraordinar este cel al sănătăţii. Dar ştim că sănătatea tinde deja să fie distribuită în manieră nu foarte egală. IA va duce la ulterioare inegalităţi în acest sector? O mare parte din reflecţiile noastre tratează aceste teme.

Când ne gândim la relaţia omenirii cu IA vin în minte relatările de ştiinţă fantastică ale lui Isaac Asimov, "Ciclul Roboţilor". După părerea dumneavoastră, această Notă adoptă un punct de vedere mai favorabil sau mai atent faţă de IA?

Îmi doresc să adopte un punct de vedere care să se situeze la mijloc, adică nu îmbrăţişează niciuna dintre cele două viziuni apocaliptice. Şi nici nu încearcă să imagineze că, singură, IA va fi la baza soluţiei tuturor problemelor omenirii. Încearcă să vadă potenţialul pe care-l reprezintă IA. Este o reflecţie asupra capacităţii pe care o are omenirea de a învăţa, de a inova, de a se dezvolta, care este o capacitate care ne este dată de Dumnezeu. Noi vrem să celebrăm toate acestea. În acelaşi timp, cunoaştem atâtea inovaţii extraordinare care în trecut aveau un potenţial enorm, dar care după aceea s-au dovedit problematice dintr-o serie de motive. Problematice pentru că probabil subzistau defecte intrinsece în sistemele înseşi. Problematice pentru că persoanele puteau folosi tehnologia însăşi pentru lucruri foarte bune, dar, în acelaşi timp, pentru a obţine scopuri foarte urâte. Uneori problematice, pentru că sistemele - şi aici ne gândim la IA - au fost dezvoltate într-o context comercial şi economic deosebit şi ar putea să fie deja marcate de valorile proprii din acele ambiente.

Vrem să dezvoltăm o gândire critică şi să facem în aşa fel încât IA să fie un instrument care să poată fi folosit de omenire astfel încât să realizeze potenţialul său benefic pentru toate fiinţele umane. Omenirea are nevoie să aibă controlul proceselor şi trebuie să acorde atenţie să existe un simţ de responsabilitate. Şi aici relatările din Ciclul Roboţilor de Asimov intră în joc. Unde se află responsabilitatea? Maşinile IA vor face lucruri extraordinare. Vor fi momente în care nu vom reuşi să înţelegem cum le fac. Dezvoltă o capacitate de a se reprograma şi de a înainta singure. Aşadar, ceea ce trebuie să facem este să încercăm să înţelegem: Unde se află responsabilitatea? În sector, mulţi vorbesc acum despre o IA care este "etică prin proiectare" ("ethical by design"). Aşadar, ar trebui să ne gândim încă de la început: Care sunt problemele? Care sunt dificultăţile? Cum putem planifica lucrurile în aşa fel încât să se evite problemele? Aşadar, toate acestea înseamnă: Cum reuşim s-o facem sigură, în aşa fel încât să funcţioneze bine, să nu aibă funcţionări rele? Cum reuşim să garantăm să nu fie exploatată cu uşurinţă de persoane care ar putea s-o folosească pentru scopuri negative? Cum reuşim să asigurăm că IA este ceva care oglindeşte ceea ce este cel mai bun din noi ca fiinţe umane? Din acest motiv, încercăm mereu să-i considerăm responsabili pe cei care proiectează, planifică, dezvoltă, dar şi pe cei care utilizează IA.

Dacă aţi putea să evidenţiaţi un aspect din acest document, care ar fi?

Ceea ce aş vrea să spun persoanelor care vor ajunge să citească acest text este că, fie că sunt catolice, fie că nu sunt catolice, obiectivul este acela de a fi cât mai informaţi posibil despre ceea ce se întâmplă în acest moment, fără a se simţi neputincioşi sau excluşi. Spun asta ca persoană care deja a parcurs o bună bucată de viaţă şi spun asta generaţiei mele, pentru a nu se simţi ca şi cum am trage înapoi. Un lucru pe care l-aş spune persoanelor este să înceapă să folosească tehnologiile, să le exploreze, să vadă cât de extraordinare sunt ele, dar, în acelaşi timp, să înceapă să dezvolte un punct de vedere critic faţă de ele, să înveţe cum reuşesc să le evalueze şi să reflecteze asupra lor. Un aspect pe care l-aş lua din document este importanţa responsabilităţii. Fiecare ar trebui să se gândească la propriul grad de responsabilitate - şi asta se referă şi se extinde şi la utilizator - şi să se întrebe: Voi începe să împărtăşesc conţinuturi care ştiu că sunt îndoielnice sau care îmi imaginez că ar putea să incite la ură? Şi astfel să-mi asum responsabilitatea pentru modul în care folosesc IA.

Devin Watkins

(După L'Osservatore Romano, 28 ianuarie 2025)

Traducere de pr. Mihai Pătraşcu