© Vatican Media

Sfântul Scaun: Inteligenţa Artificială oferă oportunităţi, dar omul poate să devină sclav al maşinilor

Notă privind relaţia dintre inteligenţa artificială şi inteligenţa umană, publicată de Dicasterul pentru Doctrina Credinţei şi Dicasterul pentru Cultură şi Educaţie: "IA nu este o formă artificială de inteligenţă, ci unul dintre produsele acesteia". Potenţialul şi provocările evidenţiate în domeniile educaţiei, economiei, muncii, sănătăţii, relaţiilor umane şi internaţionale, contextelor de război.

Nu trebuie considerată ca o persoană Inteligenţa Artificială, nu trebuie divinizată, nu trebuie să înlocuiască relaţiile umane, ci trebuie să fie utilizată "numai ca instrument complementar pentru inteligenţa umană". Avertismentele papei despre IA din aceşti ultimi ani sunt urmă pentru Antiqua et Nova, nota despre raportul dintre Inteligenţa Artificială şi inteligenţa umană, rod al reflecţiei reciproce între Dicasterul pentru Doctrina Credinţei şi Dicasterul pentru Cultură şi Educaţie. Un document adresat părinţilor, profesorilor, preoţilor, episcopilor şi celor care sunt chemaţi să educe şi să transmită credinţa, dar şi celor care împărtăşesc exigenţa unei dezvoltări ştiinţifice şi tehnologice "în slujba persoanei şi a binelui comun" (5). Publicată astăzi, 28 ianuarie, Nota a fost aprobată de papa.

În 117 paragrafe, Antiqua et Nova (cu referinţă la "înţelepciune", veche şi nouă) scoate în evidenţă provocări şi oportunităţi ale dezvoltării Inteligenţei Artificiale (IA) în domeniile educaţiei, economiei, muncii, sănătăţii, relaţiilor internaţionale şi interpersonale, contextelor de război. În acest ultim domeniu, de exemplu, potenţialităţile IA - avertizează Nota - ar putea mări resursele de război "cu mult dincolo de îndemâna controlului uman", accelerând "o cursă destabilizatoare a armamentelor cu consecinţe devastatoare pentru drepturile umane" (99).

Pericole şi progrese

Mai în detaliu, documentul prezintă cu echilibru raţionat pericolele IA, dar şi progresele, pe care chiar le încurajează ca "parte a colaborării" omului cu Dumnezeu "în a duce la perfecţiune creaţia vizibilă" (2). Totuşi, preocuparea este mare şi este cea dată de toate inovaţiile ale căror efecte sunt încă imprevizibile, şi pentru ceea ce pe moment apare nevătămător cum este generarea de texte şi imagini care riscă să aibă o influenţă asupra "crizei crescânde de adevăr" (3).

A distinge între IA şi inteligenţa umană

Aşadar, sunt consideraţii etice şi antropologice acelea din centrul reflecţiei celor două dicastere care dedică diferite paragrafe din Notă distincţiei "decisive" între Inteligenţa Artificială şi inteligenţa umană. Aceea care "se exercită în relaţii" (18), care este modelată de Dumnezeu şi "este plăsmuită de o mulţime de experienţe trăite în corporalitate". IA "este lipsită de capacitatea de a evolua în acest sens" (31). Şi viziunea sa este "o viziune funcţionalistă", cu persoanele evaluate numai pe baza lucrărilor şi rezultatelor, acolo unde demnitatea umană este indispensabilă şi rămâne intactă mereu. Şi într-un "copil încă nenăscut", într-o "persoană în stare non-conştientă" sau într-un "bătrân suferind" (34). Aşadar, este "deviant" a folosi însuşi cuvântul "inteligenţă" cu referinţă la IA: nu este "o formă artificială a inteligenţei", ci "unul dintre produsele sale" (35).

Putere în mâna câtorva

Şi ca orice produs al iscusinţei umane, şi IA poate să fie îndreptată spre "scopuri pozitive sau negative", subliniază Antiqua et Nova. Documentul nu neagă că Inteligenţa Artificială poate introduce "inovaţii importante" în diferite domenii (48), dar avertizează cu privire la riscul ca ea să poată agrava situaţii de marginalizare, discriminare, sărăcie, "discrepanţă digitală", inegalităţi sociale (52). Ceea ce ridică "preocupări etice" este mai ales faptul că "cea mai mare a puterii asupra principalelor aplicaţii ale IA este concentrată în mâna câtorva firme puternice" (53), aşa încât această tehnologie ajunge să fie manipulată pentru "câştiguri personale sau ale firmei" sau să "orienteze opinia publică spre interesul unui sector" (53).

Războiul

Nota analizează cu atenţie diferitele domenii ale vieţii în raport cu IA. Este nelipsită referinţa la război. În timp ce "capacităţile analitice" ale IA ar putea să fie folosite pentru a ajuta naţiunile să caute pace şi siguranţă, sunt "motiv grav de preocupare etică" sistemele de arme autonome şi letale, în măsură să "identifice şi să lovească obiective fără intervenţie umană directă" (100) şi fără niciun tip de "judecată morală". Papa a invitat cu urgenţă să se elimine folosirea lor, pentru că aşa cum a spus la G7 în Puglia: "Nicio maşină nu ar trebui să aleagă vreodată dacă să ia viaţa unei fiinţe umane." Maşinile în măsură să ucidă cu precizie în mod autonom şi altele capabile de distrugere în masă sunt o ameninţare adevărată pentru "supravieţuirea omenirii sau a unor regiuni întregi" (101). Aceste tehnologii dau "războiului o putere distructivă incontrolabilă, care loveşte mulţi civili nevinovaţi, fără a cruţa nici măcar copiii", denunţă Antiqua et Nova. Pentru a evita ca omenirea să se prăbuşească în "spirale de autodistrugere", este necesar, aşadar, "să se asume o poziţie clară împotriva tuturor aplicaţiilor tehnologiei care ameninţă în mod intrinsec viaţa şi demnitatea persoanei umane".

Relaţiile umane

Cu privire la relaţiile umane, documentul afirmă că IA poate, da, "să favorizeze conexiunile", dar, în acelaşi timp, să ducă la "o izolare dăunătoare" (58). "Antropomorfizarea IA", de asemenea, creează probleme deosebite pentru creşterea copiilor, încurajaţi să înţeleagă "relaţiile umane în mod utilitarist", aşa cum se întâmplă cu chatbot (60). Apoi este "eronat" a reprezenta IA ca o persoană şi este "o gravă încălcare etică" a face asta pentru scopuri frauduloase. Aşa cum "a utiliza IA pentru a înşela în alte contexte - cum ar fi educaţia sau relaţiile umane, inclusiv sfera sexualităţii - este profund imoral şi cere o supraveghere atentă" (62).

Economia şi munca

Aceeaşi supraveghere este cerută în domeniul economico-financiar. Îndeosebi în domeniul muncii se afirmă că dacă, pe de o parte, IA are "potenţialităţi" pentru a mări competenţe şi productivităţi sau pentru a crea noi locuri de muncă, pe de altă parte, poate "să descalifice muncitorii, să-i supună la o supraveghere automatizată şi să-i izoleze la funcţiuni rigide şi repetitive" (67), până acolo încât "să sufoce" orice capacitate inovatoare. "Nu trebuie încercat să se înlocuiască tot mai mult munca umană cu progresul tehnologic: făcând astfel, omenirea şi-ar dăuna sieşi", subliniază Nota (70).

Sănătatea

Spaţiu larg este dedicat temei sănătăţii. Deşi deţine un potenţial enorm în aplicaţii foarte variate în domeniul medical (de exemplu, ajutorul dat activităţii diagnostice), IA când ar ajunge să înlocuiască relaţia medic-pacient lăsând interacţiunea numai maşinilor, ar risca să "înrăutăţească acea singurătate care în mod frecvent însoţeşte boala". De asemenea, optimizarea resurselor nu trebuie "să-i penalizeze pe cei mai fragili" sau să creeze "forme de prejudecată şi discriminare" (75) care să ducă la întărirea unei "medicini pentru bogaţi", în care persoanele care au mijloace financiare scot beneficiu din instrumente avansate de prevenţie şi informaţii medicale personalizate, în timp ce alţii cu greu au acces chiar şi la serviciile de bază.

Educaţia

Riscuri sunt evidenţiate şi în domeniul educaţiei. Dacă este folosită în manieră prudentă, IA poate să îmbunătăţească accesul la instruire şi să ofere "răspunsuri imediate" studenţilor (80). Problema este că multe programe "se limitează să furnizeze răspunsuri în loc să-i determine pe studenţi să le găsească ei înşişi sau să scrie ei înşişi texte"; asta duce la pierderea antrenamentului în acumularea de informaţii sau în dezvoltarea unei gândiri critice (82). Fără a uita câte "informaţii deformate sau contrafăcute" sau "conţinuturi inexacte" pot genera unele programe, ajungând astfel să legitimeze fake news (84).

Fake News şi Deepfake

Cu privire la fake news, documentul aminteşte riscul serios ca IA "să genereze conţinuturi manipulate şi informaţii false" (85), aşa încât să alimenteze o "halucinaţie" de IA, cu conţinuturi neadevărate care par reale. Şi mai îngrijorător este atunci când aceste conţinuturi fictive sunt folosite în mod intenţionat cu scopuri de manipulare. De exemplu, când se divulgă în mod intenţionat imagini, deepfake (reprezentări modificate sau generate de algoritm) video şi audio pentru "a înşela sau a dăuna" (87). Aşadar, apelul este de a avea mereu "grijă de a controla veridicitatea" a ceea ce este divulgat şi de a evita, în orice caz, "împărtăşirea de cuvinte şi imagini degradante pentru fiinţa umană", excluzând "ceea ce alimentează ura şi intoleranţa, degradează frumuseţea şi intimitatea sexualităţii umane, exploatează pe cei slabi şi pe cei lipsiţi de apărare" (89).

Privacy, controlul, libertatea religioasă

Cu privire la privacy şi control, Nota evidenţiază că unele tipuri de date pot ajunge să atingă intimitatea persoanei, "poate chiar şi conştiinţa sa" (990). Datele se dobândesc de acum cu o minimă cantitate de informaţii şi pericolul este de a face să devină totul "un soi de spectacol care poate fi spionat, supravegheat" (92). În afară de asta, se avertizează, "supravegherea digitală poate fi folosită pentru a exercita un control asupra vieţii credincioşilor şi asupra exprimării credinţei lor" (90).

Casa comună

Cu privire la tema creaţiei, sunt considerate "promiţătoare" aplicaţiile IA pentru a îmbunătăţi raportul cu casa comună. Este suficient să ne gândim la modelele pentru previziunea evenimentelor climatice extreme, gestionarea ajutoarelor sau sprijinul dat agriculturii sustenabile (95). În acelaşi timp, modelele actuale de IA şi sistemul hardware care le sprijină cer "cantităţi uriaşe de energie şi de apă şi contribuie în mod semnificativ la emisiile de CO2, în afară de a consuma resurse în mod intensiv". Aşadar, este un tribut "greu" acela care se cere de ambient: "Dezvoltarea de soluţii sustenabile este vitală pentru a reduce impactul lor asupra casei comune."

Raportul cu Dumnezeu

"Prezumţia de a-l înlocui pe Dumnezeu cu o operă a propriilor mâini este idolatrie": Nota citează Sfintele Scripturi pentru a avertiza cu privire la faptul că IA poate să fie "mai seducătoare faţă de idolii tradiţionali" (105). Prin urmare, aminteşte că ea nu este altceva decât "o reflexie palidă" a umanităţii: "Nu IA este divinizată şi adorată, ci fiinţa umană, pentru a deveni, în acest mod, sclavă a propriei sale opere". De aici, o recomandare conclusivă: "IA ar trebui să fie utilizată ca un instrument complementar la inteligenţa umană şi nu să înlocuiască bogăţia sa" (112).

Salvatore Cernuzio

(După Vatican News, 28 ianuarie 2025)

Traducere de pr. Mihai Pătraşcu