În confruntare cu enciclica "Magnifica humanitas"
Dezarmarea inteligenţei artificiale
Iau în serios termenul pe care Papa Leon al XIV-lea, în numărul 110 al enciclicei Magnifica Humanitas, îl numeşte aproape de suflet: "dezarmare". A dezarmarea Inteligenţa Artificială (IA) înseamnă îndepărtarea armelor acesteia, limitarea ei, reducerea, suprimarea sau slăbirea puterii sale de acţiune.
Acest verb afirmă ceea ce alţi termeni referitori la IA - "a încadra", "a orienta", "a reglementa", "a însoţi" - nu reuşesc să exprime: adică, IA este în primul rând o armă cognitivă, economică şi geopolitică. O armă, nu un instrument neutru, care nici măcar nu aşteaptă să fie folosit: ea a invadat deja spaţiul în care ne aflăm.
Este important să clarificăm de la bun început că suntem deja cufundaţi în acest mediu care este IA: nu un instrument, nu un remediu, nu o otravă, ci un mediu. A afirma acest lucru, aşa cum face papa, nu este o metaforă: este un diagnostic. "IA este un mediu în care suntem cufundaţi şi o putere cu care trebuie să ne luăm în considerare". Nu alegem să folosim un mediu: în interiorul lui are loc fiecare mişcare a corpului şi a sufletului. Luaţi mersul pe jos, de exemplu: este uşor de văzut că fiecare pas este diferit de următorul şi că mişcarea apare din condiţiile terenului: nu mergem la fel pe nisip, zăpadă sau pe o pantă. Percepţia se dezvoltă de-a lungul unei căi de mişcare. În mod similar, nimeni nu locuieşte în mediul digital dintr-un exterior necontaminat. Modurile noastre de a căuta, de a dori, de a scrie, de a memora şi de a delibera se formează în interiorul terenului tehnic, care îşi modelează în tăcere ritmurile şi posibilităţile şi ne dă iluzia că am ales, acolo unde pur şi simplu am acceptat. A trăi în acest mediu digital, în care inteligenţa artificială este cel mai recent avatar, va însemna atunci să ne integrăm într-un set de practici, ritmuri, medieri şi aşteptări care ne modelează însăşi modul de a percepe lumea.
De aceea, textul Magnifica humanitas este clar: nu este suficient să reglementăm IA. Reglementarea se aplică unui instrument, dar locuirea în el necesită altceva: "sarcina de astăzi nu este doar etică sau tehnică: este ecologică în sensul cel mai radical, pentru că pune în joc o nouă dimensiune a casei noastre comune". Această sarcină ne cere să devenim capabili să punem întrebări, să denunţăm, să transformăm, să construim împreună, să alegem diferit faţă de Babel. Nu să ne supunem IA, nici să fugim de ea, ci să exercităm discernământul pentru a o dezarma şi a locui această lume diferit. Într-adevăr, un mediu care predetermină criteriile pentru ceea ce înseamnă a locui lumea nu este niciodată neutru: este înarmat, naturalizează dominaţia. O modalitate de a alege diferit, scrie Leon al XIV-lea, ar fi să alegem nu unificarea sub o singură forţă, ci locuirea comună a unei lumi comune.
Ce ar rămâne dintr-o IA dezarmată dacă armele sale nu ar fi proprietatea unui obiect, ci efectul structural al unui mediu organizat prin relaţii de putere, extracţie şi orientarea vieţii de zi cu zi? Întrucât "dezarmarea înseamnă ruperea echivalenţei dintre puterea tehnică şi dreptul de a guverna", actul de dezarmare nu poate avea ca scop suprimarea sau reducerea unei puteri localizate în mâinile câtorva, ca şi cum simpla luare a unui obiect din acele mâini ar fi suficientă, ci ne angajează să transformăm însăşi condiţiile de locuire. Ceea ce perpetuează IA nu este numai o dominaţie abstractă: este o tendinţă spirituală, una care învaţă să clasifice corpurile, cunoştinţele şi limbajele conform unei ierarhii de valori, să împartă lumea între cei care domină şi alţii, să proiecteze noi feţe pentru sclavie şi colonialism. Nu este pur şi simplu o ideologie, ci impulsul spre control, clasificare şi reducerea altora la o resursă. Se pune apoi o altă întrebare: cum putem dezarma această dorinţă de atotputernicie în noi înşine şi în societăţile noastre?
Această dispoziţie deosebită nu a încetat niciodată să se desfăşoare în forme noi, făcându-se de fiecare dată uitată ca forţă motrice a mecanismelor sistemului: se prezintă ca progres, inovaţie, neutralitate tehnică, serviciu adus, dezvoltare necesară în vederea unei viitoare salvări.
Extragerea datelor, munca invizibilă a celor care selectează, denumesc şi purifică conţinutul astfel încât maşina să pară fluidă, captarea constantă a atenţiei ca materie primă regenerabilă - toate acestea perpetuează, în cadrul acestui sistem, o logică în care anumite corpuri şi anumite teritorii rămân resursa tăcută care stă la baza promisiunii făcute altora. Aşadar, dezarmarea nu înseamnă neutralizarea unui instrument care a devenit ameninţător; este vorba despre respingerea acestei logici care se repetă fără nume şi despre deschiderea, chiar în interiorul casei, a unui spaţiu în care ceea ce a fost făcut invizibil devine din nou lizibil. Acest act de lizibilitate este actul politic de a face vizibil şi audibil ceea ce multe figuri puternice ale timpului nostru preferă să nu audă: strigătul pământului şi al săracilor.
Totuşi, "dezarmarea nu înseamnă renunţarea la tehnologie, ci împiedicarea acesteia să domine omul", iar renunţarea la tehnologie nu este răspunsul. Întrebarea nu este tehnologia sau absenţa tehnologiei, da sau nu la IA, ci care tehnologie, în ce ritm şi în slujba căror forme de viaţă. O a treia cale se poate deschide: nici supunerea faţă de IA aşa cum este, nici o întoarcere fantasmagorică la o lume pre-digitală, ci construcţia activă a unui ecosistem tehnic plural în care inteligenţe multiple, cunoştinţe multiple, moduri multiple de a fi în lume pot coexista fără ca vreuna dintre ele să pretindă că le absoarbe pe toate. Condiţia pentru ca un mediu să nu domine omul este ca omul să îşi păstreze capacitatea de a contesta, repara şi refuza ca puterea şi dominaţia să aibă ultimul cuvânt. Dar această capacitate nu se dobândeşte o dată pentru totdeauna: se formează, se pierde şi se reînvaţă chiar în mediul pe care îl contestă.
Nu presupune o respingere a lumii, ci o convertire care implică nu numai structuri, ci dorinţe, nu numai instituţii, ci inimi. Aici se împleteşte chestiunea dezarmării cu chestiunea spirituală în forma sa cea mai exigentă. Trebuie să luăm în serios un criteriu de discernământ pe care nici etica algoritmilor, nici reglementarea nu îl pot oferi: nu este această IA performantă? Sau este doar dreaptă? Dar ne face oare mai capabili să iubim? Permite o comunitate mai dreaptă sau consolidează izolarea, supravegherea şi fragmentarea? Se bazează această IA pe o înţelegere a lumii compatibilă cu iubirea?
Nu este vorba numai despre putere, ci despre locuire. În ce fel de lume vrem să locuim? Care sunt dorinţele noastre? Din această perspectivă, àgape nu este un supliment afectiv al politicii: este cel mai radical principiu critic al său, deoarece pune sub semnul întrebării însăşi infrastructurile, pornind de la efectul lor asupra capacităţii persoanelor de a locui cu alţii, în special în cei mai vulnerabili. Paradigma tehnocratică nu distruge doar savoir-faire-uri: ea domesticeşte afecţiunile, face suferinţa tolerabilă, transformă indignarea în viralitate, iubirea în implicare a utilizatorului. Prin urmare, ceea ce trebuie să rezistăm nu este numai o arhitectură a puterii, ci o neutralizare spirituală, transformarea tăcută a unei iubiri capabile să tulbure într-o bunăvoinţă perfect inofensivă. Dezarmarea IA înseamnă, în cele din urmă, dezarmarea şi a acestei mişcări: refuzul de a permite ca să fie inofensivă caritatea, menţinerea vie a indignării juste, a mişcărilor viscerale ale celor care, precum samariteanul, traversează drumul şi intră în rana lumii fără să-şi întoarcă privirea.
Gemma Serrano
teologă, Collège des Bernardins, Paris
(După L'Osservatore Romano, 1 august 2026)
Traducere de pr. Mihai Pătraşcu
