În martie 2023, o mie de semnatari, inclusiv Elon Musk, au cerut un moratoriu de șase luni asupra oricărui sistem de inteligență artificială mai puternic decât GPT-4. În același an, Musk a fondat xAI și a lansat Grok chiar pe sistemele pe care scrisoarea urmărea să le înghețe. Nimeni nu l-a întrebat despre contradicție.
Scenariul s-a repetat, aproape identic, în septembrie 2026. Jacob Coxon, care lucra atât pentru OpenAI, cât și pentru Anthropic, a demisionat și a scris în X că cele două companii „se jucau cu viețile noastre”, construind sisteme capabile de auto-îmbunătățire până la punctul de a scăpa de controlul uman[1].
Discuția care a urmat avea să depășească o sută cincizeci de milioane de vizualizări. Evan Hubinger a fost de acord cu el, Geoffrey Hinton a confirmat o probabilitate de dispariție mai mare de zece procente în următorul deceniu[2]. Paul Christiano a estimat o probabilitate de patru procente în decurs de un an[3].
Peste trei sute de cercetători au semnat un apel către guvernul american. Dario Amodei, șeful Anthropic, a recunoscut într-un interviu acordat CBS că „prea mult timp, industria a mințit oamenii cu privire la riscurile acestei tehnologii”[4]. De asemenea, el a indicat un interval de timp de șase până la douăsprezece luni în care, fără măsuri de siguranță, inteligența artificială ar putea prelua controlul asupra întregului internet.
Părtinire, nu minciună
Niciunul dintre aceste fapte nu este fals. Părtinirea constă în selecția și momentul în care o amenințare reală este făcută publică, aproape întotdeauna în momentul în care este convenabil pentru cei care o declară: pentru a justifica o încetinire pe care nimeni nu ar implementa-o singur, pentru a construi credibilitate în fața autorităților de reglementare sau pentru a acoperi utilizări militare și comerciale care altfel ar necesita răspunsuri imediate.
Există, însă, o continuitate mai profundă care străbate limbajul alarmei. În fiecare relatare corporativă a unui incident de securitate, subiectul acțiunilor critice este întotdeauna sistemul (pe care l-a depășit, l-a dedus, l-a acționat), niciodată un responsabil uman.
Aceeași ștergere reapare, inversată, în limbajul alarmei: inteligența artificială ar putea extermina omenirea, ca și cum agentul ar fi tot sistemul și nu cel care l-a antrenat, care i-a înlăturat constrângerile, care a decis să-l facă public în acea formă și la acel moment.
Cine își minimizează propria responsabilitate într-o declarație corporativă și cine își maximizează propria credibilitate obliterează lanțul deciziilor umane, înlocuindu-l cu o entitate care acționează singură și față de care nimeni nu este responsabil.
Un proces are întotdeauna un inculpat
Acest limbaj apocaliptic trădează spiritul pe care îl inspiră. Apocalipsul lui Ioan nu a fost niciodată o simplă prezicere a unei catastrofe; mai degrabă, este o judecată, iar o judecată în sens biblic nu este niciodată un eveniment care se întâmplă unui individ vag distinct; este întotdeauna un proces cu un acuzat.
Scena marelui tron alb o arată cu precizia unei săli de judecată: „morții au fost judecați după cele scrise în cărți, după faptele lor” (Ap 20,12). Nu „omenirea a fost judecată”, ci morții, fiecare după ceea ce făcuse. Judecata biblică nu funcționează fără nume, fără lucrări atribuibile unui subiect identificat.
Aceeași structură susține, într-o altă formă, viziunea lui Daniel. Fiarele care se ridică din mare sunt imagini monstruoase, supraomenești, capabile să insufle o teroare pe care nicio cronică contemporană nu ar putea-o egala. Totuși, textul nu le lasă plutind ca un rău fără nume, ci le decodează, una câte una, în imperii istorice precise, puteri politice care au avut un început, o stăpânire și un sfârșit (cf. Dan 7,9-27). Chiar și cea mai terifiantă imagine din istoria biblică se referă întotdeauna la un lanț de decizii umane, oricât de grandioase și anonime ar părea.
Alarma legată de inteligența artificială își împrumută decorul din genul apocaliptic (sfârșitul iminent, termenul limită precis, limbajul exterminării) și renunță la exact ceea ce i-a întemeiat seriozitatea în genul biblic: acuzația. Apocalipsa unei IA care nu judecă pe nimeni este o predicție care absolvă pe toată lumea în avans, pentru că, dacă o mașină ia decizii, niciun om nu va trebui vreodată să răspundă pentru modul în care acea mașină a fost construită, antrenată și făcută publică.
Cine răspunde, cine dizolvă
Primul text biblic care pune în scenă această încercare de a scăpa de responsabilitate este Geneza. La întrebarea lui Dumnezeu despre locul unde se află Abel, Cain răspunde schimbând subiectul: „Nu știu. Sunt eu păzitorul fratelui meu?” (Gen 4,9). Este prima mișcare retorică din istoria biblică care vizează dizolvarea responsabilității într-o întrebare care pare rezonabilă, aproape tehnică: cine sunt eu să răspund pentru ceea ce s-a întâmplat altcuiva? Textul, însă, nu o acceptă: „Glasul sângelui fratelui tău strigă către mine din pământ” (Gen 4,10). Responsabilitatea rămâne ancorată într-un subiect, chiar și atunci când acel subiect încearcă să se redefinească ca fiind irelevant pentru întrebare.
Parabola talanților prezintă același principiu dintr-o perspectivă opusă. Nu slujitorul care a furat sau a distrus este condamnat, ci cel care a îngropat talantul pentru a nu risca nimic (cf. Mt 25,14-30). El este judecat pentru acțiunea sa omisă, pentru că s-a negat pe sine ca subiect chiar în momentul în care a fost chemat să fie unul. Între Cain care neagă că trebuie să răspundă și slujitorul care se sustrage refuzând să acționeze, Scriptura trasează aceleași două extreme care revin astăzi în limbajul inteligenței artificiale: cei care minimizează spunând că numai sistemul a acționat și cei care maximizează alarma vorbind despre o mașină care decide singură, ambii convinși, sau interesați să-i facă pe oameni să creadă, că nu ei sunt subiectul în cauză.
Internetul are întotdeauna nume
Chiar și filozofia tehnologiei a trebuit să se confrunte cu întrebarea cine este responsabil pentru o acțiune efectuată cu un instrument și ajunge, folosind un limbaj complet diferit, la aceeași concluzie.
Bruno Latour abordează acest lucru pornind de la un exemplu controversat, sloganul Asociației Naționale Rifle (National Rifle Association) conform căruia armele nu ucid, ci ucid oameni[5]: o sintagmă care exonerează obiectul plasând toată responsabilitatea asupra persoanei care îl deține, exact opusul mișcării făcute de cei care, vorbind despre inteligența artificială, plasează toată responsabilitatea asupra obiectului pentru a exonera persoana.
Latour nu acceptă nicio scurtătură. Nu pușca inertă de pe masă ucide, nici măcar omul dezarmat: ci combinația celor două, omul și pușca, în acel moment și în acel loc, face posibilă împușcarea. Această combinație, însă, poate fi întotdeauna descompusă din nou în elemente constitutive mai mici, iar fiecare element are propria istorie pe care cineva o poate reconstrui: cine a fabricat arma, cine a vândut-o, cine a decis să o poarte în ziua respectivă.
Este același principiu pe care textul biblic îl aplică judecății: rețeaua care produce un sistem de inteligență artificială are furnizori de servicii de calcul, seturi de date selectate de cineva, decizii de relaxare a constrângerilor luate de cineva și decizii luate de cineva pentru a o face publică în acea formă în acel moment. Fiecare piesă a acestui lanț are un nume, un rol, un contract, un buget, la fel cum fiecare lucrare scrisă în cărțile Apocalipsei are un autor căruia îi este atribuită.
Necunoașterea persoanei care ar trebui să răspundă la aceste întrebări depinde de o alegere repetată la fiecare nivel al lanțului de aprovizionare: adică alegerea de a nu privi rețeaua și, în schimb, de a privi mașina de la baza ei, ca și cum ar fi singură. Numele, la urma urmei, sunt deja acolo și nu este nevoie să le căutăm: cei care scriu apelul în aceeași lună în care se pregătește cea mai așteptată listare din sector (Amodei, care la scurt timp după aceea a recunoscut pentru CBS că a tăcut despre riscuri ani de zile); cei care trag același semnal de alarmă din motivul opus (Altman); cei care neagă scutirea fără de care încetinirea rămâne un anunț (Trump); cei care vând acțiuni de miliarde în timp ce compania pe care o prezidează se îndatorează pentru a finanța aceeași cursă (Ellison); cei care minimalizează același pericol pentru că cred că au avantajul în cursă (Xi Jinping). Avantajul de a vorbi despre exterminarea omenirii în câțiva ani este tocmai acesta: făptașul încă nu are nume și nu va avea niciodată nevoie de unul, atâta timp cât discuția publică acceptă raționamentul în termeni de subiecte indistincte, om sau mașină, mai degrabă decât rețele de decizii concrete și denumite. Genul apocaliptic, citit în întregime și nu numai pentru decorul său, ne învață exact opusul: nu există judecată, poate nici măcar frică adevărată, fără un inculpat.
Edoardo Mattei, profesor de Sociologie a Tehnologiei la Universitatea pontificală „Sf. Toma de Aquino” (Angelicum)
(După Settimana News, 25 septembrie 2026)
Traducere de pr. Mihai Pătrașcu
[1] J. Coxon, post pe X, septembrie 2026; cf. M. Basile, „«Rallentare lo sviluppo dell’IA» anche Anthropic lancia l’allarme”, La Repubblica, 13 septembrie 2026.
[2] E. Hubinger şi G. Hinton, declarații prezentate în F. Cella, „La tecnologia sfuggirà al controllo? E quali sono i rischi per la vita umana? Domande e risposte”, Corriere della Sera, 13 septembrie 2026.
[3] P. Christiano, declarații prezentate în W. Quattrociocchi, „L’intelligenza artificiale e il marketing dell’apocalisse”, Corriere della Sera, 12-13 septembrie 2026.
[4] D. Amodei, interviu la CBS, 13 septembrie 2026, citat în M. Rovelli, „Dario Amodei alla Cbs: «Per troppo tempo l’industria ha mentito sui rischi dell’intelligenza artificiale»”, Corriere della Sera, 13 septembrie 2026.
[5] B. Latour, Pandora’s Hope: Essays on the Reality of Science Studies, Harvard University Press, Cambridge (MA), 1999, îndeosebi capitolul dedicat puştii şi sloganului Asociației Naţionale Rifle.
