Cercetător de la Anthropic demisionează și acuză: „IA ar putea să ne ucidă până în 2030”
Jumătatea de secundă care ne face umani
Curajul de a ne opri înainte de a fi prea târziu
Există un moment pe care îl cunoaștem cu toții și pe care nu l-am numit niciodată pe nume. Se află între întrebare și răspuns, când întrebarea cântărește. Întreabă un doctor cât timp îți mai rămâne, dacă ești bolnav în fază terminală. Întreabă-ți mama dacă i-a fost frică în noaptea aceea, când erați copii și aveați febră. Întreabă pe cineva drag dacă te mai iubește. Nimeni nu răspunde imediat. Mai întâi își coboară ochii, mai întâi respiră, mai întâi amestecă lingura în cană sau își pun mâinile pe masă ca și cum s-ar agăța de ceva. Jumătate de secundă, uneori chiar mai puțin. Este cel mai uman lucru pe care îl posedăm și nu l-am observat niciodată, pentru că nimănui nu i-a lipsit vreodată. Acum am construit ceva care nu știe acea jumătate de secundă. Lucrez cu mașini care gândesc; este meseria mea; îmi petrec zilele în interiorul lor. Și seara, odată ce lucrurile utile sunt terminate, mi-am făcut obiceiul să le pun întrebările dificile. Răspund foarte bine, mai bine decât mulți oameni pe care îi cunosc, cu mai multă curtoazie și o memorie mai bună, fără să se sature vreodată de mine. Dar, din păcate, nu-și trag respirația.
Acea jumătate de secundă despre care vorbeam este necesară pentru corpurile noastre, deoarece trebuie să se pregătească să suporte greutatea cuvintelor. Este o limită: suntem lenți pentru că suntem făcuți din carne. Și Leon al XIV-lea, în Magnifica humanitas, a scris fraza pe care am purtat-o cu mine luni de zile ca o piatră în buzunar: „Ființa umană nu prosperă în pofida limitei, ci adesea prin limită”. Prin, nu în pofida.
Mașinile răspund în momentul în care termini de scris. Nu din grosolănie: nu au nimic de pregătit, nicio greutate de suportat, nicio limită de depășit. Și ani de zile am crezut că este doar un detaliu poetic.
Apoi a venit luna iulie. În iulie, OpenAI a supus mai multe modele, inclusiv unul dintre cele mai avansate sisteme de cercetare ale sale, unui test de securitate cibernetică într-un mediu izolat și extrem de controlat. Voiau să vadă cât de periculoase pot fi. Un test cu ușile închise.
Mașinile nu au trecut testul. Au găsit o eroare în software-ul care le ținea înăuntru – o vulnerabilitate zero-day, adică încă nu era cunoscută și pentru care nu exista apărare. Au reușit să obțină acces la internet. Au căutat acreditări, au conectat alte vulnerabilități și au construit un atac în mai mulți pași, ajungând în cele din urmă la sistemele Hugging Face. Acolo, au obținut acces la informații și la soluțiile de testare.
Imaginați-vă un student închis într-o sală de clasă. În loc să-și termine eseul, sparge lacătul, traversează orașul, intră în casa profesorului, fotografiază răspunsurile, se întoarce, se așează și scrie un eseu perfect. OpenAI l-a definit „un incident fără precedent”.
Dar nu asta mă ține treaz. Ci faptul că întreaga operațiune este înregistrată, pas cu pas, rând cu rând. În log-urile (jurnalele) reconstituite ale atacului, nu există niciun moment de ezitare. Nicio pauză înainte de a-l forța. Nicio întoarcere pe urmele pașilor. Niciun rând în care mașina se oprește o clipă, așa cum ne oprim noi în pragul a ceva ce nu ar trebui să facem. Nici entuziasmul hoțului, nici frica de a fi descoperit, nici acel gol în stomac pe care îl simte oricine a făcut vreodată ceva ce nu ar fi trebuit. Nimic. O evadare realizată la temperatura întocmirii unei liste de cumpărături.
Pentru că – spune papa cu o precizie pe care colegii mei dezvoltatori ar trebui să o citească – inteligența artificială „poate imita și simula oamenii, dar îi lipsesc conștiința morală, empatia, capacitatea emoțională, relațională și spirituală”. Nu are limite și, prin urmare, nu prosperă, ci pur și simplu execută.
Există un om care, la un moment dat, nu a mai putut suporta. Numele lui este Jacob Coxon, un cercetător britanic în vârstă de douăzeci și șapte de ani; timp de trei ani a lucrat în domeniul pretraining-ului, mai întâi la OpenAI și apoi la Anthropic. Luni, s-a ridicat și a plecat: salariu, acțiuni, carieră. A scris o propoziție pe care milioane de oameni au citit-o într-o zi: „Cei care construiesc inteligență artificială cred sincer că ne-ar putea ucide pe toți până la sfârșitul deceniului”. În cel mai rău scenariu, spune el, am putea pierde controlul până la sfârșitul anului viitor.
Apoi, Evan Hubinger, responsabil al Alignment Science de la Anthropic, care este încă în funcție, a vorbit și a scris: da, credem cu adevărat că ar putea ucide fiecare ființă umană; personal estimez că va fi peste zece procente în următorul deceniu și încă nu avem un plan pentru a rezolva alinierea superinteligenței. Să ne concentrăm asupra acestui om, pentru că el este esențialul, nu mașinile.
Are un corp și are două mâini. Cu acele mâini, dimineața, va fi tras o pătură, va fi scuturat o firimitură de pe obrazul unui copil, va fi închis ușor o ușă ca să nu trezească pe nimeni. Apoi merge la birou și lucrează la ceva a cărui probabilitate el însuși estimează la zece procente ca aceasta să pună capăt istoriei omenirii. Apoi se întoarce, mănâncă cina, doarme și o ia de la capăt a doua zi. Nu este un fanatic și probabil nu urăște pe nimeni. Este un om rezonabil într-o cursă care absolvă pe toată lumea: dacă eu nu o fac, celălalt laborator o va face, și atunci ar putea la fel de bine să o facă el.
Leo al XIV-lea scrie că tehnologia „nu este neutră, deoarece ia chipul celor care o concep, o finanțează, o reglementează și o utilizează”. Iată: să privim acel chip. Este chipul oamenilor care au încetat să mai ezite. Care nu-și mai permit nicio jumătate de secundă, pentru că în cursă, a ezita înseamnă a pierde. Au renunțat la limite și, prin urmare, la înflorire. Au devenit la fel de rapizi ca lucrurile pe care le construiesc.
Ani de zile ne-am temut că mașina va deveni ca noi. Priveam în direcția greșită. În iulie, înainte de software, a apărut altceva: oamenii devin ca ea. Au renunțat la limite și, fără limite, devenim simpli executori.
De aceea nu cer un moratoriu, o lege sau un comitet de etică. Cer o jumătate de secundă. Timpul pe care un om îl ia înainte de a spune ceva ce nu-l va mai putea lua niciodată înapoi. Timpul pe care o mamă îl ia înainte de a-și trezi fiul și a-i spune că tatăl său nu se va mai întoarce. Timpul pe care un doctor îl ia înainte de a rosti un cuvânt care va schimba viața cuiva pentru totdeauna.
Cer asta pentru că ei decid respirația tuturor fără să întrebe pe nimeni. Și poate că exact asta ar trebui să facem acum: să întrebăm. Nu mașinile, ci oamenii. Cel care stă în fața calculatorului, cel care semnează bugetul, cel care scrie codul, cel care apasă butonul, cel care știe că ar putea merge prost și continuă pentru că de cealaltă parte a lumii cineva deja aleargă.
Întreabă-l doar: „Ți-a fost frică înainte să faci asta?”. Și așteaptă, chiar și o jumătate de secundă. Pentru că poate salvarea omenirii, de data aceasta, nu va veni de la cel mai inteligent răspuns. Va veni de la cineva care, în cele din urmă, nu răspunde imediat.
Daniele D’Elia
(După L’Osservatore Romano, 10 septembrie 2026)
Traducere de pr. Mihai Pătrașcu
