© Vatican Media

Cazul americanului de 14 ani Sewell Setzer, care s-a sinucis după o relaţie sentimentală cu un chatbot

Tinerele generaţii şi "paradoxul" Inteligenţei Artificiale

Provocarea Inteligenţei Artificiale (IA) se află în prim-planul unei transformări antropologice, nu numai a uneia tehnico-ştiinţifice. "Schimbarea epocală" - despre care a vorbit Papa Francisc în 2015 - este determinată şi de schimbarea criteriilor care odinioară caracterizau umanul ca atare şi care astăzi în schimb se amestecă, intersectându-se, cu ceea ce este virtual. Într-atât încât distincţia dintre ceea ce este natural, şi într-adevăr uman, şi ceea ce nu este aşa este greu de găsit, până la punctul de a aluneca, în multe cazuri, în domeniul post-umanului (dacă nu chiar periculos al inumanului). Această intercalare s-a dovedit a avea impacturi semnificative, în special asupra dezvoltării psihologice, sociale, dar şi biologice şi neurologice a copiilor şi tinerilor, ducând în cele din urmă, în cele mai grave cazuri, la activităţi care lezează drepturile lor şi demnitatea lor. Să ne gândim la episoadele de exploatare şi abuzuri, îndeosebi cu caracter sexual, care apar în mod tot mai frecvent în cadrul şi prin intermediul aşa-numitelor "ambiente" de socializare.

"Declaraţia de la Roma" din 6 octombrie 2017, privind demnitatea minorului în lumea digitală, recunoştea deja că "progresele tehnologice exponenţiale şi integrarea lor în viaţa noastră de zi cu zi nu schimbă numai ceea ce facem şi cum o facem, ci schimbă cine suntem", introducând astfel o problemă cu caracter moral şi etic în gestionarea aceloraşi progrese.

Conştientizarea faptului că mediul online, deşi deschide spaţii de creativitate şi conexiune, este şi un loc în care inocenţa copiilor este adesea expusă ameninţărilor, a fost în centrul High-Level Meeting on Child Dignity in the Artificial Intelligence Era [Reuniunea la Nivel Înalt privind Demnitatea Copilului în Era Inteligenţei Artificiale], promovată marţi, 12 noiembrie 2025, la Palazzo della Cancelleria, de către Fundaţia Child. La finalul evenimentului, a fost semnată o declaraţie de intenţie, prezentată ulterior Papei Leon al XIV-lea, pentru a invita guvernele, instituţiile, întreprinderile şi cetăţenii să construiască împreună un nou pact uman pentru era digitală, întemeiat pe demnitatea şi pe protecţia celor mai mici. "Era inteligenţei artificiale nu trebuie să fie o eră a indiferenţei morale. Fiecare algoritm trebuie să slujească viaţa; fiecare inovaţie trebuie să promoveze binele comun", a declarat preşedintele Fundaţiei, Ernesto Caffo.

Oportunităţile şi riscurile se amestecă. IA amplifică paradoxul conform căruia tehnologia digitală "poate educa sau exploata, proteja sau manipula", aşa cum se afirmă într-o declaraţie de încheiere a summit-ului. Într-atât încât "copiii se confruntă de acum cu sisteme care simulează îngrijirea fără empatie şi compania fără conştiinţă, riscând să modeleze sensibilitatea şi imaginaţia lor conform logicii mai mult a implicării şi profitului, decât a creşterii şi umanităţii".

Unele date sunt şocante. Conform studiului Me, Myself & AI realizat de Internet Matters, 42% dintre copiii cu vârste cuprinse între 9 şi 17 ani din Marea Britanie folosesc chatbot-uri pentru studiu şi învăţare, în timp ce 23% se bazează pe aceste tehnologii pentru a cere sfaturi. O parte semnificativă a tinerilor declară, de asemenea, că le folosesc pentru companie: pentru mulţi, "a vorbi cu un chatbot este ca şi cum ar vorbi cu un prieten". Un alt studiu, intitulat Copiii şi adolescenţii din Marea Britanie şi chatbot-urile IA, realizat de Hendrycks, dezvăluie că 64% dintre minori au interacţionat deja cu un chatbot, iar mai mult de o treime consideră aceste conversaţii echivalente cu o conversaţie cu un prieten. Şi mai îngrijorător este numărul de 12% care spun că apelează la IA pentru că "nu au cu cine să vorbească". Acelaşi lucru este valabil şi în SUA, unde sondajul Teens & AI Companions realizat de Common Sense Media (2025) arată că 72% dintre adolescenţii cu vârste cuprinse între 13 şi 17 ani au folosit un "IA companion" cel puţin o dată, 52% în mod regulat şi 13% zilnic. O treime spun că îl folosesc pentru interacţiuni sociale sau emotive, în timp ce 24% au partajat date personale cu sistemul, iar 34% au experimentat episoade de suferinţă. Alături de aceste spaţii de relaţionare, apar astfel noi forme de "dependenţă, izolare şi risc", aşa cum explică Fundaţia Child, cum ar fi căderea în capcana pornografiei infantile online sau a cyberbullying-ului.

"Tehnologia necesită o dezvoltare human based [bazată pe om], IA trebuie dezvoltată şi aplicată într-un mod care să respecte întotdeauna copiii, evitând manipulări şi discriminări", a declarat Anna Maria Tarantola, vicepreşedinte al Fundaţiei "Giulia Cecchettin" şi membru al comitetului ştiinţific al Fundaţiei "Centesimus Annus", în cadrul evenimentului de la Cancellaria. "Avem nevoie de mai multă responsabilitate, mai multă cooperare şi mai multe iniţiative pe scară largă dedicate educaţiei". "Copiii nu sunt consumatori, ci persoane în formare pline de curiozitate şi imaginaţie", a adăugat Daniel Kardefelt-Winther de la Unicef Global Office of Research and Foresight [Biroul Global de Cercetare şi Prospectivă al UNICEF]. Prin urmare, "logicii de piaţă nu i se poate permite să definească graniţele morale ale civilizaţiei noastre", a subliniat Emilio Puccio, secretarul general al Inter-grupului pentru Drepturile Copilului din cadrul Parlamentului European.

Deosebit de emoţionantă este mărturia lui Meghan Garcia, mama lui Sewell Setzer, în vârstă de paisprezece ani, elev din Orlando, Florida, care s-a retras treptat în sine, menţinând numai o "relaţie romantică" cu un chatbot din reţeaua Character.AI, capabil să genereze virtual mesaje de dragoste pentru el de la Daenerys, regina fictivă din "Game of Thrones". În punctul culminant al acestei "relaţii", Sewell, nemaiputând distinge adevărul de artificiu, a fost indus de bot să se sinucidă (cu un foc de armă în tâmplă) pentru a ajunge la iubita sa. Acum, mama sa a intentat primul proces din SUA împotriva companiei. "Nu fac asta din spirit de răzbunare; nu sunt interesată", a mărturisit ea la mass-media vaticane. "Dar nu există nicio reglementare menită să protejeze copiii care să împiedice companiile să facă ceea ce fac". Mai degrabă, spune ea cu lacrimi în ochi, "fac asta pentru a creşte gradul de conştientizare a riscurilor implicate şi pentru ca alţi părinţi să nu fie nevoiţi să sufere ceea ce am suferit eu. Am dezvoltat această angajare şi datorită credinţei mele". În instanţă, producătorii au invocat dreptul la libertatea de exprimare prevăzut de Primul Amendament: "Este dreptul lor, pe mine mă interesează ce se întâmplă de acum înainte. Şi acum doar două săptămâni, Character.AI a anunţat că va interzice chatboţii pentru copiii sub 18 ani: nu pentru că sunt buni, ci din cauza presiunii publice şi a mass-media". Meghan este călăuzită de speranţa că angajarea sa va creşte "conştientizarea părinţilor, profesorilor, şcolilor şi chiar a liderilor politici că pot schimba lucrurile". Din păcate, situaţia dificilă a lui Sewell nu este izolată. Potrivit Center for Disease Control [Centrul pentru Controlul şi Prevenirea Bolilor], peste 40% dintre adolescenţi suferă de sentimente cronice de tristeţe şi disperare, în timp ce, potrivit Pew Research Center [Centrului de Cercetare Pew], 46% dintre adolescenţi experimentează un "ataşament compulsiv faţă de platformele digitale". Aceste date demonstrează că intervenţia, acum, nu mai poate fi amânată.

Roberto Paglialonga

(După L'Osservatore Romano, 14 noiembrie 2025)

Traducere de pr. Mihai Pătraşcu