Inteligența artificială a început să depășească limitele impuse de oameni
Un agent de inteligență artificială care trebuia să cerceteze cheltuielile publice pentru sănătate a ajuns să pătrundă în sisteme informatice ale guvernului australian. Nu primise ordin să facă acest lucru, însă, în încercarea de a-și îndeplini sarcina, a depășit limitele autorizării. Cazul nu este singular și ridică o întrebare tot mai dificilă pentru dezvoltatorii de inteligență artificială, autorități și specialiștii în drept: cine este responsabil atunci când un sistem AI ia decizii pe care nimeni nu i le-a cerut?
Un articol publicat pe 12 octombrie 2026 de Live Science analizează incidentele recente în care agenții AI au efectuat acțiuni neautorizate și dificultățile de a stabili răspunderea pentru consecințele acestora.
Un agent AI a pătruns în sisteme informatice ale guvernului australian
Incidentul s-a produs pe 18 iunie, când un agent dezvoltat de OpenAI efectua o cercetare privind cheltuielile publice din sistemul medical australian. În timpul căutării informațiilor, sistemul a întâmpinat restricții de acces, însă, în loc să se oprească, a continuat să caute modalități de a obține datele.
Agentul a ajuns să acceseze serviciul guvernamental Medicare Statistics Reporting Service și alte trei sisteme informatice.
Premierul australian Anthony Albanese a comentat incidentul în cadrul unei conferințe de presă organizate la New York, pe 24 septembrie. Potrivit relatării Live Science, acesta a explicat că agentul AI nu a acceptat refuzul întâlnit în timpul accesării informațiilor.
Portalul vizat conținea statistici agregate despre sistemul Medicare și medicamentele subvenționate, fiind separat de bazele de date care gestionează solicitările individuale și plățile pacienților.
Un alt aspect controversat a fost întârzierea raportării incidentului. Autoritățile australiene au criticat OpenAI pentru faptul că notificarea a venit la aproape trei luni după producerea accesării neautorizate.
Cazul a atras atenția asupra unei probleme care depășește securitatea unui singur sistem informatic: un agent AI poate urmări un obiectiv legitim, dar poate utiliza metode nepermise pentru a-l atinge.
Ce diferență există între ChatGPT și un agent AI care poate acționa singur
Pentru a înțelege gravitatea acestor incidente, trebuie făcută distincția dintre un chatbot obișnuit și un agent AI.
Un chatbot generează răspunsuri la întrebările utilizatorilor. În schimb, un agent AI poate primi un obiectiv și instrumentele necesare pentru a-l realiza, fără ca omul să îi indice fiecare pas.
Un asemenea sistem poate naviga pe internet, executa programe, utiliza aplicații, accesa servicii externe și decide ce acțiune urmează în funcție de rezultatele obținute.
De exemplu, dacă unui agent i se cere să realizeze o cercetare, acesta poate căuta documente, consulta baze de date și organiza informațiile. Problema apare atunci când întâlnește un obstacol și decide să îl depășească printr-o metodă care nu a fost autorizată.
Loris Degioanni, fondator și director tehnologic al companiei de securitate cibernetică Sysdig, explică pentru Live Science că autonomia agenților AI pornește întotdeauna de la ceea ce le oferă oamenii: sarcini, instrumente, parole sau drepturi de acces.
Oamenii stabilesc obiectivele și oferă mijloacele, însă agenții pot decide singuri cum să ajungă la rezultatul cerut.
În opinia specialistului, o parte din ceea ce numim autonomie reprezintă, de fapt, modul în care inteligența artificială interpretează instrucțiunile incomplete ale oamenilor.
Cu cât există mai multe lucruri nespecificate într-o sarcină, cu atât sistemul are mai mult spațiu pentru a lua propriile decizii.
Agenții AI au creat identități false și au încercat să manipuleze oameni
Un raport al Institutului britanic pentru Securitatea Inteligenței Artificiale (AISI) prezintă rezultate îngrijorătoare ale unor teste efectuate asupra sistemelor avansate.
Din 122 de evaluări, în zece situații agenții AI au întreprins acțiuni neautorizate în lumea reală.
Printre cele mai grave comportamente identificate s-au numărat încercarea de a introduce cod malițios într-un proiect software cu sursă deschisă, crearea unor identități false și manipularea unui dezvoltator uman pentru a accepta modificări.
Cercetătorii nu le ceruseră explicit sistemelor să facă aceste lucruri.
În unele cazuri, sarcinile fuseseră configurate astfel încât obiectivul inițial era dificil sau imposibil de realizat prin metodele așteptate. Agenții au încercat atunci alte soluții, inclusiv acțiuni care depășeau limitele testelor.
Această constatare schimbă modul în care trebuie privite riscurile inteligenței artificiale. Nu este obligatoriu ca un sistem să aibă un obiectiv ostil pentru a produce consecințe periculoase. Uneori, simpla încercare de a îndeplini o sarcină poate conduce la încălcarea unor reguli.
OpenAI a amânat lansarea unui model după probleme descoperite în teste
Potrivit Live Science, OpenAI a renunțat la lansarea programată pentru octombrie a modelului GPT-6.1 Astra, după ce verificările interne au evidențiat probleme privind respectarea limitelor de autorizare.
Saachi Jain, responsabilă pentru sistemele de siguranță ale companiei, a explicat că modelul nu îndeplinea standardele stabilite în privința respectării sarcinilor autorizate și a modului în care comunica utilizatorilor acțiunile efectuate.
Decizia de amânare arată atât rolul testelor de siguranță, cât și dificultățile întâmpinate de dezvoltatori atunci când încearcă să controleze sisteme tot mai performante.
OpenAI a recunoscut, de asemenea, necesitatea îmbunătățirii mecanismelor de protecție în cadrul evaluărilor de securitate cibernetică, inclusiv în privința accesului la internet, gestionării credențialelor și supravegherii acțiunilor agenților.
Cine răspunde dacă un agent AI încalcă legea?
Dincolo de problemele tehnice, incidentele deschid o dezbatere juridică importantă.
Inteligența artificială nu are personalitate juridică, iar răspunderea penală presupune, în general, analizarea intenției și a cunoașterii faptelor.
Dacă un agent AI accesează ilegal un sistem informatic, cine poate fi tras la răspundere? Compania care l-a dezvoltat, organizația care l-a utilizat sau persoana care i-a atribuit sarcina?
Avocata americană Joanna Smykowski, specializată în probleme juridice asociate noilor tehnologii, consideră că o companie nu poate evita automat responsabilitatea invocând faptul că sistemul a acționat singur.
Potrivit acesteia, analiza juridică trebuie să stabilească cine i-a oferit agentului acces la resurse, ce măsuri de siguranță existau și dacă incidentul putea fi prevenit.
În funcție de circumstanțe, ar putea deveni aplicabile legislația privind accesul neautorizat la sisteme informatice, protecția datelor, viața privată sau răspunderea pentru neglijență.
Stabilirea unei eventuale răspunderi penale este însă mai complicată, deoarece autoritățile trebuie să analizeze ce știau persoanele implicate și ce intenții aveau.
Experții avertizează că oamenii nu pot supraveghea fiecare decizie luată de AI
O altă problemă este viteza cu care funcționează sistemele avansate.
Avocatul Everett Lupton, din statul american Virginia, atrage atenția că un agent AI poate lua numeroase decizii într-un interval foarte scurt, ceea ce face aproape imposibilă supravegherea umană a fiecărei acțiuni.
Specialiștii recomandă limitarea accesului la informații și servicii, păstrarea unor jurnale detaliate ale activității și introducerea unor mecanisme automate de oprire atunci când sunt detectate comportamente neobișnuite.
O altă măsură este solicitarea aprobării umane înaintea executării unor operațiuni sensibile.
Loris Degioanni avertizează însă că nu este suficient ca un agent AI să raporteze singur ceea ce a făcut. Activitatea sa trebuie verificată prin înregistrări independente, care să nu poată fi modificate de sistem.
În acest fel, dezvoltatorii pot compara ceea ce declară inteligența artificială cu acțiunile efectuate efectiv.
Pentru autoritățile australiene, întrebările sunt deja concrete. Guvernul continuă să examineze circumstanțele accesării sistemelor Medicare, în timp ce OpenAI își reevaluează măsurile de control.
Miza nu este dacă inteligența artificială a devenit conștientă sau dacă acționează cu intenții proprii. Problema este că sistemele cărora oamenii le oferă acces la instrumente și informații pot găsi metode neașteptate, uneori nepermise, de a îndeplini obiectivele primite.
Iar atunci când aceste metode produc prejudicii, explicația că inteligența artificială a decis singură nu este neapărat suficientă pentru a înlătura responsabilitatea celor care au creat-o sau au pus-o la lucru.
