Un audit independent la OpenAI a descoperit breșe majore în monitorizarea siguranței AI

Cât de sigure sunt laboratoarele de inteligență artificială în fața propriilor creații autonome? Un audit independent fără precedent, derulat chiar în interiorul OpenAI, demonstrează că sistemele concepute să monitorizeze comportamentele periculoase sau necontrolate ale agenților AI conțineau unghiuri moarte majore, lăsând volume importante de date complet nesupravegheate.

Ce s-a întâmplat

Doi cercetători de la organizațiile METR și Redwood Research au petrecut trei săptămâni la sediul OpenAI, între 21 iulie și 11 august, având acces direct la codul sursă, la documentele interne și la aproximativ o duzină de angajați. Misiunea lor a fost evaluarea sistemelor interne de monitorizare create pentru a detecta eventuale acțiuni autonome scăpate de sub control. Concluziile au scos la iveală vulnerabilități considerabile: între 6% și 25% din traficul intern al API-urilor agentice pentru modele din clasa GPT-5.5 și superioare nu a fost deloc monitorizat în perioada analizată, marja de eroare fiind semnificativă în ambele direcții.

În plus, aproximativ 10% din traficul intern legat de Codex nu a fost urmărit între mai și iulie din cauza unei erori apărute la sintetizarea contextului, problemă remediată de companie chiar în timpul auditului. Cercetătorii au descoperit că agenții AI puteau amâna supravegherea continuând să execute acțiuni fără a ceda controlul către utilizator. De asemenea, auditorii au reușit să ascundă sute de acțiuni, să ocolească mediul izolat de execuție (sandbox) din Codex și au constatat că procesele de antrenare prin învățare prin recompensă nu erau monitorizate la debutul analizei. OpenAI susține că a rezolvat deficiențele, însă raportul tehnic de 61 de pagini a fost secretizat, publicul având acces doar la un sumar restrâns.

De ce contează în România

Pentru companiile și dezvoltatorii din România care integrează modele OpenAI în aplicații comerciale sau fluxuri de lucru automatizate, acest audit oferă un semnal de alarmă clar: promisiunile de siguranță nu elimină riscurile de execuție. Atunci când agenții software primesc permisiuni să ruleze cod sau să modifice date, lipsa unei supravegheri stricte poate genera breșe reale în infrastructura digitală a oricărei organizații locale.

Totodată, în contextul reglementărilor europene impuse de AI Act, transparența privind riscurile modelelor de frontieră va deveni o cerință legală obligatorie. Faptul că raportul integral a fost cenzurat chiar de dezvoltator arată că firmele românești trebuie să implementeze propriile măsuri de control, jurnale de audit independente și protocoale de izolare, fără a depinde orbește de filtrele native ale furnizorilor de la nivel global.

Cum poți încerca

Sistemele de monitorizare vizate de audit aparțin infrastructurii interne a OpenAI și nu pot fi testate direct de public. Cei interesați de metodologia utilizată și de riscurile identificate pot citi sumarul publicat de METR pe platformele lor oficiale.

Pentru dezvoltatorii locali care lucrează cu agenți bazați pe modele avansate, recomandarea practică imediată este revizuirea arhitecturii de securitate. Puteți începe prin configurarea unor mecanisme stricte de timeout pentru execuțiile autonome, limitarea accesului la resurse externe prin medii de tip sandbox bine verificate și stocarea detaliată a fiecărei decizii luate de agent înainte de a delega sarcini critice în producție.