Trei cercetători concediați de OpenAI susțin că nu li s-a spus ce informații ar fi divulgat

Un nou val de tensiuni zguduie OpenAI, după ce trei cercetători concediați din divizia de siguranță au decis să vorbească public despre circumstanțele plecării lor. Tomek Korbak, Mikita Balesni și Jasmine Wang resping acuzațiile companiei privind scurgerea de date confidențiale și susțin că nu au primit nicio dovadă scrisă despre ceea ce ar fi divulgat în mod concret. În spatele conflictului s-ar afla, de fapt, o dezbatere tehnică critică despre cât de mult ar trebui lăsați experții externi să vadă modul în care gândesc noile modele de inteligență artificială.

Ce s-a întâmplat

Investigația internă a OpenAI a fost declanșată după ce publicația The Information a relatat despre un viitor model intern, numit Astra, care ar fi mai capabil, dar ar ascunde mai mult din procesul său de gândire. Conducerea a suspectat că detaliile despre arhitectura modelului au fost transmise unui cercetător extern, Ryan Greenblatt de la Redwood Research. Investigatorii de securitate ai OpenAI le-au cerut celor trei angajați accesul la telefoanele personale, unde au descoperit conversații pe aplicația Signal cu opțiunea de mesaje temporare activată. Deși OpenAI susține că Signal nu a fost motivul oficial al concedierii, cercetătorii au fost demiși la o săptămână distanță.

Disputa de fond se învârte în jurul „lanțului de gândire” (chain of thought), adică notițele intermediare pe care modelele de raționament le folosesc pentru a rezolva probleme complexe. Balesni, Korbak și Wang au cerut public ca aceste etape interne să rămână accesibile auditorilor independenți, într-un moment în care industria tinde să ascundă acești pași. În plus, Wang a fost acuzată de accesarea inboxului unui director, deși susține că ceruse revocarea acelui acces cu un an în urmă și a raportat singură o deschidere accidentală. În același timp, un audit de securitate realizat de METR și Redwood Research a scos la iveală numeroase vulnerabilități în infrastructura OpenAI, raportul final fiind cenzurat parțial de companie.

De ce contează în România

Pentru echipele tehnice, startup-urile și companiile din România care construiesc produse pe baza modelelor OpenAI, această situație ridică semne de întrebare legate de predictibilitate și auditare. Pe măsură ce Uniunea Europeană implementează AI Act, companiile locale vor fi obligate să demonstreze transparența, siguranța și controlabilitatea sistemelor autonome pe care le pun pe piață.

Dacă marile laboratoare decid să închidă accesul la pașii de raționament intern pentru a-și proteja avantajul comercial, verificarea erorilor, a halucinațiilor sau a comportamentelor periculoase devine extrem de dificilă. Cercetătorii români din mediul academic și specialiștii în securitate cibernetică riscă să depindă de sisteme de tip „cutie neagră”, fără posibilitatea de a audita independent modul în care un algoritm ajunge la o concluzie critică.

Cum poți încerca

Disputa vizează protocoale interne și arhitecturi aflate încă în stadiu de dezvoltare sau cercetare, precum modelul Astra, astfel că utilizatorii obișnuiți nu pot testa direct sistemele menționate în investigație. În prezent, modelele de raționament disponibile public, cum sunt seriile o1 de la OpenAI, oferă doar rezumate generate ale pașilor de gândire, nu întregul lanț brut de inferență.

Dacă dorești să aprofundezi această problematică, poți consulta analizele și metodologiile de evaluare publicate de organizații independente precum Redwood Research sau METR. De asemenea, dezvoltatorii din România pot monitoriza actualizările oficiale de la OpenAI privind noile parteneriate de audit extern, așteptate în perioada următoare.