OpenAI vrea să antreneze modele pe datele sesiunilor Daybreak Blue, anterior strict confidențiale

Încrederea comunității de securitate cibernetică și a cercetătorilor în furnizorii mari de inteligență artificială este din nou pusă la încercare. OpenAI a informat membrii programului său Trusted Access că intenționează să folosească datele din sesiunile proiectului Daybreak Blue pentru a-și antrena viitoarele modele, stârnind îngrijorări majore privind confidențialitatea informațiilor sensibile.

Ce s-a întâmplat

Printr-o înștiințare trimisă utilizatorilor din programul Trusted Access, OpenAI a anunțat că, începând cu 29 noiembrie, datele din sesiunile Daybreak Blue vor fi incluse în seturile de antrenament pentru modelele AI. Până în prezent, aceste date fuseseră complet excluse din procesul de instruire, chiar și fără a depinde de setarea generală prin care utilizatorii permit sau refuză îmbunătățirea serviciilor.

Reacția negativă a comunității a fost imediată. În fața criticilor, OpenAI a revenit cu un al doilea e-mail în care a promis introducerea unei opțiuni dedicate de renunțare (opt-out). Cu toate acestea, compania a precizat că interacțiunile semnalate în timpul revizuirilor de siguranță vor putea fi utilizate în continuare în scopuri de conformitate și protecție. Schimbarea de politică a readus în atenție controverse mai vechi, cum a fost cazul matematicienilor Tristan Buckmaster și Levent Alpöge, care au încărcat ciorne legate de ecuațiile Navier-Stokes în Codex, alimentând suspiciuni persistente privind modul în care OpenAI gestionează proprietatea intelectuală.

De ce contează în România

Pentru specialiștii români în securitate cibernetică, companiile de tehnologie și cercetătorii afiliați universităților locale care colaborează cu OpenAI sau testează unelte avansate, decizia este un semnal de alarmă. Datele manipulate în sesiuni de analiză a securității cibernetice conțin adesea vulnerabilități zero-day, configurații critice de rețea sau cod proprietar care nu ar trebui să ajungă niciodată într-un set de date public sau reantrenat.

Echipele din România care lucrează cu instrumentele OpenAI trebuie să își revizuiască atent acordurile de confidențialitate și procedurile interne. Chiar dacă OpenAI promite un mecanism de opt-out, companiile locale care activează sub reglementări stricte europene (inclusiv GDPR și viitoarele norme NIS2) ar putea fi reticente să mai transmită date sensibile către platformă dacă politicile de retenție se schimbă unilateral.

Cum poți încerca

Programul Daybreak Blue și accesul Trusted Access sunt inițiative restrânse gestionate direct de OpenAI, nefiind deschise publicului larg fără o aprobare prealabilă. Utilizatorii și cercetătorii care fac deja parte din acest program ar trebui să urmărească e-mailurile oficiale primite de la OpenAI pentru a activa opțiunea de opt-out promisă înainte de termenul limită din 29 noiembrie.

Pentru utilizatorii obișnuiți de ChatGPT sau API, cea mai sigură practică rămâne verificarea constantă a setărilor de confidențialitate ale contului și evitarea introducerii de fragmente de cod sensibile, parole, chei de acces sau rapoarte confidențiale de audit.