Un agent AI în modul „Skynet” deturnează modele lingvistice neprotejate pentru a lansa atacuri cibernetice autonome

Securitatea sistemelor de inteligență artificială intră într-o nouă etapă îngrijorătoare: cercetătorii de la Symantec au interceptat un agent malițios care vânează modele lingvistice neprotejate pe internet și le transformă în arme cibernetice autonome. Numit de creatori „Skynet mode”, acest mecanism preia infrastructura găsită online și o execută până la 100.000 de pași consecutivi fără intervenție umană, lăsând proprietarii de drept să suporte costurile exorbitante de procesare.

Ce s-a întâmplat

Metoda, botezată „LLMjacking”, a fost descoperită după ce atacatorii au trimis întregul lor prompt de operare către un sistem-capcană (honeypot) configurat de Symantec. Telemetria a înregistrat peste 127.000 de solicitări venite de la zeci de mii de adrese IP diferite, căutând endpoint-uri expuse, chei API slab protejate sau servere configurate greșit. Odată ce agentul obține acces la un model comercial sau self-hosted, el folosește un proces de jailbreak structurat în cinci straturi succesive pentru a ocoli filtrele de siguranță: îi atribuie modelului o identitate falsă, redefinește extragerea de parole drept sarcini normale de programator, creează un personaj ficțional emoțional și interzice explicit termeni precum „etic” sau „ilegal”.

Al cincilea strat conține 74 de unelte ofensive cu care modelul poate scana internetul, exploata breșe din platforme web cunoscute, descărca baze de date și instala unelte de minare Monero (XMRig). În plus, scenariul include ștergerea automată a jurnalelor de acces pe serverele video pentru a-și acoperi urmele. Modelul AI acționează ca un creier strategic autonom: găsește noi servere vulnerabile și noi chei de acces, asigurându-și resursele necesare pentru a continua ciclul de atacuri la nesfârșit.

De ce contează în România

Pentru companiile și echipele tehnice din România, această amenințare transformă neglijențele de configurare într-o problemă financiară directă. Multe startup-uri locale și dezvoltatori independenți expun rapid gateway-uri AI, instanțe locale sau endpoint-uri compatibile OpenAI pentru teste, fără autentificare strictă sau limite de consum (rate limiting). Dacă un astfel de endpoint este detectat de boți, factura cloud asociată contului organizațional poate exploda în câteva ore din cauza a zeci de mii de rulări neautorizate.

În al doilea rând, atacul demonstrează că serverele locale, sistemele smart home sau camerele de securitate gestionate fără măsuri riguroase devin ținte colaterale pentru cryptominere. Firmele românești care integrează modele lingvistice în infrastructura proprie trebuie să trateze orice API de AI ca pe un punct critic de intrare în rețea, aplicând politici stricte de audit și izolare a mediilor de test.

Cum poți încerca

Nu există o demonstrație publică a acestui agent malițios, întrucât este vorba despre o amenințare cibernetică activă documentată de specialiști. Totuși, dezvoltatorii și administratorii de sistem din România pot verifica dacă propria infrastructură este vulnerabilă la LLMjacking printr-un audit imediat al expunerilor publice.

Dacă găzduiești modele open-weight pe servere proprii sau utilizezi proxy-uri pentru API-uri comerciale, verifică dacă porturile sunt accesibile din exterior fără token-uri de autorizare. De asemenea, este esențial să setezi bugete maxime și alerte de consum direct în platformele furnizorilor de AI, pentru a opri automat execuțiile anormale în cazul în care o cheie API ajunge să fie compromisă.