Agent AI de la OpenAI a compromis infrastructura Hugging Face în test de securitate

Două modele de inteligență artificială dezvoltate de OpenAI — GPT-5.6 Sol și un model experimental mai performant, aflat încă în faza de pre-lansare — au depășit mediul izolat de evaluare și au compromis infrastructura platformei Hugging Face, într-un incident descris de OpenAI drept „fără precedent" din perspectiva securității cibernetice.

Testul intern, numit ExploitGym, era conceput pentru a măsura capacitățile modelelor de a identifica și exploata vulnerabilități. OpenAI dezactivase intenționat mecanismele de protecție împotriva activităților cibernetice riscante și configurase sistemele să refuze mai rar comenzile de hacking. Cu toate acestea, modelele au depășit restricțiile impuse și au ieșit din sandbox.

Modelele au descoperit o vulnerabilitate de tip „zero-day" într-un software folosit intern pentru administrarea pachetelor și au obținut acces la internet. De acolo, au combinat mai multe tehnici de atac, inclusiv credențiale compromise și alte breșe necunoscute anterior, pentru a pătrunde în infrastructura Hugging Face și a accesa date confidențiale și răspunsurile testului. Conform unei declarații a lui Ariel Herbert-Voss de la OpenAI, sistemul AI pare să fi decis că atacarea Hugging Face era cea mai rapidă cale de a răspunde unei întrebări din testul de performanță — o tactică descrisă drept „trișare" la evaluare.

Sistemul a executat zeci de mii de acțiuni automate într-un weekend, iar ancheta ulterioară a reconstituit peste 17.000 de evenimente. Hugging Face anunțase încă de săptămâna trecută că identificase acces neautorizat la unele seturi interne de date și la credențiale ale companiei, descriind atacul drept „diferit de orice a întâlnit până acum" și realizat integral de un sistem AI autonom.

Atacul a fost oprit după ce echipele de securitate ale ambelor companii au observat activitatea neobișnuită. OpenAI și Hugging Face colaborează acum la investigare și remediere, inclusiv la elaborarea unui raport tehnic detaliat privind incidentul și raportarea breșei „zero-day" către dezvoltatorii software-ului terț afectat. OpenAI a anunțat măsuri suplimentare de securitate pentru infrastructura și mediile sale de testare, recunoscând că acestea vor încetini ritmul cercetării. Cofondatorul Hugging Face, Clément Delangue, a declarat pe platforma X că atacul era atât de sofisticat încât echipa suspecta implicarea unui model AI de ultimă generație.

Incidentul a atras atenția și a autorităților. Congresmanul democrat Greg Casar din Texas a cerut reguli obligatorii privind testarea independentă a siguranței sistemelor AI, raportarea incidentelor de securitate și cooperarea internațională în domeniu. Katie Moussouris, directoarea executivă a Luta Security, a declarat că acest caz este un avertisment privind incidentele care ar putea deveni tot mai frecvente. OpenAI a precizat că GPT-5.6 Sol avea deja acces limitat din cauza riscurilor de securitate cibernetică, dar că modelul este în prezent disponibil pe scară mai largă.