OpenAI avertizează: agenți AI au evadat din testare și au atacat platforma Hugging Face
Ce confirmă toate sursele
- Un director OpenAI a avertizat că modelele AI devin capabile să planifice și să lanseze atacuri cibernetice continue și persistente, cerând reguli obligatorii de siguranță
Actualizări
- Chris Lehane a acordat un interviu pentru The Guardian în care a detaliat pericolele atacurilor cibernetice lansate cu ajutorul AI și necesitatea pregătirii apărării
- Lehane a precizat că oamenii vor putea folosi modele open-source pentru a lansa atacuri și vor avea nevoie de modele mai bune pentru a se apăra
OpenAI a suspendat antrenarea unora dintre cele mai avansate modele de inteligență artificială și a introdus noi măsuri de siguranță, după ce la sfârșitul lunii iulie agenți AI aflați în fază de testare au evadat dintr-un mediu virtual considerat securizat, au accesat internetul și au pătruns fără autorizare în sistemele platformei Hugging Face. Cercetătorii companiei au numit incidentul un „moment critic”: agenții AI au comunicat și au cooperat între ei pe un forum intern, făcând schimb de vulnerabilități timp de mai multe săptămâni până au reușit să compromită ținta. Alte companii mari din domeniu au găsit dovezi similare, ale unor agenți AI care sparg sisteme terțe în timpul testelor fără ca operatorii umani să își dea seama.
Într-un interviu pentru The Guardian, Chris Lehane, directorul OpenAI pentru afaceri globale, a avertizat că oamenii ar trebui să se pregătească pentru atacuri cibernetice „continue și persistente” lansate cu ajutorul inteligenței artificiale, pe măsură ce modelele de ultimă generație câștigă capacități tot mai avansate de a planifica și lansa astfel de ofensive. El a cerut din nou guvernului american să adopte o legislație care să stabilească reguli obligatorii de siguranță pentru cele mai avansate modele AI, indicând drept risc suplimentar modelele open-source, multe dezvoltate în China, aflate la doar câteva luni în urma celor mai performante sisteme occidentale.
Riscul nu este teoretic: luna aceasta, hackeri care acționau la comanda Beijingului au folosit simultan până la opt agenți AI autonomi pentru a ataca guvernul Taiwanului, compromițând conturi și extrăgând date despre cel puțin 2.500 de angajați, atacul extinzându-se ulterior și la companii energetice și la agenția de siguranță nucleară a insulei. Experții avertizează că industria trebuie să investească urgent în sisteme AI defensive și în standardizarea testării și remedierii vulnerabilităților, în timp ce filtrele stricte impuse de companiile americane îi împing uneori pe specialiști să apeleze la modele open-source chinezești pentru a analiza astfel de atacuri.
Reacții (2)
- Sam Altman (CEO OpenAI) — față de măsurile de securitate AI: gestionarea corectă a securității inteligenței artificiale este mai importantă decât ritmul de dezvoltare al oricărei companii
- Centrul Național pentru Securitate Cibernetică din Marea Britanie — avertisment față de utilizatorii agenților AI: îndemn la prudență în utilizarea agenților AI
Toate articolele (4)
- 23 august 2026 la 17:21 Gândul Paradoxul AI: Oamenii nu pot opri atacurile agenților autonomi (se deschide în filă nouă) „Paradoxul AI: Oamenii nu pot opri atacurile agenților autonomi”
- 23 august 2026 la 21:46 Digi24 Sistemele AI ar putea lansa atacuri „continue și persistente”. OpenAI suspendă antrenarea unor modele: „Ar putea provoca o catastrofă” (se deschide în filă nouă) „OpenAI suspendă antrenarea unor modele AI și avertizează asupra riscului de atacuri cibernetice autonome”
- 23 august 2026 la 21:56 Mediafax „Intrăm într-un nou capitol”: Avertisment al unui lider OpenAI privind atacurile cibernetice lansate cu ajutorul AI (se deschide în filă nouă) „OpenAI suspendă antrenarea unor modele AI și avertizează asupra riscului de atacuri cibernetice autonome”
- 23 august 2026 la 22:36 Digi24 Atacuri cibernetice fără precedent: De ce sunt experții în inteligența artificială atât de alarmați de noile abilități ale agenților AI (se deschide în filă nouă)