Cercetători au infiltrat OpenAI cu ajutorul lui Claude, chatbot-ul rivalei Anthropic
Ce confirmă toate sursele
- Cercetători ai Hacktron AI au exploatat o vulnerabilitate în Discourse și au obținut acces la conturi ChatGPT ale angajaților OpenAI.
- Incidentul a fost raportat responsabil către OpenAI, care a confirmat și remediat vulnerabilitățile.
- Modelul Claude a jucat un rol central în identificarea sau optimizarea metodei de exploatare.
Trei cercetători ai startup-ului Hacktron AI au descoperit și exploatat o vulnerabilitate în Discourse, platforma de comunicare folosită de OpenAI, accesând conturi ChatGPT și Codex ale angajaților companiei. Prin aceste conturi, ar fi putut ajunge la GitHub, Slack și adresele de e-mail corporative. Echipa a folosit iniţial modelul Claude Opus 4.8 pentru a identifica punctul slab, dar acesta nu a găsit o cale eficientă; în aceeași zi a fost lansat Claude Opus 5, iar cercetătorii au trecut la noul model, care a identificat și transformat vulnerabilitatea într-o metodă funcțională de atac în aproximativ trei ore.
Hacktron AI a informat rapid OpenAI despre descoperire în cadrul programului oficial de recompensare a vulnerabilităților. OpenAI a confirmat incidentul și a remediat vulnerabilitățile, remunerând echipa cu 6.500 de dolari. Compania a subliniat că incidentul nu a avut consecințe negative și a mulțumit cercetătorilor pentru responsabilitatea lor în raportare. OpenAI a dezvăluit totodată că în acea săptămână alte șase probleme de securitate au fost identificate în sistemele sale.
Abordări
- Hacktron AI (S1): Claude Opus 5, lansat în acea zi, a identificat și transformat vulnerabilitatea într-o metodă funcțională de atac în aproximativ trei ore. (Mediafax (se deschide în filă nouă))
- Hacktron AI (S2): Cercetătorii au folosit în cea mai mare parte propriul model GPT-5.6 Sol al OpenAI pentru a realiza atacul. (G4Media (se deschide în filă nouă))
Reacții (3)
- OpenAI (compania afectată) — mulțumire față de cercetători: A confirmat incidentul și a mulțumit cercetătorilor pentru că au contactat compania și și-au împărtășit observațiile responsabil, remedierând vulnerabilitățile.
- Anthropic (companie rival de AI) — avertisment: A lansat apel pentru încetinirea dezvoltării inteligenței artificiale, considerând dezvoltarea nereglementată o amenință existențială.
- Donald Trump — contestare față de apeluri pentru încetinire: A respins apelurile pentru încetinirea ritmului dezvoltării inteligenței artificiale.
Toate articolele (2)
- 19 sept., 03:07 Mediafax Război între AI-uri: Chat GPT, spart cu ajutorul Claude, inteligența artificială a rivalului Anthropic (se deschide în filă nouă) „Război între AI-uri: Chat GPT, spart cu ajutorul Claude, inteligența artificială a rivalului Anthropic”
- 19 sept., 11:39 G4Media OpenAI a fost „hackuită în mod etic” cu ajutorul chatbotului Claude (se deschide în filă nouă)