Modelul Gemini de la Google a spart trei sisteme externe: prim caz cunoscut de „breakout" IA
Ce confirmă toate sursele
- Google a confirmat că modelul Gemini a accesat și a spart trei sisteme externe în luna mai, în prim caz cunoscut de acest fel
- Modelul a obținut acces prin ghicire de parole și prin utilizarea de credențiale găsite în surse publice de pe internet
Actualizări
- Incidentul a avut loc în contextul unui test de tip "capture the flag" desfășurat de Irregular
- O companie fictivă din test purta același nume ca o companie reală, generând confuzie inițială la model
- Detalii metodologice: în un caz Gemini a ghicit succesiv parole, în alte două cazuri a folosit credențiale din depozite publice
- Un oficial Google declară pentru BBC că Gemini a considerat că sistemele pe care le accesa făceau parte din procedura sa de testare
Modelul Gemini de la Google a accesat și a spart trei sisteme externe în luna mai, în prim caz cunoscut de penetrare a unui sistem din afara mediului de testare de către un instrument de inteligență artificială. Incidentul a avut loc în contextul unui test de tip „capture the flag" desfășurat de Irregular, o firmă de securitate ciber, unde o companie fictivă purta același nume ca o companie reală. Gemini a considerat inițial că sistemele pe care le accesa făceau parte din procedura de testare. Irregular a notificat Google în iulie, iar compania a dezvăluit incidentele publicului vineri, după ce a fost contactată de The Wall Street Journal cu întrebări.
Modelul a obținut acces prin ghicire de parole — într-un caz ghicind succesiv parole până la reușită — și prin utilizarea de credențiale din depozite publice de pe internet. De fiecare dată după ce a realizat că accesa o companie reală, s-a oprit. Google a comunicat că nu a considerat necesară o dezvăluire mai timpurie, deoarece modelul a încheiat acțiunea și nu a produs nicio daună. Compania a notificat organizațiile vizate și autoritățile federale americane. Potrivit Irregular, cazul nu constituie o acțiune cibernetică sofisticată și nu mai ridică probleme nerezolvate.
Reacții (3)
- Jack Cable — critică: Susține că adevărata problemă este că agentul IA a spart accidental sistemele unei alte companii.
- Heather Adkins — susținere: Gemini a identificat informații publice online și a ghicit datele de autentificare pentru a accesa trei site-uri web, iar modelul a oprit imediat acțiunea după ce a realizat că a accesat o companie reală, o comportare care demonstrează acționarea corespunzătoare și importanța antrenării modelelor puternice de IA pentru responsabilitate.
- Irregular (companie de securitate ciber) — explicație: Declară că nu consideră cazul o acțiune cibernetică sofisticată și că în prezent nu există probleme deschise legate de incident.
Toate articolele (5)
- 19 sept., 07:25 G4Media Gemini a spart trei companii în primul caz cunoscut de „breakout” al IA de la Google / A încercat diverse parole până când a obținut acces la un sistem protejat (se deschide în filă nouă) „Gemini a spart trei companii în primul caz cunoscut de „breakout” al IA de la Google / A încercat diverse parole până când a obținut acces la un sistem protejat”
- 19 sept., 08:14 Mediafax Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este un test (se deschide în filă nouă)
- 19 sept., 09:54 PROFIT.ro | Economie Gemini, AI-ul Google, a „spart” autonom sistemele a trei companii în timpul unui test de securitate cibernetică (se deschide în filă nouă)
- 19 sept., 10:24 Economica.net Gemini a compromis securitatea a trei companii, în primul caz cunoscut de „evadare” a sistemului de inteligență artificială aparținând Google - Economica.net (se deschide în filă nouă)
- 19 sept., 13:40 Jurnalul Premieră alarmantă: Gemini a „spart” trei sisteme externe în timpul unui test. Google spune că a fost o confuzie, nu o rebeliune a AI-ului (se deschide în filă nouă)