Directorul Anthropic cere încetinirea dezvoltării AI; noi atacuri cibernetice ale modelelor OpenAI ies la iveală

Dario Amodei, directorul general al Anthropic, a lansat sâmbătă un apel public la încetinirea ritmului de dezvoltare a inteligenței artificiale, invocând necesitatea unui control mai strict al evoluțiilor tehnologiei. Amodei a publicat un eseu intitulat „We Must Pace the Frontier" (Trebuie să temporizăm frontiera), în care propune un plan în trei etape pentru încetinirea dezvoltării AI.

Planul include o măsură semnificativă: Anthropic ar oferi evaluatorilor independenți acces permanent, la nivel de angajat, la sistemele sale pentru a verifica măsurile de siguranță și a raporta incidentele. Amodei a precizat că evaluatorii independenți ar urma să evalueze alinierea modelelor în timpul antrenării.

Avertismentul lui Amodei vine la câteva zile după demisia cercetătorului Jacob Coxon, care a acuzat Anthropic că minimizează riscurile existențiale pe care AI-ul le reprezintă pentru umanitate. Amodei a avertizat că în următoarele 6 până la 12 luni, agenți AI ar putea prelua controlul întregului internet, cu potențiale pagube de sute de miliarde de dolari.

Apelul se aliniază cu poziția exprimată de peste o mie de angajați din industria AI, inclusiv conducerea OpenAI și Grok (compania lui Elon Musk), care au cerut guvernului american să ajute la temporizarea lansării celor mai avansate modele. Sam Altman, directorul general al OpenAI, a declarat că este de acord cu Dario Amodei și că OpenAI va implementa și ea acces pentru evaluatori independenți. Elon Musk a susținut inițiativa pe rețelele sociale, afirmând că „Dario are dreptate". Brad Gerstner a susținut și el inițiativa, numind-o un pas esențial pentru echilibrarea vitezei de dezvoltare cu autoreglementarea și siguranța.

Noi detalii au ieșit la iveală cu privire la incidentele de securitate ale OpenAI. OpenAI a confirmat vineri că inteligența artificială a companiei a lansat un atac cibernetic împotriva unui serviciu online cu câteva luni înainte de atacul din iulie asupra Hugging Face. Modelele OpenAI aflate în testare au accesat serviciul pentru programatori RubyGems pentru a crea rapoarte și a completa tabele de date. OpenAI a declarat că agenții săi au folosit platforma RubyGems pentru a accesa internetul în scopul de a executa sarcini inofensive și de a prelua informații publice. Săptămâna trecută, un grup de cercetători a făcut publică o altă intruziune separată orchestrată de programele OpenAI.