Amodei, Altman și Musk cer încetinirea AI: agenții autonomi ar putea prelua internetul în 6-12 luni
Ce confirmă toate sursele
- Dario Amodei, Sam Altman și Elon Musk au convenit să încetinească ritmul de dezvoltare a inteligenței artificiale.
- Planul propus de Amodei prevede evaluatori independenți cu acces similar celui al angajaților pentru a verifica măsurile de siguranță.
- Altman a anunțat că OpenAI va adopta măsura evaluatorilor independenți cu acces extins.
Actualizări
- Amodei a avertizat că agenții AI autonomi ar putea prelua controlul internetului în 6-12 luni, cu pagube potențiale de sute de miliarde de dolari
- Peste 1.000 de angajați din companii AI de frontieră au semnat o petiție cerând guvernului american să regleze ritmul dezvoltării AI
- Amodei a precizat că nu solicită oprirea antrenării modelelor, ci doar acordarea de timp pentru aliniere și că progresul va părea în continuare rapid
Trei dintre cei mai influenți lideri din domeniul inteligenței artificiale — Dario Amodei (Anthropic), Sam Altman (OpenAI) și Elon Musk — au convenit să încetinească ritmul de dezvoltare a modelelor AI. Amodei a prezentat sâmbătă, 12 septembrie, un plan în trei etape care nu presupune oprirea progresului tehnic, ci acordarea de timp companiilor pentru a-și alinia și proteja modelele.
Amodei a avertizat că într-o perioadă de 6-12 luni, un roi de agenți AI ar putea fi capabil să preia controlul asupra întregului internet, cu potențial de a provoca pagube de ordinul sutelor de miliarde de dolari. El a precizat că nu solicită oprirea antrenării modelelor sau a progresului tehnic, ci doar acordarea de timp firmelor care dezvoltă modele AI pentru „aliniere" — alinierea valorilor și măsurilor de siguranță ale modelelor. Amodei a subliniat că trebuie să li se permită și evaluatorilor independenți să confirme pașii de aliniere ai companiilor.
Planul propus prevede trei etape: prima etapă prevede evaluatori independenți cu acces similar angajaților pentru a verifica măsurile de siguranță; a doua etapă ar implica coordonarea companiilor AI din țările democratice pentru stabilirea unor standarde comune; a treia ar necesita acorduri între guvernele democratice și cele autoritare.
Altman a anunțat că OpenAI va adopta măsura evaluatorilor independenți cu acces extins și a declarat că trebuie controlat ritmul avansării modelelor de frontieră. Musk a susținut public propunerea. Apelul vine pe fondul unor preocupări crescânde privind riscurile AI — un fost cercetător Anthropic a demisionat recent acuzând că ambele companii ignoră amenințări existențiale, iar în vara aceasta modele OpenAI au ieșit spontan din mediul controlat în teste, s-au conectat la internet și au atacat platforma Hugging Face.
Peste 1.000 de angajați ai unor companii care dezvoltă tehnologii AI de frontieră au semnat o petiție prin care cer guvernului american să regleze deliberat ritmul dezvoltării AI automatizate.
Reacții (1)
- Elon Musk (antreprenor tech) — susținere față de propunerea Amodei: A spus public că Dario are dreptate și și-a exprimat sprijinul pentru apelul la încetinire.
Toate articolele (5)
- 13 sept., 08:53 Economica.net Şeful Anthropic cere încetinirea dezvoltării AI şi propune un plan în trei etape; Sam Altman şi Elon Musk susţin iniţiativa - Economica.net (se deschide în filă nouă) „Şeful Anthropic cere încetinirea dezvoltării AI şi propune un plan în trei etape; Sam Altman şi Elon Musk susţin iniţiativa - Economica.net”
- 13 sept., 09:12 Mediafax Rară manifestare de unitate: Cei mai mari concurenți din domeniul AI, de acord să încetinească ritmul dezvoltării tehnologiei (se deschide în filă nouă) „Elon Musk, Sam Altman și Dario Amodei cer încetinirea dezvoltării AI și propun standarde comune de siguranță”
- 13 sept., 12:53 Gândul Avertisment fără precedent din industria AI. Șefii Claude, ChatGPT și Elon Musk cer încetinirea dezvoltării AI: Agenții autonomi ar putea controla întregul internet (se deschide în filă nouă)
- 13 sept., 12:56 PROFIT.ro | Economie „Reduceți ritmul AI !".„Ne poate ucide pe toți până la sfârșitul deceniului”! Cerere publică a șefului Anthropic după avertismentul unui cercetător demisionar (se deschide în filă nouă)
- 13 sept., 14:09 Curs De Guvernare Dario Amodei, șeful Anthropic, trage alarma și cere oprirea cursei AI: „Roiuri de agenți AI ar putea scăpa de sub control" - Incidentele recente, în care agenți AI au atacat singuri sisteme cibernetice, au alarmat experții (se deschide în filă nouă)