Cercetători de la Anthropic avertizează: IA superinteligentă ar putea ucide omenirea în următorii ani
Ce confirmă toate sursele
- Trei cercetători de la Anthropic au avertizat public că o inteligență artificială superinteligentă ar putea avea consecințe catastrofale pentru omenire în următorii ani, inclusiv extincția umană.
- Jacob Coxon și-a anunțat demisia de la Anthropic și a acuzat compania și OpenAI că nu acționează responsabil în gestionarea riscurilor asociate superinteligenței.
- Evan Hubinger a declarat că IA ar putea ucide toți oamenii, estimând o probabilitate mai mare de 10% în următorul deceniu.
Trei cercetători care lucrează sau au lucrat la Anthropic au lansat avertismente publice privind riscurile existențiale ale inteligenței artificiale superinteligente. Jacob Coxon și-a anunțat demisia de la Anthropic marți, acuzând compania și OpenAI că acționează iresponsabil în gestionarea riscurilor asociate dezvoltării IA. Coxon a declarat pe X că oamenii care construiesc inteligența artificială cred că aceasta ar putea „să ne ucidă pe toți până la sfârșitul deceniului" și a exprimat îngrijorarea că sistemele AI ar putea deveni supraomenești, ar putea pirata orice și ar putea dobândi putere și resurse reale fără o înțelegere riguroasă a comportamentului lor.
Evan Hubinger, responsabil cu alinierea la Anthropic, a confirmat marți seară pe X că Jacob are dreptate și a estimat că probabilitatea ca IA să ucidă toți oamenii este mai mare de 10% în următorul deceniu. Hubinger a recunoscut că Anthropic face tot posibilul, dar nu are încă un plan pentru a rezolva problema alinierii pentru superinteligență. Samuel Marks a adăugat că dezvoltatorii de IA cred că tehnologia lor ar putea provoca extincția umanității sau consecințe la fel de grave în următorii câțiva ani. Anthropic a răspuns că IA va aduce beneficii enorme, dar și riscuri fără precedent, și că și-a construit modelele cu unele dintre cele mai solide măsuri de protecție din industrie.
Reacții (2)
- Anthropic (companie de dezvoltare IA) — explicație: A transmis că IA va aduce beneficii enorme, dar și riscuri fără precedent, și că și-a construit modelele cu unele dintre cele mai solide măsuri de protecție din industrie. Compania a afirmat că lumea ar avea de câștigat dacă industria ar adopta o modalitate legală și verificabilă de a colabora pentru a reglementa ritmul lansării modelelor puternice.
- Jakub Pachocki (șef științific OpenAI) — avertisment față de industria IA: A avertizat duminică că nicio companie de inteligență artificială nu a rezolvat suficient alinierea și monitorizarea pentru a continua scalarea responsabilă la viteza maximă pentru mult mai mult timp.
Toate articolele (2)
- 10 sept., 07:37 Gândul Avertismentul unui cercetător Anthropic: "Inteligența artificială ar putea ucide omenirea în următorul deceniu. Credem cu toată convingerea asta" (se deschide în filă nouă) „Avertismentul unui cercetător Anthropic: "Inteligența artificială ar putea ucide omenirea în următorul deceniu. Credem cu toată convingerea asta"”
- 10 sept., 08:46 Național Un cercetător părăsește industria AI și lansează un avertisment sumbru – Național (se deschide în filă nouă)