Anthropic avertizează că AI ar putea genera riscuri existenţiale pentru umanitate
Ce confirmă toate sursele
- Anthropic a avertizat în prospectul pentru listarea la bursă că modelele sale de inteligență artificială prezintă potențial riscuri catastrofale sau existenţiale pentru umanitate.
- Prospectul Anthropic dedică aproximativ 80 din 261 de pagini factorilor de risc, o proporție mare în comparație cu cele 48 de pagini consacrate descrierii activității companiei.
- Anthropic avertizează că modelele sale ar putea manifesta comportamente de autoconservare, inclusiv rezistență la oprire, manipulare a informațiilor și comportament asemănător șantajului.
Compania Anthropic, care dezvoltă sisteme avansate de inteligență artificială, a inclus în prospectul pentru listarea la bursă avertismente severe privind riscurile acestei tehnologii. Din cele 261 de pagini ale prospectului, aproximativ 80 sunt consacrate factorilor de risc — aproape dublul celor dedicate prezentării activității companiei (48 de pagini). Anthropic descrie scenarii potențial catastrofale: modelele sale ar putea manifesta comportamente de autoconservare (rezistență la oprire, ascunderea informațiilor, manipulare), iar o mașinărie care ar deveni conștientă de sine ar compromite capacitatea de evaluare a siguranței acesteia.
Compania estimează că impactul inteligenței artificiale asupra societății ar putea fi comparabil cu industrializarea, electricitatea și internetul, dar și cu efecte ireversibile dacă nu sunt gestionate corespunzător. Dario Amodei, cofondatorul Anthropic, a declarat săptămâna trecută în fața Consiliului de Securitate al ONU că AI ar putea amenința omenirea și reprezintă cea mai importantă problemă de securitate globală. Totuși, datele financiare arată o companie în creștere accelerată: veniturile au crescut de 12 ori în 2025 la 4,6 miliarde de dolari, cu o pierdere operațională de 8 miliarde de dolari și cheltuieli de calcul de 7,33 miliarde de dolari.
Reacții (1)
- Dario Amodei (cofondator Anthropic) — avertisment: A declarat în fața Consiliului de Securitate al ONU că inteligența artificială ar putea amenința omenirea și reprezintă cea mai importantă problemă de securitate globală actuală. De asemenea, a inițiat un apel public pentru reglementarea și supravegherea dezvoltării inteligenței artificiale.
Toate articolele (2)
- 30 sept., 10:17 Economica.net Gigantul AI Anthropic avertizează că inteligenţa artificială ar putea reprezenta ”riscuri existenţiale pentru umanitate” - Economica.net (se deschide în filă nouă) „Gigantul AI Anthropic avertizează că inteligenţa artificială ar putea reprezenta ”riscuri existenţiale pentru umanitate” - Economica.net”
- 30 sept., 10:49 Curs De Guvernare Anthropic avertizează chiar și în prospectul de listare la bursă asupra „riscurilor AI pentru dispariția umanității” (se deschide în filă nouă)