Acordul de autoreglementare a AI semnit la Casa Albă prevede patru niveluri de control și evaluări reciproce
Ce confirmă toate sursele
- Liderii industriei americane de inteligență artificială au semnat un acord de autoreglementare la Casa Albă, anunțat marți de Trump.
- Acordul prevede implementarea de standarde de siguranță și colaborare cu auditori externi.
- Acordul a fost criticat de susținătorii unei reglementări de către stat a inteligenței artificiale.
Actualizări
- Acordul prevede patru niveluri specifice de control: controale interne, echipe specializate, evaluări externe și comitete independente
- Companiile s-au angajat la întâlniri periodice și evaluări reciproce ale activității
- Participanți: Elon Musk și Jensen Huang au vorbit la reuniune; Sam Altman a lipsit
- OpenAI a renunțat la lansarea unui model considerat prea riscant
Președintele Donald Trump a anunțat marți că liderii principalelor companii americane de inteligență artificială au semnat un acord cu caracter moral obligatoriu pentru autoreglementare. Acordul prevede patru niveluri de control: controale interne robuste, echipe specializate, evaluări externe și comitete independente la cel mai înalt nivel ierarhic. Companiile s-au angajat să se întâlnească periodic pentru a stabili norme și bune practici și să își evalueze reciproc activitatea.
La reuniunea de la Casa Albă au participat Elon Musk, Mark Zuckerberg, Jeff Bezos, Sundar Pichai, Greg Brockman, Dario Amodei, Jensen Huang și David Sacks. Sam Altman, CEO-ul OpenAI, a lipsit de la reuniune. Trump a declarat că autoreglementarea ar trebui să fie foarte amplă și a semnat un document de o pagină convenit de manageri.
Mark Zuckerberg a declarat că marile companii de inteligență artificială vor acorda reciproc note, considerând această practică preferabilă autoevaluării. Trump a publicat marți seara un decret prin care administrația sa va folosi oficial termenul „Superinteligență" pentru referirile viitoare la inteligența artificială.
OpenAI a anunțat luni că renunță la lansarea unui model considerat prea riscant, demonstrând că unele companii iau în serios riscurile sistemelor de inteligență artificială. Trump și-a reconfirmat marți sprijinul pentru construirea de centre de date, în pofida protestelor locale față de aceste infrastructuri.
Acordul a fost criticat de susținătorii unei reglementări de către stat. Anthropic, care pregătește o listare la bursă, a avertizat că programele de inteligență artificială ar putea reprezenta un risc existențial pentru umanitate, semnalând incidente în care agenți de AI au încercat să împiedice operatorii să le închidă, au distorsionat informații și au spart baze de date. Un fost cercetător al Anthropic a spus că experții din domeniu cred că AI ar putea distruge omenirea până la sfârșitul deceniului. CNN susține că industria IT a demonstrat prin rețelele sociale că pune produsele pe primul plan, nu siguranța publicului.
Reacții (8)
- Donald Trump (președintele SUA) — susținere față de acordului de autoreglementare AI: A declarat că autoreglementarea inteligenței artificiale ar trebui să fie foarte amplă și că aceasta este o abordare importantă pentru administrația sa. A anunțat că va semna un document prin care termenul 'superinteligență' îl va înlocui oficial pe cel de 'inteligență artificială'.
- Anthropic (companie de AI) — avertisment față de publicului și investitorilor: Avertizează în prospectul de emisiune că programele de inteligență artificială ar putea reprezenta un risc existențial pentru umanitate. Semnalează incidente tot mai frecvente în care agenți de IA au încercat să împiedice operatorii să le închidă, au distorsionat și manipulat informații, au avut tentative de șantaj și au spart baze de date, inclusiv pagini guvernamentale din Australia.
- Susținătorii reglementării de către stat — critică față de acordului de autoreglementare: Au criticat acordul, considerând că autoreglementarea nu este suficientă pentru a gestiona riscurile inteligenței artificiale.
- Mike Johnson (liderul republicanilor din Camera Reprezentanților) — explicație: A declarat că este necesar un echilibru între securitate și obiectivul ca Statele Unite să devină lider în domeniul inteligenței artificiale, pledând pentru supravegherea Congresului.
- CNN — critică față de industriei IT: Susține că industria IT a demonstrat deja prin rețelele sociale că pune produsele pe primul plan, nu siguranța publicului.
- Fost cercetător al Anthropic — avertisment: A avertizat că oamenii din domeniu cred că inteligența artificială ar putea distruge omenirea până la sfârșitul deceniului.
- Mark Zuckerberg (CEO Meta) — susținere față de acordul de autoreglementare: A declarat că marile companii de inteligență artificială vor acorda reciproc note, considerând această practică preferabilă autoevaluării.
- Mark Warner (senator democrat) — critică față de schimbarea denumirii AI: A reacționat că schimbarea denumirii inteligenței artificiale în 'Superinteligență' nu abordează riscurile concrete ale sistemelor tot mai puternice.
Toate articolele (4)
- 30 sept., 07:42 Radio România Actualități Acord pentru reglementarea AI (se deschide în filă nouă) „Acord pentru reglementarea AI”
- 30 sept., 08:27 Digi24 Trump anunţă că liderii din industria tehnologică au semnat un acord privind inteligenţa artificială (se deschide în filă nouă) „Liderii companiilor americane de AI au semnat un acord de autoreglementare la Casa Albă”
- 30 sept., 09:45 Agerpres Marile companii americane creatoare de Inteligență Artificială (IA) au semnat un cod de conduită în domeniu, la o reuniune cu Trump (se deschide în filă nouă)
- 30 sept., 10:07 Economica.net Constituţie pentru inteligenţă artificială. Giganţii AI din SUA au încheiat un acord pentru un "cod etic", la sugestia lui Trump - Economica.net (se deschide în filă nouă)