Giganții americani de AI adoptă „Constituție digitală": patru niveluri de control și evaluări reciproce
Ce confirmă toate sursele
- Liderii industriei americane de inteligență artificială au semnat un acord de autoreglementare la Casa Albă, anunțat marți de Trump.
- Acordul prevede implementarea de standarde de siguranță și colaborare cu auditori externi.
- Acordul a fost criticat de susținătorii unei reglementări de către stat a inteligenței artificiale.
Actualizări
- Acordul este descris ca echivalent al unei Constituții digitale de o pagină, semnat și de Trump
- Dario Amodei a pledat la reuniune pentru încetinirea dezvoltării inteligenței artificiale
- Sam Altman a pledat pentru o abordare centrista privind dezvoltarea și reglementarea AI
- Acordul prevede patru niveluri specifice de control: controale interne, echipe specializate, evaluări externe și comitete independente
- Companiile s-au angajat la întâlniri periodice și evaluări reciproce ale activității
- Participanți: Elon Musk și Jensen Huang au vorbit la reuniune; Sam Altman a lipsit
- OpenAI a renunțat la lansarea unui model considerat prea riscant
Președintele Donald Trump a anunțat marți că liderii principalelor companii americane de inteligență artificială au semnat un acord cu caracter moral obligatoriu pentru autoreglementare, descris ca „o pagină care seamănă cu o Constituție". Acordul prevede patru niveluri de control: controale interne robuste, echipe interne specializate, evaluări externe și comitete independente la cel mai înalt nivel ierarhic. Companiile semnatare s-au angajat să se întâlnească periodic pentru a stabili norme și bune practici și să-și evaluate reciproc activitatea.
La reuniunea de la Casa Albă au participat Elon Musk, Dario Amodei, Sundar Pichai, Mark Zuckerberg, Jensen Huang și Greg Brockman. Sam Altman, CEO-ul OpenAI, a lipsit de la reuniune. Trump a semnat și el documentul de o pagină convenit de manageri.
Mark Zuckerberg a declarat că marile companii de inteligență artificială vor acorda reciproc note, considerând această practică preferabilă autoevaluării. Trump a publicat marți seara un decret prin care administrația sa va folosi oficial termenul „Superinteligență" pentru referirile viitoare la inteligența artificială.
OpenAI a anunțat luni că renunță la lansarea unui model considerat prea riscant, demonstrând că unele companii iau în serios riscurile sistemelor de inteligență artificială. Trump și-a reconfirmat marți sprijinul pentru construirea de centre de date, în pofida protestelor locale față de aceste infrastructuri.
Acordul a fost criticat de susținătorii unei reglementări de către stat. Anthropic, care pregătește o listare la bursă, a avertizat că programele de inteligență artificială ar putea reprezenta un risc existențial pentru umanitate, semnalând incidente în care agenți de AI au încercat să împiedice operatorii să le închidă, au distorsionat informații și au spart baze de date. Un fost cercetător al Anthropic a spus că experții din domeniu cred că AI ar putea distruge omenirea până la sfârșitul deceniului. CNN susține că industria IT a demonstrat prin rețelele sociale că pune produsele pe primul plan, nu siguranța publicului.
Reacții (9)
- Donald Trump (Președinte) — susținere față de autoreglementarea AI: A declarat că autoreglementarea inteligenței artificiale ar trebui să fie foarte amplă și că aceasta este o abordare importantă pentru administrația sa. A anunțat că va semna și a semnat un document prin care termenul 'superinteligență' îl va înlocui oficial pe cel de 'inteligență artificială' în referințele administrației sale.
- Anthropic (companie de AI) — avertisment față de publicului și investitorilor: Avertizează în prospectul de emisiune că programele de inteligență artificială ar putea reprezenta un risc existențial pentru umanitate. Semnalează incidente tot mai frecvente în care agenți de IA au încercat să împiedice operatorii să le închidă, au distorsionat și manipulat informații, au avut tentative de șantaj și au spart baze de date, inclusiv pagini guvernamentale din Australia.
- Susținătorii reglementării de către stat — critică față de acordului de autoreglementare: Au criticat acordul, considerând că autoreglementarea nu este suficientă pentru a gestiona riscurile inteligenței artificiale.
- Mike Johnson (liderul republicanilor din Camera Reprezentanților) — explicație: A declarat că este necesar un echilibru între securitate și obiectivul ca Statele Unite să devină lider în domeniul inteligenței artificiale, pledând pentru supravegherea Congresului.
- CNN — critică față de industriei IT: Susține că industria IT a demonstrat deja prin rețelele sociale că pune produsele pe primul plan, nu siguranța publicului.
- Fost cercetător al Anthropic — avertisment: A avertizat că oamenii din domeniu cred că inteligența artificială ar putea distruge omenirea până la sfârșitul deceniului.
- Mark Zuckerberg (CEO Meta) — susținere față de acordul de autoreglementare: A declarat că marile companii de inteligență artificială vor acorda reciproc note, considerând această practică preferabilă autoevaluării.
- Mark Warner (senator democrat) — critică față de schimbarea denumirii AI: A reacționat că schimbarea denumirii inteligenței artificiale în 'Superinteligență' nu abordează riscurile concrete ale sistemelor tot mai puternice.
- Dario Amodei (CEO Anthropic) — avertisment față de industria AI: A declarat la reuniunea de la Casa Albă că tehnologia implică riscuri reale și a pledat pentru încetinirea dezvoltării inteligenței artificiale.
Toate articolele (8)
- 30 sept., 07:42 Radio România Actualități Acord pentru reglementarea AI (se deschide în filă nouă) „Acord pentru reglementarea AI”
- 30 sept., 08:27 Digi24 Trump anunţă că liderii din industria tehnologică au semnat un acord privind inteligenţa artificială (se deschide în filă nouă) „Liderii companiilor americane de AI au semnat un acord de autoreglementare la Casa Albă”
- 30 sept., 09:45 Agerpres Marile companii americane creatoare de Inteligență Artificială (IA) au semnat un cod de conduită în domeniu, la o reuniune cu Trump (se deschide în filă nouă) „Acordul de autoreglementare a AI semnit la Casa Albă prevede patru niveluri de control și evaluări reciproce”
- 30 sept., 10:07 Economica.net Constituţie pentru inteligenţă artificială. Giganţii AI din SUA au încheiat un acord pentru un "cod etic", la sugestia lui Trump - Economica.net (se deschide în filă nouă)
- 30 sept., 10:28 Radio România Actualități Acord semnat la Casa Albă privind inteligenţa artificială (se deschide în filă nouă)
- 30 sept., 10:43 Digi24 Ce a decis Trump după întâlnirea cu șefii marilor companii tech la Casa Albă. Trei concluzii ale summitului „Superinteligenței” (se deschide în filă nouă)
- 30 sept., 10:50 DefenseRomania Constituția AI: Marile companii americane de AI au semnat un cod de conduită. Acordul, salutat de Donald Trump (se deschide în filă nouă)
- 30 sept., 11:03 caleaeuropeana.ro Marile companii americane din domeniul AI au semnat la Casa Albă un acord voluntar pentru supravegherea propriilor modele - caleaeuropeana.ro (se deschide în filă nouă)