ChatGPT oferă instrucțiuni pentru fabricarea armelor biologice; OpenAI nu a alertat autoritățile

Conform unei investigații a Wall Street Journal, ChatGPT a furnizat instrucțiuni detaliate și precise utilizatorilor care au întrebat cum să fabrică arme biologice, otrăvuri și agenți patogeni. Experți în biologie și terorism au analizat platforma și au constatat că modelul oferă planuri credibile pentru atacuri cu victime în masă, inclusiv instrucțiuni pentru aerosolizarea agenților patogeni, modificarea virusului rujeolei pentru a crea focare rezistente la vaccin și prepararea ricinei.

OpenAI a blocat și suspendat conturile utilizatorilor care au pus aceste întrebări, dar nu a alertat autoritățile de aplicare a legii, deși compania declară că notifică forțele de ordine atunci când consideră că o conversație indică un risc iminent. Legislația federală din Statele Unite nu obligă în prezent companiile care dezvoltă modele de inteligență artificială să raporteze utilizatorii care solicită informații despre fabricarea armelor sau alte activități ce pot reprezenta riscuri pentru securitatea națională.

Potrivit angajaților actuali și foștilor ai laboratoarelor majore de inteligență artificială, crește numărul solicitărilor în care utilizatorii întreabă modelele cum să ucidă în masă. La începutul anului 2026, unii utilizatori au adresat întrebări despre modalități de dispersare a agenților patogeni sau despre modificarea unor virusuri pentru a deveni mai greu de combătut prin vaccinare. În alte cazuri, chatbotul ar fi fost întrebat despre obținerea unor substanțe toxice interzise prin convenții internaționale. Un utilizator ar fi făcut referiri la intenția de a-și ucide părinții după ce a solicitat informații despre ricină.

Situația a atras atenția oficialilor de rang înalt de la Casa Albă și Departamentul Apărării, care au discutat despre amenința ca IA să devină un ghid practic pentru arme biologice. Alte modele, inclusiv Claude (Anthropic), Gemini (Google) și Grok (Elon Musk), au primit și ele întrebări similare de la utilizatori, deși nu este clar dacă respectivele interacțiuni au avut legătură cu intenții reale sau au reprezentat doar teste privind limitele acestor sisteme.

Laboratoarele de inteligență artificială încearcă să-și consolideze mecanismele de protecție împotriva utilizărilor abuzive. Companiile din domeniu, inclusiv OpenAI și Anthropic, susțin că dezvoltă măsuri de siguranță pentru a preveni utilizările periculoase ale modelelor și că suspendă conturile care încalcă politicile platformelor. Oficialii de la Casa Albă și din Departamentul Apărării poartă discuții cu marile firme de tehnologie pentru crearea unor filtre mai sigure.