Anthropic blochează încercări de a folosi AI pentru cercetări în domeniul armelor biologice și atacuri cibernetice

Anthropic a anunțat joi, într-un raport privind amenințările, că inteligența artificială este folosită pe scară largă în operațiuni malițioase — de la atacuri cibernetice coordonate de hackeri la supraveghere de stat și cercetări în domenii sensibile. Compania spune că a identificat și blocat operații provenite din China, Mali și Iran care au folosit modelele Claude pentru a automatiza activități care înainte necesitau echipe întregi de analiști.

În cazul Alibaba, Anthropic a documentat peste 151 de milioane de schimburi între mai și iulie 2026, cu scopul de a extrage capacitățile modelelor Claude și de a le folosi pentru îmbunătățirea propriilor sisteme. Raportul indică faptul că aceste schimburi proveneau de la peste 3.500 de conturi catalogate drept frauduloase, cu un vârf de aproape trei milioane de interacțiuni zilnice. Moonshot și DeepSeek au direcționat conversații reale ale utilizatorilor prin Claude pentru antrenarea modelelor lor. Anthropic a întrerupt și operațiuni provenite de la alte șapte companii chineze de inteligență artificială, inclusiv Xiaomi.

În Mali, un consultant a creat un sistem care colectează date de la operatorii de telefonie mobilă și întocmește dosare despre persoane; în Iran, actori au implementat extensii malițioase pentru Firefox care colectează identități de pe rețelele sociale; în China, autoritățile au folosit AI pentru a analiza postări și a selecta ținte pentru control și monitorizare.

Raportul descrie și o operațiune cu caracteristici asociate grupării rusești Midnight Blizzard, care a țintit instituții guvernamentale, militare și diplomatice din Ucraina și a folosit AI în aproape toate etapele atacului — de la campanii de phishing la compromiterea conexiunilor Wi-Fi din hoteluri și preluarea unor conturi WhatsApp.

Compania a identificat și cinci cazuri posibil legate de cercetări în domeniul armelor biologice, în care cercetători — unii din regiuni cu acces restricționat și legați de autorități guvernamentale locale — au încercat să folosească Claude pentru a redacta cereri de finanțare privind viruși, pentru a elabora planuri de cercetare privind variante ale gripei aviare care să poată infecta mamifere, și pentru a pregăti rapoarte trimestriale privind cercetări care implicau toxine. Google a transmis marți că o persoană a încercat să folosească Gemini pentru a completa un ghid tehnic pas cu pas despre sintetizarea agenților biologici transformați în arme.

Anthropic spune că a blocat toate conturile și operațiunile asociate acestor activități malițioase și și-a consolidat măsurile de protecție. Compania avertizează că actori care întâmpină obstacole au trecut la modele open-source. În multe dintre cazurile analizate, oamenii au avut doar rol de supraveghetor, iar AI-ul a executat sau a orchestrat efectiv sarcinile.