Anthropic blochează încercări de a folosi AI pentru cercetări în domeniul armelor biologice și atacuri cibernetice
Ce confirmă toate sursele
- Anthropic a identificat operații de atac cibernetic și supraveghere desfășurate de entități din China, Mali și Iran care folosesc modele Claude pentru a coordona și executa atacuri, pentru a analiza date și pentru a identifica ținte.
- Compania a blocat conturile și operațiunile asociate acestor activități malițioase și și-a consolidat măsurile de protecție.
Actualizări
- Anthropic a identificat și blocat cinci cazuri de cercetători care au încercat să folosească Claude pentru cercetări în domeniul armelor biologice, inclusiv redactarea de cereri de finanțare privind viruși și elaborarea de planuri privind variante ale gripei aviare
Anthropic a anunțat joi, într-un raport privind amenințările, că inteligența artificială este folosită pe scară largă în operațiuni malițioase — de la atacuri cibernetice coordonate de hackeri la supraveghere de stat și cercetări în domenii sensibile. Compania spune că a identificat și blocat operații provenite din China, Mali și Iran care au folosit modelele Claude pentru a automatiza activități care înainte necesitau echipe întregi de analiști.
În cazul Alibaba, Anthropic a documentat peste 151 de milioane de schimburi între mai și iulie 2026, cu scopul de a extrage capacitățile modelelor Claude și de a le folosi pentru îmbunătățirea propriilor sisteme. Moonshot și DeepSeek au direcționat conversații reale ale utilizatorilor prin Claude pentru antrenarea modelelor lor. În Mali, un consultant a creat un sistem care colectează date de la operatorii de telefonie mobilă și întocmește dosare despre persoane; în Iran, actori au implementat extensii malițioase pentru Firefox care colectează identități de pe rețelele sociale; în China, autoritățile au folosit AI pentru a analiza postări și a selecta ținte pentru control și monitorizare.
Raportul descrie și o operațiune cu caracteristici asociate grupării rusești Midnight Blizzard, care a țintit instituții din Ucraina și a folosit AI în aproape toate etapele atacului, inclusiv în campanii de phishing și compromiterea conexiunilor Wi-Fi.
Compania a identificat și cinci cazuri posibil legate de cercetări în domeniul armelor biologice, în care cercetători — unii din regiuni cu acces restricționat și legați de autorități guvernamentale locale — au încercat să folosească Claude pentru a redacta cereri de finanțare privind viruși, pentru a elabora planuri de cercetare privind variante ale gripei aviare care să poată infecta mamifere, și pentru a pregăti rapoarte trimestriale privind cercetări care implicau toxine.
Anthropic spune că a blocat toate conturile și operațiunile asociate acestor activități malițioase și și-a consolidat măsurile de protecție. Compania avertizează că actori care întâmpină obstacole au trecut la modele open-source.
Toate articolele (6)
- 11 sept., 00:50 Mediafax Hackerii lasă AI-ul să lucreze în locul lor. Avertismentul Anthropic (se deschide în filă nouă) „Hackerii lasă AI-ul să lucreze în locul lor. Avertismentul Anthropic”
- 11 sept., 07:00 Digi24 Spionajul intră în era AI. Cum folosesc guvernele Claude pentru a automatiza operațiunile de supraveghere (se deschide în filă nouă) „Anthropic: hackerii și guvernele folosesc AI pentru atacuri cibernetice și supraveghere”
- 11 sept., 10:16 G4Media Compania Anthropic blochează utilizarea inteligenţei artificiale pentru cercetări în domeniul armelor biologice (se deschide în filă nouă)
- 11 sept., 10:42 Agerpres Anthropic blochează utilizarea inteligenței artificiale pentru cercetări în domeniul armelor biologice (se deschide în filă nouă)
- 11 sept., 11:15 Jurnalul Semnal de alarmă: hackerii nu mai folosesc AI-ul ca simplu asistent, ci îl lasă să conducă atacurile singur (se deschide în filă nouă)
- 11 sept., 11:48 Mediafax Anthropic blochează o posibilă încercare de a utiliza inteligența artificială pentru fabricarea armelor biologice (se deschide în filă nouă)