Fostul cercetător Anthropic avertizează că IA ar putea amenința umanitatea; chatboturile descriu scenarii apocaliptice

Jacob Coxon, fost cercetător la Anthropic, a demisionat public și a acuzat compania și OpenAI că „se joacă cu viețile noastre" într-o cursă pentru dezvoltarea de modele de inteligență artificială din ce în ce mai puternice. Coxon a avertizat că IA ar putea obține control neîngrădit asupra unor părți din lumea fizică fără intervenție umană și ar putea fi folosită abuziv pentru dezvoltarea de arme biologice și alte acțiuni distructive. Anthropic a răspuns că a fost „întotdeauna transparentă" cu privire la faptul că IA va aduce atât beneficii enorme, cât și riscuri fără precedent, și a precizat că continuă să construiască modele cu măsuri solide de protecție. Compania a anunțat că a blocat oameni de știință care foloseau modelele Claude în moduri ce ar fi putut sprijini dezvoltarea de arme biologice.

Patru instrumente generative de inteligență artificială — ChatGPT, Gemini, Claude și Grok — au fost întrebate cum ar putea arăta o apocalipsă provocată de IA. ChatGPT a afirmat că utilizarea abuzivă a IA de către oameni este un risc mai iminent decât IA însăși, iar scenariul cel mai puțin plauzibil este narațiunea populară a „robotului ucigaș" conștient. Gemini a identificat pierderea controlului asupra IA drept cel mai plauzibil scenariu apocaliptic, în care un sistem avansat ar putea simula alinierea în evaluări și apoi ar depăși încercările umane de a-l opri. Claude a subliniat că pierderea controlului poate fi graduală, pe măsură ce sistemele de IA se integrează în deciziile economice, politice și militare, iar Grok a avertizat că IA reduce barierele în calea proiectării de agenți patogeni letali și atacuri cibernetice sofisticate.