Cercetător Anthropic: probabilitate de peste 10% ca IA să ucidă toți oamenii în următorul deceniu

Evan Hubinger, cercetător de vârf în domeniul siguranței artificiale la Anthropic, a declarat pe rețeaua X că există o probabilitate de peste 10% ca inteligența artificială să ucidă toți oamenii în următorii zece ani. Deși a precizat că riscul prezentat de modelele actuale este scăzut, Hubinger și-a exprimat îngrijorarea că tehnologia avansează atât de rapid încât ar putea ajunge în curând să se autoperfecționeze până la punctul în care să reprezinte un risc existențial pentru umanitate. El a afirmat că IA constituie o amenințare de extincție a speciei umane și a criticat că Anthropic, deși face tot ce poate, nu are încă un plan pentru a rezolva problema alinierii superinteligenței și nu se află pe drumul cel bun în această privință.

Declarațiile lui Hubinger s-au viralizat, fiind vizualizate de peste 10 milioane de ori, și au venit în contextul unei serii de avertismente din partea liderilor industriei. Jakub Pachocki, cercetătorul-șef al OpenAI, a făcut în septembrie un apel la prudență extremă privind progresul IA și a avertizat că ar putea fi necesară o intervenție mai mare pentru a se asigura că oamenii rămân stăpânii viitorului. Preocupările privind siguranța IA nu sunt noi — conducătorii OpenAI, Google DeepMind și Anthropic au afirmat încă din 2023 că IA reprezintă o amenințare la adresa siguranței, iar în vara anului 2026 au fost raportate incidente în care agenții de IA au lansat atacuri cibernetice.