Cercetător de la Anthropic demisionează și avertizează asupra cursei spre superinteligență

Jacob Coxon, cercetător în domeniul inteligenței artificiale, și-a anunțat demisia de la Anthropic și a avertizat că atât Anthropic, cât și OpenAI „se joacă cu viețile noastre" prin participarea la o cursă tehnologică neresponsabilă. Coxon susține că aceste companii se îndreaptă cu viteză spre o superinteligență capabilă de auto-îmbunătățire, care va putea pătrunde în orice infrastructură informatică, transforma radical domenii întregi peste noapte și acumula putere și resurse reale. El a avertizat că mulți dintre cei implicați direct în dezvoltarea inteligenței artificiale cred că tehnologia ar putea deveni o amenințare existențială până la finalul deceniului, iar în contextul competiției cu China, considerentele de siguranță ar putea fi trecute în plan secundar.

Evan Hubinger, responsabil la Anthropic pentru alinierea tehnologiei la obiectivele umane, a susținut afirmațiile lui Coxon, estimând la peste 10% probabilitatea ca AI să ucidă toți oamenii în următorul deceniu. Hubinger a precizat că, în prezent, nu există încă un plan privind modul în care AI ar putea fi menținută aliniată la obiectivele umane într-un scenariu de superinteligență. Senatorul Bernie Sanders a anunțat săptămâna trecută că va introduce o lege pentru interzicerea dezvoltării superinteligenței de către companii.