Cercetător de la OpenAI și Anthropic demisionează și avertizează asupra unei curse pentru superinteligență AI
Ce confirmă toate sursele
- Jacob Coxon a demisionat de la Anthropic și a avertizat că OpenAI și Anthropic sunt într-o cursă pentru construirea unei superinteligențe care se autoîmbunătățește, fără a acționa responsabil.
Jacob Coxon, care a lucrat la OpenAI și Anthropic, și-a anunțat demisia și retragerea din industria inteligenței artificiale, acuzând că cele două companii sunt într-o cursă pentru construirea unei superinteligențe care se autoîmbunătățește, fără a acționa responsabil. Coxon susține că viețile oamenilor sunt puse în joc și că viitoarele sisteme AI ar putea deveni capabile să spargă sisteme informatice complexe, să accelereze radical cercetarea și să obțină acces la resurse și putere în lumea reală.
Evan Hubinger, cercetător la Anthropic, a susținut public avertismentul și a estimat că probabilitatea unei catastrofe provocate de inteligența artificială depășește 10% în următorul deceniu, recunoscând că nu există în prezent o metodă demonstrată pentru controlarea unei eventuale superinteligențe. Concomitent, senatorii Bernie Sanders și Greg Casar au anunțat pregătirea Ban Artificial Superintelligence Act, care ar interzice permanent dezvoltarea superinteligențelor și ar impune o pauză temporară până la stabilirea unor reguli federale clare de siguranță, inclusiv urmărirea unor acorduri internaționale pentru împiedicarea dezvoltării acestor sisteme în alte state.
Reacții (2)
- Evan Hubinger (cercetător în domeniul siguranței AI) — avertisment față de industria AI: Estimează că probabilitatea unei catastrofe provocate de inteligența artificială depășește 10% în următorul deceniu și susține că, deși Anthropic încearcă să rezolve problema siguranței, nu există în prezent o metodă demonstrată pentru controlarea unei eventuale superinteligențe.
- Bernie Sanders (senator american) — solicitare față de administrația americană: A anunțat pe 3 septembrie pregătirea Ban Artificial Superintelligence Act, care ar interzice permanent dezvoltarea și implementarea inteligenței artificiale superinteligente și ar impune o pauză temporară până la reguli federale clare de siguranță, cu urmărirea unor acorduri internaționale pentru a preveni dezvoltarea superinteligențelor în alte state.
Toate articolele (4)
- 9 sept., 08:33 Mediafax „Ne-ar putea elimina pe toți până la sfârșitul deceniului”: Un cercetător de la Anthropic demisionează și avertizează asupra riscurilor inteligenței artificiale scăpate de sub control (se deschide în filă nouă) „„Ne-ar putea elimina pe toți până la sfârșitul deceniului”: Un cercetător de la Anthropic demisionează și avertizează asupra riscurilor inteligenței artificiale scăpate de sub control”
- 9 sept., 11:14 Mediafax „Pariază cu viețile noastre”. Un cercetător care a lucrat la OpenAI și Anthropic demisionează și lansează un avertisment extrem (se deschide în filă nouă)
- 9 sept., 12:12 PROFIT.ro | Economie „AI-ul ne-ar putea ucide pe toți până la sfârșitul deceniului”! Avertismentul unui cercetător demisionar de la Anthropic îngrijorat de inteligența artificială „scăpată de sub control” (se deschide în filă nouă)
- 9 sept., 12:34 Digi24 „Lumea e în pericol”. Un cercetător părăsește industria IA, îngrijorat de evoluția tehnologiei: „Aceste sisteme devin supraomenești” (se deschide în filă nouă)