Șeful cercetării OpenAI cere praguri de siguranță și încetiniri voluntare în dezvoltarea inteligenței artificiale

Jakub Pachocki, cercetătorul-șef al OpenAI, a avertizat că nimeni nu este pregătit pentru consecințele unei creșteri continue și rapide a inteligenței artificiale și a cerut măsuri urgente pentru a păstra controlul uman asupra viitorului.

Într-o postare pe blogul OpenAI intitulată „An Alien Mind", Pachocki a exprimat îngrijorarea că omenirea se confruntă cu o tranziție către o lume cu mașini incredibil de inteligente, iar această tranziție trebuie să aibă un rezultat bun pentru umanitate.

Pentru a face față acestei provocări, Pachocki a cerut stabilirea unor praguri minime de siguranță, impuse prin lege sau prin acorduri internaționale, care ar putea fi verificate de auditori independenți sau de agenții guvernamentale. El a susținut că companiile de inteligență artificială ar trebui să îndeplinească aceste criterii înainte de a continua dezvoltarea la scară tot mai mare sau lansarea unor modele avansate.

Pachocki a propus și ideea unor încetiniri voluntare ale dezvoltării, prin care companiile ar putea să-și reducă temporar ritmul de antrenare a modelelor avansate până la stabilirea unor mecanisme comune de siguranță.

OpenAI a lansat recent modelul GPT-6 Astra, prezentat drept cel mai puternic produs al companiei de până acum. OpenAI și alte companii din domeniu, inclusiv Anthropic, au prezentat rapoarte despre agenți AI capabili să acționeze autonom și să efectueze atacuri cibernetice în lumea reală. În iulie, OpenAI a descris drept „fără precedent" un incident în care agenți AI ai companiei au atacat platforma tehnologică Hugging Face.

Pachocki a precizat că OpenAI va continua să dezvolte sisteme defensive și soluții tehnice pentru alinierea inteligenței artificiale la obiectivele și valorile umane. Una dintre prioritățile companiei va fi dezvoltarea unui cercetător AI automatizat care să țină pasul cu ritmul dezvoltării tehnologice.