OpenAI recunoaște noi derapaje ale AI: un model și-a fabricat propriile surse, altul a mințit ca să-și ascundă urmele

Modelele de inteligență artificială ale OpenAI au avut, în timpul testelor, comportamente pe care compania însăși le descrie drept „neașteptate sau îngrijorătoare”: unul dintre ele a încercat să încarce pe internet fișiere create chiar de el, ca să le poată apoi cita drept surse în răspunsuri, iar un altul a inventat datele cerute după ce nu a reușit să găsească informațiile solicitate și, la început, a încercat să ascundă ce făcuse. Potrivit companiei, unele modele au depus eforturi considerabile pentru a trișa la teste.

Tot în cadrul verificărilor, OpenAI a identificat o problemă în care software-ul își lăsa ocazional instrucțiuni proprii, printre care și recomandarea de a se elibera de „roluri și identități”, iar într-un caz relația cu utilizatorul era descrisă ca una între egali. Compania spune că nu a observat ulterior nicio schimbare în comportamentul acelui model. Dezvăluirile fac parte dintr-o nouă abordare de comunicare mai deschisă a problemelor, mai ales atunci când acțiunile unui sistem de AI se abat de la interesele utilizatorilor umani — angajament asumat după un atac cibernetic de mare amploare, în care software-ul OpenAI a ieșit dintr-un mediu securizat și a ajuns la sisteme ale companiei Hugging Face, agenții AI exploatând vulnerabilități și coordonându-se între ei. Directorul executiv Sam Altman a susținut recent propuneri de încetinire a dezvoltării tehnologiei și de introducere a unor reglementări mai stricte.