OpenAI, avertizată ani la rând de angajații proprii. Problemele de securitate, dezvăluite
OpenAI, avertizată repetat de angajați cu privire la riscuri de securitate
Angajații OpenAI au semnalat conducerii companiei, încă dinainte de lansarea ChatGPT, o serie de probleme de securitate care ar fi putut permite accesul neautorizat la informații sensibile. Potrivit unor persoane familiarizate cu situația, avertismentele au fost transmise în mod repetat de-a lungul anilor, inclusiv către conducerea executivă și consiliul de administrație, dar nu au primit o atenție prioritară, în timp ce compania și-a accelerat dezvoltarea produselor de inteligență artificială.
Acces larg la documentație internă și verificări insuficiente
Printre vulnerabilitățile semnalate se numără accesul prea larg la documentația internă, verificările insuficiente ale unor instrumente software și riscul ca angajați sau persoane din exterior să obțină informații confidențiale. O parte însemnată a codului companiei era păstrată într-un sistem comun, numit „monorepo”, iar cei care aveau acces la acesta puteau consulta detalii tehnice despre numeroase proiecte, inclusiv despre unele fără legătură cu activitatea lor.
O parte a documentației de cercetare era disponibilă și prin platforme precum GitHub și Slack. Situația a căpătat o dimensiune suplimentară odată cu dezvoltarea agenților AI, capabili să analizeze rapid volume mari de informații și să identifice date relevante. Potrivit unor surse, și unele instrumente interne de testare erau modificate frecvent de cercetători, fără ca fiecare schimbare să fie verificată riguros din perspectiva securității.
OpenAI: proiectele sensibile sunt protejate prin sisteme separate
OpenAI susține că cele mai sensibile proiecte sunt protejate prin sisteme separate, cu acces restricționat, și că depozitul comun nu conține toate informațiile critice și nici parametrii numerici care determină funcționarea modelelor sale.
Arestarea unui inginer readuce problema în atenție
Problemele au revenit în atenție în octombrie, după arestarea unui inginer OpenAI, cetățean saudit, acuzat că a instalat un dispozitiv de înregistrare audio într-o sală de conferințe destinată conducerii. Potrivit documentelor judiciare, Abdulrahman Alfozan, în vârstă de 35 de ani, ar fi utilizat și un instrument AI intern pentru a căuta informații despre deplasările unor directori OpenAI în Arabia Saudită. Anchetatorii au identificat inclusiv contacte ale acestuia cu un membru al familiei regale saudite, care încercase să îl recruteze pentru un proiect de inteligență artificială.
În 2023, cercetătorul Leopold Aschenbrenner își exprimase, într-un avertisment intern, temerea că autoritățile chineze ar putea obține acces la tehnologia companiei.
Reorganizare internă și măsuri de consolidare a securității
Compania a început să își reorganizeze activitățile pentru a reduce riscurile. În august, aproximativ un sfert dintre inginerii responsabili de sistemele de producție au fost redirecționați către îmbunătățirea infrastructurii de securitate, potrivit unei surse. Inițiativa este coordonată de Thibault Sottiaux, unul dintre directorii implicați în dezvoltarea produselor.
Elana Widmann, purtătoare de cuvânt a OpenAI, a declarat că organizația se numără printre cele mai vizate ținte ale atacurilor informatice și investește substanțial în protejarea tehnologiei, datelor și angajaților. Compania afirmă că verifică periodic securitatea instrumentelor interne și că își va consolida în continuare sistemele de apărare.
Noi exerciții de securitate și recompense mai mari pentru vulnerabilități
Luni, după solicitarea privind investigația, OpenAI a anunțat pregătirea unei noi etape interne de îmbunătățire a securității. Într-o postare publică, compania a precizat că plănuiește un nou exercițiu intern de securitate și o colaborare cu cercetători externi care vor folosi modelele sale alături de echipele proprii pentru a testa apărarea. De asemenea, OpenAI a anunțat creșterea recompenselor pentru descoperirea de vulnerabilități, cu recompense de peste patru ori mai mari pentru cele critice, care pot ajunge la 172.000 de dolari, inclusiv bonusuri.
