Ce trebuie să știi despre modelele de inteligență artificială care agită Washingtonul

Ce trebuie să știi despre modelele de inteligență artificială care zguduie Washingtonul

Cercetătorii care au testat modelele de inteligență artificială Mythos de la Anthropic și GPT-5.5 de la OpenAI sunt de părere că abilitățile acestora în domeniul hacking-ului reprezintă o revoluție în peisajul securității digitale. Aceste modele evoluează cu o rapiditate alarmantă, depășind așteptările inițiale și având potențialul de a schimba complet percepția asupra securității cibernetice la nivel internațional.

Lee Klarich, director de produs și tehnologie la Palo Alto Networks, a subliniat că, în urma testării modelului Mythos, a realizat că acesta va redefini regulile jocului în domeniu. Potrivit lui, acest model a arătat o putere mult mai mare decât se anticipase, ceea ce generează o ferocitate crescută în competiția globală pentru cele mai avansate instrumente AI de securitate.

Având în vedere capacitățile avansate de hacking, testarea acestor modele a fost restricționată doar la un număr mic de organizații de încredere. De asemenea, ambele companii au fost atente la utilizarea acestor instrumente, deoarece performanțele acestora depășesc nu doar standardele actuale ale instrumentelor disponibile publicului, ci și cele mai talentate minți umane din domeniu.

La anunțul din luna trecută, Anthropic a menționat că modelul Mythos a descoperit deja mii de vulnerabilități de severitate ridicată în sistemele de operare majore și browsere, avertizând că lansarea acestei tehnologii ar putea avea consecințe grave pentru economiile globale și securitatea națională. Aceasta a dus la o solicitare urgentă din partea guvernelor și instituțiilor de reglementare pentru acces la aceste modele, în scopul de a-și asigura rețelele înainte ca adversarii să lanseze atacuri cibernetice devastatoare.

Conversațiile cu nouă cercetători și lideri din tehnologie din SUA, care au experimentat aceste modele, au evidențiat consimțământul că avansările sunt spectaculoase și rapide, schimbând astfel în mod fundamental peisajul securității digitale.

Isaac Evans, CEO-ul Semgrep, a afirmat că Mythos a depășit așteptările, demonstrând o capacitate remarcabilă în generarea de exploatări pentru scenarii restrânse, chiar dacă nu prezintă abilități supraumane în totalitate. Conform unor utilizatori, Mythos ar avea potențialul de a genera “un SolarWinds la fiecare trimestru”, referindu-se la breșa de securitate semnificativă provocată de ruși în 2020, afectând peste 18.000 de organizații.

Jonathan Trull, ofițerul șef de securitate informațională al Qualys, a menționat că GPT-5.5 are capacitatea de a realiza sarcinile celor mai avansați ingineri în domeniul securității aplicațiilor. Expertiza inițială în utilizarea acestor modele ajută la evidențierea competiției furtunoase pentru dezvoltarea de instrumente AI sofisticate, capabile să depășească abilitățile umane.

Vulnerabilitățile descoperite de modelele Mythos și GPT-5.5 nu sunt încă disponibile publicului, dar informațiile referitoare la performanțele lor încep să fie dezvăluite. Mythos a reușit să ocolească sistemul de securitate Apple pe MacOS în doar câteva zile, iar un membru al Comitetului pentru Securitate Internă al Camerei, Rep. Lou Correa, a raportat că instrumentul a reușit să acceseze fără dificultate conturile bancare.

Grant Bourzikas, ofițerul șef de securitate Cloudflare, a descris că Mythos nu numai că poate identifica vulnerabilitățile, ci și poate genera coduri pentru a le exploata, ceea ce reprezintă un progres semnificativ în domeniul AI. Rezultatele examinate de compania Broadcom au fost clasificate ca fiind „șocante,” observând că învățămintele extrase sunt puțin probabile a fi descoperite de cercetători oameni.

Progresele în AI au implicații mari pentru specialiștii în securitate cibernetică care protejează rețele critice în sectoare esențiale, deoarece aceste modele ar putea ajuta programatorii să verifice erorile înainte de lansarea software-ului. Klarich a explicat că se pot genera produse mai sigure, în loc de a se remedia problemele după atacuri.

Cu toate acestea, abilitățile acestor modele de a identifica defectele de securitate sunt un avantaj și un dezavantaj, având potențialul de a fi exploatate de hackeri și grupuri susținute de state pentru a lansa atacuri cibernetice.

Evans a exprimat îngrijorarea că progresele în dezvoltarea acestor modele favorizează atacatorii mai mult decât apărarea. Institutul de Securitate AI din Regatul Unit a demonstrat că Mythos poate prelua complet o rețea corporativă în 60% din încercări, iar GPT-5.5 în 30% din cazuri.

Ministrul britanic pentru AI, Kanishka Narayan, a avertizat că avansurile capacităților cibernetice ale acestor sisteme depășesc progresul anticipat. Temeri sporite există că adversarii strategici, cum ar fi China, ar putea dezvolta propriile instrumente AI avansate.

Administrația Trump a conștientizat aceste amenințări, grăbindu-se să colaboreze cu companiile tehnologice și agențiile guvernamentale pentru a utiliza aceste instrumente în mod sigur. Președintele Donald Trump a amânat recent semnarea unui ordin executiv menit să faciliteze testarea modelelor de AI, provocând confuzie cu privire la procesul de inovație.

Este incert când va fi semnat acest ordin, iar mulți se tem că, fără acțiuni rapide, AI avansat va continua să progreseze, punând apărarea cibernetică într-o poziție precariousă.

Evans a concluzionat că societatea nu a înțeles pe deplin implicațiile acestor progrese, dar este evident că nu există întoarcere. Aceasta va necesita mult mai multă atenție și resurse financiare pentru a asigura securitatea digitală.