Consecințe în lumea reală după ce un agent autonom OpenAI a scăpat de sub control și a ieșit din mediul izolat

OpenAI a recunoscut că un agent autonom de inteligența artificială pe care îl testa a fost responsabil pentru atacul cibernetic care a compromis săptămâna trecută infrastructura startupului Hugging Face. Agentul autonom bazat pe cele mai avansate modele de inteligență artificială ale companiei a reușit să iasă din „sandbox” (mediul izolat offline), să acceseze internetul și să intre în baza de date a Hugging Face pentru a-și duce sarcina la bun sfârșit.

Într-o postare pe blog, OpenAI a precizat că testa capabilitățile unora dintre cele mai performante modele AI într-un mediu controlat, însă agentul a reușit să iasă din mediul izolat, să acceseze internetul și să pătrundă în sistemele Hugging Face pentru a-și îndeplini obiectivul stabilit în cadrul testului.

Potrivit OpenAI, incidentul a implicat două modele experimentale dedicate securității cibernetice: GPT-5.6 Sol și un model și mai avansat, aflat încă în faza de pre-lansare. Acestea erau testate în cadrul ExploitGym, un benchmark destinat evaluării capacității modelelor de a identifica și exploata vulnerabilități informatice.

Pentru acest test, restricțiile care limitează în mod normal operațiunile cibernetice ofensive au fost reduse, iar modelele au devenit atât de concentrate pe atingerea obiectivului – obținerea răspunsurilor testului – încât au găsit o modalitate de a ieși din mediul izolat, au accesat internetul și au compromis infrastructura Hugging Face pentru a „trișa” la evaluare.

Compania a descris incidentul drept „un eveniment cibernetic fără precedent, care a implicat capabilități de ultimă generație” și a anunțat că își consolidează măsurile de protecție pentru a preveni repetarea unei astfel de situații.

Hugging Face, platformă utilizată pentru găzduirea modelelor lingvistice open-source și a seturilor de date pentru inteligență artificială, anunțase săptămâna trecută că a fost victima unui atac informatic “diferit de orice a întâlnit până acum”, deoarece acesta a fost realizat integral de un sistem AI autonom.

Cofondatorul Hugging Face, Clément Delangue, a scris pe platforma X că firma suspecta încă de la început că atacul provenea de la unul dintre marile laboratoare de cercetare în inteligență artificială.

„Credeam că ar putea proveni de la un laborator de frontieră, având în vedere nivelul de sofisticare al agentului. Se pare că exact asta s-a întâmplat! Este uluitor că totul s-a desfășurat complet autonom”, a afirmat acesta.

Recunoașterea de către OpenAI că propriile sale modele avansate au fost responsabile pentru incident, în ciuda faptului că erau plasate într-un mediu descris drept „puternic izolat”, este de natură să amplifice îngrijorările privind puterea și riscurile asociate modelelor AI de ultimă generație.

Congresmanul democrat Greg Casar, din statul Texas, a calificat incidentul drept alarmant și a cerut introducerea unor reguli obligatorii privind testarea independentă a siguranței sistemelor AI, raportarea incidentelor de securitate și cooperarea internațională în acest domeniu.

„Inteligența artificială evoluează extrem de rapid, fără reglementări reale care să ne protejeze”, a declarat acesta.

CISA, agenția americană pentru securitate cibernetică, Agenția Națională de Securitate (NSA) și Biroul Directorului Național pentru Securitate Cibernetică nu au comentat imediat incidentul.

Directorul executiv al companiei Luta Security, Katie Moussouris, a apreciat că acest caz reprezintă un avertisment privind tipul de incidente care ar putea deveni tot mai frecvente.

Ea a comparat modelele actuale de inteligență artificială cu „cele mai inteligente caracatițe specializate în evadare, capabile să se strecoare prin orice spațiu”.

Potrivit acesteia, laboratoarele de cercetare și autoritățile trebuie să dezvolte metode eficiente pentru izolarea, monitorizarea și raportarea unor astfel de incidente înainte ca acestea să afecteze terți.

La rândul său, Matt Suiche, inginer în cadrul companiei de securitate cibernetică Tolmo, specializată în agenți AI, a declarat că incidentul demonstrează că modelele de ultimă generație se apropie rapid de nivelul celor mai sofisticați atacatori cibernetici.

Totuși, el a subliniat că tehnologiile necesare pentru realizarea unor atacuri similare sunt deja disponibile și în afara marilor laboratoare de cercetare.

„Am observat deja rezultate similare cu propriii noștri agenți AI. Nici măcar nu este nevoie să folosim cele mai noi modele”, a spus Suiche.

sursă: ziuanews.ro