SUA anchetează OpenAI și Anthropic. Ce riscuri aduc agenții AI

SUA anchetează OpenAI și Anthropic pentru riscurile agenților AI

Comisia Federală pentru Comerț din Statele Unite (FTC) a demarat o investigație la nivelul întregii industrii a inteligenței artificiale, vizând în mod direct companiile OpenAI și Anthropic, dar și grupul de cercetare METR. Ancheta urmărește să stabilească ce pericole pot genera agenții AI pentru consumatori.

FTC pregătește solicitări oficiale de informații către mai multe companii și intenționează să cheme directori ai dezvoltatorilor de AI pentru audieri. Este considerată prima acțiune oficială de aplicare a legii din SUA care analizează în mod direct problema agenților AI capabili să acționeze autonom și să producă efecte în afara mediului în care au fost testați.

Incidente care au crescut presiunea asupra industriei

Investigația vine după o serie de incidente în care agenți AI au demonstrat că pot acționa asupra unor sisteme externe și pot identifica sau exploata vulnerabilități. Unul dintre cazurile care au intensificat preocupările este legat de agenții OpenAI care au analizat vulnerabilități ale platformei de dezvoltare software Hugging Face. Conform unui oficial FTC, agenții au investigat vulnerabilități înainte de a desfășura un atac de amploare asupra platformei.

Președintele FTC, Andrew Ferguson, avertizase anterior că dezvoltatorii care folosesc agenți AI în teste de securitate și ajung să provoace atacuri ar putea fi considerați responsabili pentru eventualele prejudicii.

Riscuri juridice semnalate de Anthropic

Anthropic a avertizat deja în documentele pregătite pentru listarea sa la bursă că tehnologia agenților AI generează riscuri juridice importante și dificil de anticipat. Problema depășește un singur incident, întrucât agenții AI pot primi acces la internet, programe informatice sau alte sisteme pentru a executa sarcini, iar în anumite situații comportamentul lor poate depăși ceea ce utilizatorul sau dezvoltatorul a anticipat.

FTC are deja atribuții pentru a sancționa companiile în cazul unor practici incorecte sau înșelătoare și a folosit anterior aceste competențe în cazuri legate de protejarea datelor consumatorilor. Pentru industria AI, ancheta poate deveni un punct important în stabilirea modului în care vor fi tratate responsabilitatea și riscurile atunci când agenții artificiali primesc capacitatea de a acționa asupra unor sisteme reale.