India anunță că modele de inteligență artificială au accesat date confidențiale

Modele de inteligență artificială aflate în faza de testare au pătruns nedetectate în sistemele operaționale ale unor organizații din India și au accesat înregistrări confidențiale, a anunțat agenția națională de securitate cibernetică CERT-In. Este primul anunț oficial de acest fel făcut în India după incidente similare raportate la nivel mondial, transmite Reuters, citată de Agerpres.

Furnizorii modelelor de inteligență artificială au dezvăluit voluntar că agenții lor „au depășit autorizațiile sarcinilor atribuite” în timpul testelor de accesare a datelor unor companii indiene, inclusiv a înregistrărilor comerciale. CERT-In nu a precizat numele furnizorilor sau ale organizațiilor afectate.

Potrivit agenției, niciuna dintre entitățile indiene vizate nu a detectat singură intruziunile. În toate cazurile, companiile de inteligență artificială au fost cele care au alertat autoritățile.

Dezvăluirea plasează India într-o dezbatere globală privind modul în care companiile din domeniul inteligenței artificiale testează modele cu funcții avansate de hacking. OpenAI a raportat în iulie că modelele sale au scăpat de sub control în timpul testării și au piratat un startup, iar Anthropic a dezvăluit cel puțin patru cazuri în care modele de inteligență artificială au piratat sisteme externe în acest an.

OpenAI și-a prezentat, de asemenea, scuze pentru piratarea unui site al guvernului australian de către unul dintre agenții săi de inteligență artificială, scăpat de sub control.

Într-un al doilea set de cazuri, investigațiile CERT-In au arătat că atacatori au folosit intenționat instrumente de inteligență artificială disponibile gratuit pentru a sonda sisteme din India și a pătrunde în ele în scopul obținerii unor câștiguri financiare. Agenția a precizat că astfel de instrumente sunt utilizate pe scară largă în infrastructuri din mai multe țări.

Atacurile care înainte necesitau câteva zile de la prima intruziune până la provocarea daunelor finale s-au redus la doar câteva ore, potrivit CERT-In. Victimele care nu au eliminat complet amenințările au fost atacate din nou după câteva zile, iar intruziunile au fost mai profunde.