LLM a spart un site

Testând capacitățile LLM-ului Gemini, dezvoltatorii i-au oferit acces la internet. După aceea, acesta a spart sistemele a trei companii terțe, scrie CNN, acesta fiind primul exemplu cunoscut de atac informatic autonom realizat de un model Google.

Incidentul a avut loc în mai, în timpul unei verificări de securitate cibernetică desfășurate sub coordonarea companiei independente Irregular. În timpul testării, Gemini a descoperit informații disponibile public pe internet și a identificat datele de autentificare pentru accesul la trei site-uri web care, în opinia sa, făceau parte din aria testării.

Într-unul dintre cazuri, modelul Gemini a încercat parole în mod repetat până când a obținut acces la un sistem protejat. În celelalte două cazuri, modelul a găsit date de autentificare într-un depozit public, ceea ce i-a permis ulterior să acceseze sisteme protejate.

„Aceste evenimente subliniază importanța utilizării unor modele LLM puternice”, a declarat vicepreședinta Google pentru dezvoltarea sistemelor de securitate, Heather Adkins. Având în vedere asigurarea securității.

Un reprezentant al companiei Irregular a declarat că incidentul a fost legat de o problemă care apăruse deja în alte laboratoare. El a precizat că toate problemele cunoscute au fost remediate. Acum, Irregular lucrează la metode de desfășurare în siguranță a evaluărilor de securitate cibernetică a LLM-urilor.