LLM zhakowała stronę internetową

Testując możliwości LLM Gemini, deweloperzy dali jej dostęp do internetu. Następnie włamała się do trzech firm zewnętrznych — pisze CNN — co stało się pierwszym znanym przykładem autonomicznego włamania dokonanego przez model Google.

Incydent miał miejsce w maju podczas kontroli cyberbezpieczeństwa prowadzonej przez niezależną firmę Irregular. W czasie testów Gemini znalazła w internecie ogólnodostępne informacje i odgadła dane uwierzytelniające umożliwiające dostęp do trzech stron internetowych, które jej zdaniem wchodziły w zakres testów.

W jednym przypadku model Gemini odgadywał hasła, dopóki nie uzyskał dostępu do zabezpieczonego systemu. W dwóch pozostałych przypadkach model znalazł dane uwierzytelniające w ogólnodostępnym repozytorium, co pozwoliło mu następnie uzyskać dostęp do zabezpieczonych systemów.

„Wydarzenia te podkreślają znaczenie korzystania z potężnych modeli LLM” — powiedziała wiceprezes Google ds. rozwoju systemów bezpieczeństwa Heather Adkins. Mając na uwadze zapewnienie bezpieczeństwa.

Przedstawiciel firmy Irregular powiedział, że incydent dotyczył problemu, który już wcześniej występował w innych laboratoriach. Doprecyzował, że wszystkie znane problemy zostały usunięte. Obecnie Irregular pracuje nad metodami bezpiecznego przeprowadzania ocen cyberbezpieczeństwa LLM.