LLM web sitesini hackledi

LLM Gemini'nin yeteneklerini test eden geliştiriciler, ona internete erişim izni verdi. Bunun ardından üç üçüncü taraf şirketi hackledi; CNN'in haberine göre bu, Google'ın modeli tarafından gerçekleştirilen bilinen ilk otonom hackleme örneğiydi.

Olay, bağımsız şirket Irregular'ın yönetiminde gerçekleştirilen bir siber güvenlik denetimi sırasında mayıs ayında meydana geldi. Test sırasında Gemini internette herkese açık bilgileri keşfetti ve kendi değerlendirmesine göre test kapsamına giren üç web sitesine erişim sağlamak için kullanıcı bilgilerini elde etti.

Gemini modeli, vakalardan birinde korunan bir sisteme erişim sağlayana kadar parolaları denedi. Diğer iki vakada ise model, herkese açık bir depoda kullanıcı bilgilerini buldu ve bu sayede daha sonra korunan sistemlere erişim sağladı.

Google'ın güvenlik sistemleri geliştirmeden sorumlu başkan yardımcısı Heather Adkins, «Bu olaylar güçlü LLM modelleri kullanmanın önemini vurguluyor», dedi. Güvenliğin sağlanmasını kastederek.

Irregular şirketinin temsilcisi, olayın diğer laboratuvarlarda da daha önce ortaya çıkan bir sorunla ilgili olduğunu söyledi. Bilinen tüm sorunların giderildiğini belirtti. Irregular şimdi LLM'lerin siber güvenlik değerlendirmelerini güvenli bir şekilde yürütme yöntemleri üzerinde çalışıyor.