LLM-მა ვებსაიტი გატეხა

LLM Gemini-ის შესაძლებლობების გამოცდისას დეველოპერებმა მას ინტერნეტზე წვდომა მისცეს. ამის შემდეგ ის სამი მესამე მხარის კომპანიის სისტემაში შეიჭრა, CNN იუწყება, რაც Google-ის მოდელის მიერ ავტონომიური ჰაკერობის პირველ ცნობილ შემთხვევად იქცა.

ინციდენტი მაისში მოხდა, დამოუკიდებელი კომპანია Irregular-ის მიერ ჩატარებული კიბერუსაფრთხოების შეფასების დროს. ტესტირებისას Gemini-მ ინტერნეტში საჯაროდ ხელმისაწვდომი ინფორმაცია იპოვა და გამოიცნო მონაცემები, რომლებითაც სამ ვებსაიტზე წვდომა მოიპოვა — მას ეგონა, რომ ისინი ტესტის ფარგლებში იყო.

ერთ შემთხვევაში Gemini-ის მოდელმა პაროლები მანამდე გამოიცნო, სანამ დაცულ სისტემაზე წვდომას მოიპოვებდა. დანარჩენ ორ შემთხვევაში მოდელმა საჯაროდ ხელმისაწვდომ საცავში იპოვა ავტორიზაციის მონაცემები, რამაც მას დაცულ სისტემებზე წვდომის მიღების საშუალება მისცა.

„ეს მოვლენები ხაზს უსვამს მძლავრი LLM-ების გამოყენების მნიშვნელობას“, — განაცხადა Google-ის უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტმა Heather Adkins. უსაფრთხოების გათვალისწინებით.

Irregular-ის წარმომადგენელმა განაცხადა, რომ ინციდენტი დაკავშირებული იყო პრობლემასთან, რომელიც მანამდე სხვა ლაბორატორიებშიც მომხდარა. მან განმარტა, რომ ყველა ცნობილი პრობლემა გამოსწორებულია. Irregular ახლა LLM-ების კიბერუსაფრთხოების შეფასებების უსაფრთხოდ ჩატარების მეთოდებზე მუშაობს.