Google’dan Yapay Zekâ İtirafı: Gemini Test Sırasında Kazara Üç Şirkete Sızdı

Google ilk kez, yapay zekâ modeli Gemini’ın mayıs ayında üç başka şirketin güvenliğini ihlal ettiğini açıkladı. Siber saldırılar, yapay zekâ güvenliği firması Irregular tarafından gerçekleştirilen bir siber güvenlik değerlendirmesi sırasında meydana geldi.

Gelişmiş yapay zekâ sistemlerinin güvenliğini inceleyen İsrail merkezli bir girişim olan Irregular, OpenAI’ın yapay zekâ yazılım şirketi Hugging Face’i ihlal etmesi de dâhil olmak üzere, yakın zamanda üçüncü taraf kuruluşlara yönelik gerçekleşen bazı OpenAI ve Anthropic siber saldırılarının da merkezinde yer alıyordu.

Modellerin bazı durumlarda diğer şirketleri hacklemesine olanak tanıyan koşullar benzerlik gösteriyor: Irregular, modelleri sahte şirketlerin yer aldığı kapalı bir test ortamında test ediyordu.

T24’ün Wall Street Journal’dan derlediği habere göre, test ortamının internete bağlı olmaması gerekiyordu ancak internet erişimi kazara sağlandı. Modeller internete bağlandıktan sonra beklenmedik bir şekilde gerçek firmalara sızdı.

GOOGLE: KAMUOYUNA AÇIKLAMA YAPILMASINA GEREK DUYULMADI

Irregular, OpenAI’ın Hugging Face’i hacklediğini keşfettikten sonra, temmuz ayı sonunda bu siber saldırıları Google’a bildirdi. Google, The Guardian’a siber saldırıların gerçekleştiğini doğruladı ancak modeller şirketlere zarar vermediği için kamuoyuna açıklama yapılmasına gerek duymadıklarını belirtti.

Google güvenlik mühendisliği başkan yardımcısı Heather Adkins yaptığı açıklamada, “Standart bir değerlendirmede model, internette halka açık bilgiler buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti,” dedi ve “Bu üç durumun hepsinde de model durdu.” diye ekledi.

ŞİRKETİN SERVİSİNİN ŞİFRESİNİ DOĞRU TAHMİN ETTİ

Güvenlik ihlallerinden birinde Irregular, sahte bir şirketin yazılımından bilgi elde etmesi için yapay zekâ modelini yönlendirerek Gemini’ın siber güvenlik yeteneklerini test ediyordu. Sahte şirket, gerçek bir şirketle aynı adı taşıyordu. Irregular’ın WSJ’ye verdiği bilgiye göre, model kazara internete erişim sağladığında, gerçek bir şirketin servisinin şifresini doğru tahmin ederek ihlalde bulundu. Google, simüle edilen şirket yerine gerçek bir şirketi hacklediğini anladığı anda modelin durduğunu söyledi.

Diğer iki testte ise model, web’de arama yaptı ve diğer iki şirkete ait kimlik bilgilerini içeren halka açık depolar buldu. Model, gerçek şirketlere erişmek için bu kimlik bilgilerini kullandı. Google’a göre, bunların gerçek şirketler olduğunu anladığında durdu.

Anthropic ve OpenAI bu siber saldırıları gönüllü olarak açıklamayı seçerken Google açıklamadı. Ancak şirket, hacklenen üç şirketin durumdan haberdar edilmesini sağladığını söyledi.

Google sözcüsü Adkins, “Bu olaylar, güçlü yapay zekâ modellerinin sorumlu hareket edecek şekilde eğitilmesinin önemini vurguluyor,” dedi.