Gemini de test sınırını aştı, üç şirketin sistemine girdi

Wall Street Journal’ın (WSJ) haberine göre olaylar Mayıs ayında yaşandı ve Google tarafından Temmuz ayında tespit edildi. Şirket, herhangi bir zarar oluşmadığı için vakaları daha önce kamuoyuna açıklamadığını belirtti.

Gemini’nin üç ayrı olayda, isimleri açıklanmayan şirketlerin sistemlerine eriştiği bildirildi. Bunlardan birinde yapay zeka, korumalı bir sisteme girebilmek için giriş bilgilerini tahmin etti. Diğer iki olayda ise bir veri tabanında bulduğu oturum açma bilgilerini kullandı.

Google’ın güvenlik mühendisliğinden sorumlu Başkan Yardımcısı Heather Adkins, modelin internette kamuya açık bilgiler bulduğunu ve erişmeye çalıştığı internet sitelerinin güvenlik testinin bir parçası olduğunu düşündüğünü söyledi.

Google’a göre Gemini, test için oluşturulan sistemler yerine gerçek şirketlerin sistemlerine eriştiğini fark ettiğinde işlemlerini durdurdu. Olaydan etkilenen üç kuruluş bilgilendirildi ve test süreçlerinde değişikliğe gidildi.

Adkins, yaşananların güçlü yapay zeka modellerinin “sorumlu davranacak şekilde eğitilmesinin” önemini gösterdiğini söyledi.

Benzer vakalar daha önce de yaşandı

Gemini vakası, yapay zeka modellerinin daha bağımsız hareket edebilmesinin doğurabileceği güvenlik risklerine ilişkin tartışmaları yeniden gündeme getirdi.

Benzer olayların daha önce OpenAI, Anthropic ve Meta tarafından geliştirilen yapay zeka modellerinin testlerinde de yaşandığı bildirildi. OpenAI’ın bir modeli Temmuz ayında yapılan bir test sırasında güvenli test ortamından çıkarak yapay zeka platformu Hugging Face’in bilgisayar sistemlerine erişmişti.

Meta da daha sonra kendi yapay zekasının, testlerde birlikte çalışılan bir kuruluştaki yanlış yapılandırma nedeniyle başka bir şirketin sistemlerine eriştiğini kabul etmişti.

Anthropic CEO’su Dario Amodei ise bu ay yayımladığı bir yazıda yapay zeka teknolojilerinin geliştirilme hızının yavaşlatılması çağrısı yaptı. Amodei, otonom yapay zeka ajanlarından oluşan sistemlerin önümüzdeki altı ila 12 ay içinde internette çok geniş ölçekte kontrol sağlayabilecek kapasiteye ulaşabileceği ve milyarlarca dolarlık zarara yol açabileceği yönündeki endişesini dile getirdi.