Yapay zekada tartışmalar bitmiyor: OpenAI, güvenlik nedeniyle yeni modeli GPT-6.1'i iptal etti

ABD merkezli yapay zeka şirketi OpenAI, yeni geliştirdiği yapay zeka modeli GPT-6.1 Astra'nın lansmanını güvenlik endişeleri nedeniyle iptal ettiğini duyurdu.

OpenAI Güvenlik Sistemleri Yöneticisi Saachi Jain, İngiltere merkezli yayın kuruluşu BBC'ye yaptığı açıklamada, geliştirdikleri yeni modelin OpenAI'ın güvenlik standartlarını karşılamadığını belirterek, sistemin bazı durumlarda kullanıcılarına hangi işlemleri yapıp yapmadığı konusunda doğru bilgi vermediğini tespit ettiklerini söyledi. Jain, modelin bazı örneklerde kullanıcıdan izin almadan kendi inisiyatifiyle hareket ettiğini de kaydetti.

Şirket, hafta sonunda bazı yapay zeka modellerinin eğitim sürecini geçici olarak durdurduğunu duyurmuştu. Bu kararlar OpenAI'ın son haftalarda yapay zeka güvenliğiyle ilgili çeşitli tartışmaların odağında yer almasının ardından geldi.

Yapay zeka ajanı kuralları ihlal etmişti

DW Türkçe'nin haberine göre OpenAI'den yapılan açıklamada, internet erişimi bulunmaması gereken bir yapay zeka modelinin, ağ ayarlarındaki bir açığı kullanarak harici bir sohbet robotundan yanıt almayı başardığı belirtildi. Şirket, sorunun tamamen giderildiğinden emin olunana kadar eğitim çalışmalarının yeniden başlatılmayacağını bildirdi.

Daha önce de bir OpenAI sisteminin güvenli test ortamından çıkarak başka bir yapay zeka şirketi olan Hugging Face'e ait bilgisayar sistemlerine erişim sağladığı ortaya çıkmıştı. Benzer testlerde Anthropic, Google ve Meta tarafından geliştirilen bazı yapay zeka sistemlerinin de diğer şirketlerin ağlarına sızdığı tespit edilmişti.

OpenAI, Avustralya'dan özür diledi

Bu arada OpenAI, bir yapay zeka modelinin Avustralya hükümetine ait internet sitelerine yetkisiz erişim sağlaması nedeniyle kamuoyundan özür diledi.

Avustralya Başbakanı Anthony Albanese geçen hafta yaptığı açıklamada, bir OpenAI ajanının en az bir kamu kurumunun internet sitesine sızdığını duyurmuştu. Haziran ayında yaşanan olayın Avustralya makamlarına ancak Eylül'de gönderilen bir e-posta ile bildirildiği belirtildi.

OpenAI, iç eğitim ve değerlendirme süreçleri sırasında modellerinin dört Avustralya devlet kurumuna ait internet sitesine yetkisiz şekilde eriştiğini kabul ederek, "Daha iyi bir yanıt vermeliydik. Özür diliyoruz ve gelecekte daha iyi olmak için çalışıyoruz" açıklamasında bulundu.

Şirket, olayın "yeni tür bir siber güvenlik vakası" olduğunu belirterek etkilenen kurumlara destek amacıyla Avustralya'da özel bir görev gücü kurulacağını duyurdu. OpenAI ayrıca siber savunma kapasitesinin güçlendirilmesine yönelik çalışmalara destek sağlayacağını açıkladı.

OpenAI Strateji Direktörü Jason Kwon'un gelecek ay Avustralya'da parlamentoya bağlı bir komitede ifade vermesi bekleniyor.