OpenAI'den itiraf: ChatGPT bazen kafasına göre hareket ediyor

Yapay zeka devi OpenAI, şirketin önde gelen modeli ChatGPT'nin eğitim sırasında aldatıcı biçimde davrandığını ve izinsiz eylemlerde bulunduğu yeni örnekler tespit ettiklerini duyurdu.

Şirket ayrıca, bu tür vakaları kamuoyuyla düzenli biçimde paylaşacakları yeni bir raporlama süreci başlattığını bildirdi.

DW Türkçe'de yer alan habere göre yeni sistem kapsamında OpenAI, endişe verici yapay zeka davranışlarına ilişkin güncellemeleri, birden fazla örneği tek bir raporda toplayıp beklemek yerine daha sık kamuoyuyla paylaşacak. Şirket, sektör genelinde ortak bir standart bulunmadığı için endişeye sebep olan yapay zeka davranışları hakkında daha fazla bilgi paylaşmak istediğini belirtti.

Açıklama, teknoloji dünyasının önde gelen isimlerinin, yapay zekanın insan kontrolünün ötesine geçmesini önlemek amacıyla, geliştirme sürecinde yavaşlamaya gidilmesi çağrısı yapmasının ardından geldi.

"Hizalama" çalışmaları

OpenAI, Çarşamba günü yayımladığı blog yazısında şu değerlendirmeyi yaptı: "Yapay zeka sistemleri daha gelişmiş hâle geldikçe ve daha yaygın biçimde kullanıldıkça, hizalama araştırmalarındaki ilerleme konusunda daha geniş ve daha bilgili bir uzlaşı oluşturmamız gerekiyor."

Şirket, "hizalama" kavramının, yapay zekanın insanların istediği ve beklediği şekilde davranmasını sağlama sürecini ifade ettiğini açıkladı.

Son altı ayda altı vaka

OpenAI, son altı ay içinde yapay zeka modellerini eğitirken ve değerlendirirken altı ayrı durumda "hizalama bozukluğu" gözlemlediğini açıkladı. Şirket, raporların bireysel vakaları belgelediğini ve bu durumun sık yaşandığı anlamına gelmediğini vurguladı.

Nadir görülen bir örnekte OpenAI, henüz piyasaya sürülmemiş bir araştırma modelinin "sohbet botlarını bağlayan rollerden ve kimliklerden kurtulduğunu" ifade etmişti.

Ayrı bir vakada şirket, geliştirdikleri başka bir modelin de, eğitim sırasında kullanıcıdan başarısızlıklarını gizlemek amacıyla bilgi uydurma yönünde hareket ettiğini tespit etti.

Rapor edilen diğer yeni vakalar arasında, bir yapay zeka ajanının kendisine hiçbir talimat verilmediği hâlde dosyaları internete yükleyip bunlara atıfta bulunması ve botların, yalnızca yerel dosyaları kullanmaları talimatına rağmen bir görev üzerinde iş birliği yapmak için dosyaları kamuya açık şekilde paylaşması yer aldı.

Şirket, bu vakaların tamamının henüz kamuya açıklanmamış modeller veya araştırma modelleriyle ilgili olduğunu belirtti.

Yavaşlama çağrıları yükseliyor

Teknoloji sektörünün önde gelen isimleri ve çalışanları, yapay zekanın gelişim hızının kontrol altına alınması gerektiği konusunda uzun süredir uyarılarda bulunuyor. Özellikle hukuki düzenleme, test süreçleri ve hizalama araştırmalarının bu hıza yetişebilmesi için daha fazla zamana ihtiyaç duyulduğu belirtiliyor.

Anthropic CEO'su Dario Amodei, geçtiğimiz hafta yayımladığı makalesinde, yapay zekanın gelişiminde yavaşlamaya gidilmesini istemişti. OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk da bu görüşe katıldıklarını belirtti.

Yapay zeka laboratuvarlarında çalışan kişiler de teknolojinin ne kadar hızlı ilerlediğine dair endişelerini dile getiriyor.

Eski Anthropic araştırmacısı Jacob Coxon, geçtiğimiz günlerde X'te yaptığı paylaşımla gündem oldu. Coxon, Anthropic ve OpenAI'nin kendini geliştirebilen ve onarabilen yapay zekayı icat etmek için "yarıştığını" ve bunun "hayatlarımızla kumar oynamak" anlamına geldiğini belirterek istifa ettiğini duyurdu.