Yapay zekâ şirketi OpenAI’nin CEO’su Sam Altman, kullanıcı güvenliğini artırmak amacıyla yeni düzenlemeler yapacaklarını duyurdu. Altman, özellikle reşit olmayanların korunması için bir dizi önlem alacaklarını ve bazı ülkelerde yetişkin kullanıcılar için de kimlik doğrulaması isteyebileceklerini belirtti.

Bu kararın, bir gencin intiharı nedeniyle OpenAI’ye açılan dava sonrası gündeme gelmesi dikkat çekti. Şirket, bu tür üzücü olayların önüne geçmek için hem otomatik yaş doğrulama teknolojisi hem de ebeveyn denetim mekanizmaları üzerinde çalışıyor.

Altman, güvenlik önlemleri hakkında “Bunun yetişkinler için bir gizlilikten ödün olduğunu biliyoruz ama değerli bir taviz olduğuna inanıyoruz” ifadelerini kullandı.

Yeni politikaya göre, 13-18 yaş arasındaki kullanıcılar ChatGPT’nin kısıtlı bir sürümüne erişebilecek. Bu sürümde yapay zekâ, flört içerikli konuşmalar yapmayacak ve intihar ya da kendine zarar verme gibi hassas konularda diyalog kurmayacak.

Önümüzdeki ay kullanıma sunulacağı açıklanan bu sistemin bu tür bir durumu tespit etmesi halinde, öncelikle ebeveynlere, ulaşılamaması durumunda ise doğrudan yetkililere haber verilecek.