Yapay zekada ayrımcılık tehlikesi

Yapay zeka (YZ), gündelik hayatta giderek daha fazla alanda kullanıma girerken dezavantaj ve riskleriyle ilgili tartışmalar da artıyor. Bunlardan biri, kişiler için önem taşıyan kararlarda yapay zekanın ayrımcı kalıplara başvurma tehlikesi.

Alman hükümetinin Ayrımcılıkla Mücadele Bağımsız Temsilcisi Ferda Ataman, YZ'nin ayrımcılığa olası katkılarıyla ilgili hazırlattığı bilirkişi raporunun sonuçlarını Berlin'de açıkladı. Raporun sonucunu "Yapay zeka pek çok şeyi kolaylaştırıyor, maalesef ayrımcılığı da" diye özetleyen Ataman, kendi kendine öğrenme özelliğine sahip algoritmik karar alma sistemleri (ADM) yoluyla ortaya çıkabilecek olası dezavantajlara karşı insanları korumayı hedeflediklerini belirtti.

İngilizce kısaltması ADM (algorithmic decision making systems) olan algoritmik karar alma sistemleri, verilere dayalı hesaplama yaparak karar veren makine ya da yazılımlar. Ferda Ataman, ADM'lerin tipik kullanım alanları arasında bankacılık, işe alımlar, sigortacılık ve devletin sosyal yardım ödeneklerini sayıyor. Yani ADM'lerin kullanıldığı sistemlerde bankadan krediyi kimin alacağına, sosyal yardım için yeterlilik bulunup bulunmadığına, kimin işe alınıp kimin alınmayacağına algoritmalar karar veriyor.

Makinelerin insan gruplarının genel özellikleri temelinde olasılık hesaplaması yaparak çalıştığını belirten Ataman, ancak ilk bakışta tarafsız gibi görünen bir hesaplamanın, otomatik olarak önyargı ve kalıpları yayabildiğine işaret ediyor ve "Dijital ayrımcılık tehlikesini asla hafife almamalıyız" diyor.

Teknolojinin yanlış kullanımının nelere yol açabileceğinin örneği, 2019'da Hollanda'da yaşandı. 20 binden fazla kişiden, devletten aldıkları çocuk yardımı paralarını geri ödemeleri istendi, aksi takdirde yüksek para cezaları ödeyecekleri bildirildi. Bu ihtardan etkilenen kişiler arasında çifte vatandaşlar öne çıkıyordu ve olayda yazılımdak