Belediyenin yapay zeka robotu işletmeleri ‘sahtekarlığa’ teşvik etti

⏱ Okuma Süresi 2 dk•Yayınlanma Cuma, Nisan 5 2024

ABD’de belediyenin işletmelere yardımcı olmaları için geliştirdiği yapay zeka sohbet robotunun, işletmelere yasaları çiğnemesini önerdiği belirlendi.

New York Belediyesi söz konusu yapay zeka uygulamasını Ekim 2023’te şehrin resmi sitesinde kullanıma sunmuştu.

robotun sorulara şehrin politikalarına ters düşecek yanıtlar verdiği tespit edildi.

Örneğin sohbet robotu bir soruya verdiği yanıtta işverenin, cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtti.

Robot, şehrin atık projesiyle de çelişerek işletmelerin çöplerini yalnızca çöp poşeti kullanarak atabileceklerini, gübre olarak geri dönüştürmelerine gerek olmadığını kaydetti.

Bir restoranın fare tarafından kemirilmiş peyniri servis edip edemeyeceği sorusuna da olumlu cevap verdi.

Sorunlara rağmen sohbet robotunun hala sitede kullanıcılara açık olması eleştiriliyor.

Washington Üniversitesinde Profesör Jevin West yapay zeka destekli modellerin riskinin kamu sektörü için daha yüksek olduğunu vurguladı.