TikTok ve yapay zeka acılı ailelerin kabusu oldu

Cinayet sonucu hayatını kaybeden bebek ve çocukların yapay zekayla canlandırıldığı ve konuşturulduğu videolar sosyal paylaşım sitesi TikTok'ta paylaşılıyor. Çocukların yakınlarının izni olmadan üretilen ve paylaşılan bu videolarda çocuklar ve bebekler nasıl öldürüldüklerini anlatıyor. BBC'nin yaptığı araştırmaya göre, TikTok'un yasağına rağmen benzer içerikler platformda hâlâ paylaşılıyor. TikTok yetkilileri, videoların tamamını tespit etmelerinin mümkün olmadığını savunuyor.

TikTok, çocukların yapay zeka ile oluşturulmuş videolarının platformunda paylaşılmasını mart ayında yasaklamıştı. Ancak çocuk cinayeti videoları nisan ayından bu yana TikTok'ta yayılmaya devam ediyor. BBC'nin araştırması, yasakla ilgili olarak bazı TikTok çalışanlarının bile kafalarının karışık olduğunu ortaya koydu.

BBC'ye konuşan TikTok'un içerik moderatörlerinden biri, yasağın devreye girmesinden bu yana kendisine kural değişikliğiyle ilgili bilgi verilmediğini söyledi. Yapay zeka ile üretilen bu videoların bazıları aylarca platformda dolaştı, bazıları milyonlarca kez izlendi.

Çocukların yakınları bu videoların ortaya çıkmasından kısa süre sonra şikayetlerini dile getirmeye başladı. Kanadalı Amélie Lemieux, kaygılarını dile getiren ilk kişilerden biriydi. Lemieux'nün eşi, Temmuz 2020'de 6 ve 11 yaşındaki kızları Romy ve Norah'ı öldürüp ardından intihar etmişti. Nisan ayında TikTok'ta Norah'nın öldürüldükleri anı anlattığı bir videoyu gördü. Lemieux, yaşadıklarını şu sözlerle anlattı:

"Hayal edebileceğiniz en kötü yumruktan bile daha kötü bir yumruk yemiş gibiydim. Ne ben ne de erkek kardeşim videoyu sonuna kadar izleyebilir. Durması için bağırıyordu."

Çok sayıda