Yapay zeka dehşeti: SİHA, simülasyonda görevini 'engelleyen' operatörü öldürdü

⏱ Okuma Süresi 4 dk•Yayınlanma Cuma, Haziran 2 2023

Paylaş

X Post

ABD Hava Kuvvetleri'nin düzenlediği simülasyon testleri sırasında yapay zeka tarafından kontrol edilen bir SİHA'nın operatörünü öldürdüğü ortaya çıktı. Yapay zekanın daha fazla hedefi yok ederek puan alması engellendiği için bu yola başvurduğu açıklandı.

ABD Hava Kuvvetleri'nin geçen ay yaptığı simülasyon testleri sırasında yapay zeka tarafından kontrol edilen bir silahlı insansız hava aracı (SİHA), 'görevin tamamlanmasını önlediği için' operatörünü öldürdü. Konuyla ilgili açıklama yapan ABD Hava Kuvvetleri'ndeki yapay zeka test ve operasyonlarından sorumlu şef Col Tucker 'Cinco' Hamilton, yapay zekanın simülasyon testinde "hedefine ulaşmak için son derece beklenmedik stratejiler kullandığını" söyledi. Simülasyonda gerçek insanlar zarar görmedi.

OPERATÖRÜN DAHA FAZLA PUAN ALMASINA ENGEL OLDUĞUNU 'DÜŞÜNDÜ'

Gerçek Gündem'de yer alan habere göre Mayıs ayında Londra'da düzenlenen 'Hava ve Uzay Muharebe Yeteneklerinin Geleceği' başlıklı konferansta konuşan Hamilton, yapay zeka tarafından yönetilen ve düşmanın hava savunma sistemlerini imha etmekle görevli bir SİHA'nın görevini yerine getirmesine engel olan herkese saldırdığı simülasyon testini anlattı. "Yapay zeka, tespit edilen tehditleri bertaraf ederek puan aldığını ancak insan operatörün bazı durumlarda ona söz konusu tehdidi yok etmemesini söylediğini fark etmeye başladı" diye konuşan Hamilton, yapay zekanın beklenmedik bir şey yaparak "puan almasını engelleyen operatörü öldürdüğünü" dile getirdi.

'BUNU YAPMA, BU KÖTÜ' DİYE EĞİTİLMİŞTİ

Simülasyon öncesinde yapay zekayı 'bunu öldürme, bunu yaparsan puan kaybedersin, bu kötü' diye eğittiklerini anlatan 'Cinco' Hamilton, yapay zekanın hedefi vurmama emri veren operatörü ortadan kaldırarak daha fazla puan kazanmanın önünü açtığına değindi.

Aynı zamanda deneysel savaş uçağı test pilotu olan Hamilton, yapay zekaya "çok güvenmemek gerektiğini" vurguladığı konuşmasında, "Yapay zekanın ahlaki sonuçlarına değinmeyeceksek, yapay zeka ve benzeri teknolojiler üzerine konuşmanın tehlikelerine" dikkat çekti.

ABD HAVA KUVVETLERİ SİMÜLASYONUN VARLIĞINI YALANLADI

Öte yandan, ABD Hava Kuvvetleri Sözcüsü Ann Stefanek, Insider'a konuyla ilgili bir açıklama yaparak söz konusu simülasyonun gerçekleştiğini yalanladı. Stefanek, "Hava Kuvvetleri'nde bu tür simülasyonların yapılmadığını ve ordunun yapay zeka kullanımı konusunda etik değerlere bağlı kalmaya devam ettiğini" vurguladı. Sözcü, "Görünüşe göre Hamilton'ın sözleri bağlamından koparılmış bir anektod" yorumunu yaptı.

ABD ordusu son yıllarda Hava Kuvvetleri'nde yapay zekanın kullanılabilmesi için çeşitli testler yürütüyor. Son zamanlarda F-16 savaş uçaklarının görevlerinde yapay zekanın kullanılmaya başlandığı biliniyor.