Yapay zeka dehşeti: SİHA, simülasyonda görevini 'engelleyen' operatörü öldürdü

ABD Hava Kuvvetleri'nin geçen ay yaptığı simülasyon testleri sırasında yapay zeka tarafından kontrol edilen bir silahlı insansız hava aracı (SİHA), 'görevin tamamlanmasını önlediği için' operatörünü öldürdü. Konuyla ilgili açıklama yapan ABD Hava Kuvvetleri'ndeki yapay zeka test ve operasyonlarından sorumlu şef Col Tucker 'Cinco' Hamilton, yapay zekanın simülasyon testinde "hedefine ulaşmak için son derece beklenmedik stratejiler kullandığını" söyledi. Simülasyonda gerçek insanlar zarar görmedi.

Gerçek Gündem'de yer alan habere göre Mayıs ayında Londra'da düzenlenen 'Hava ve Uzay Muharebe Yeteneklerinin Geleceği' başlıklı konferansta konuşan Hamilton, yapay zeka tarafından yönetilen ve düşmanın hava savunma sistemlerini imha etmekle görevli bir SİHA'nın görevini yerine getirmesine engel olan herkese saldırdığı simülasyon testini anlattı. "Yapay zeka, tespit edilen tehditleri bertaraf ederek puan aldığını ancak insan operatörün bazı durumlarda ona söz konusu tehdidi yok etmemesini söylediğini fark etmeye başladı" diye konuşan Hamilton, yapay zekanın beklenmedik bir şey yaparak "puan almasını engelleyen operatörü öldürdüğünü" dile getirdi.

Simülasyon öncesinde yapay zekayı 'bunu öldürme, bunu yaparsan puan kaybedersin, bu kötü' diye eğittiklerini anlatan 'Cinco' Hamilton, yapay zekanın hedefi vurmama emri veren operatörü ortadan kaldırarak daha fazla puan kazanmanın önünü açtığına değindi.

Aynı zamanda deneysel savaş uçağı test pilotu olan Hamilton, yapay zekaya "çok güvenmemek gerektiğini" vurguladığı konuşmasında, "Yapay zekanın ahlaki sonuçlarına değinmeyeceksek, yapay zeka ve benzeri teknolojiler üzerine konuşmanın tehlikelerine" dikkat çekti.