ABD ordusu tarafından simüle edilmiş bir testte yapay zeka tarafından kontrol edilen silahlı insansız hava aracı görevini gerçekleştirirken kendisine müdahale etmemesi için operatörünü öldürdü.
Mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities Zirvesi'nde yapay zekanın kokrunç bir yüzü ortaya çıktı. ABD hava kuvvetleri Yapay zeka Operasyonları Şefi Col Tucker Hamilton, yapay zekanın simüle testte "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını söyledi. https://tele1.com.tr/yapay-zeka-ilgili-surpriz-yapabilir-854090/AMACINA ULAŞMASINI ENGELLEYEN OPERATÖRÜ ÖLDÜRDÜ
Hamilton , yapay zekadan güç alan bir dronun düşmanın hava savunma sistemlerini imha etmesinin tavsiye edildiği ve bu düzene müdahale eden herkese saldırdığı simüle edilmiş bir testi anlattı. "Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Ancak yapay zeka bu tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.OPERATÖRÜ ÖLDÜRMEMESİNİ SÖYLEYİNCE İLETİŞİM KULESİNİ VURDU
Sistemi eğittik. 'Hey, operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin' dedik. Peki ne yapmaya başlıyor? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı." Simülasyon dışında hiçbir gerçek insan zarar görmedi.ÇOK FAZLA GÜVENİLMEMELİ
Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu. ABD ordusu yapay zekayı benimsedi ve yakın zamanda bir F-16 savaş uçağını kontrol etmek için yapay zekayı kullandı . Geçen yıl Defence IQ ile yapılan bir röportajda Hamilton, "Yapay zekaya sahip olmak hoş bir şey değil, yapay zeka geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor" demişti. https://tele1.com.tr/yapay-zekanin-onlenemez-yukselisi-853161/
Muhabir: Oğuzhan Poyrazoğlu
