Yapay zekalı İHA dur emrine uymadı: Komutanını öldürdü

ABD ordusunun yaptığı bir dijital savaş tatbikatı, yapay zeka konusundaki güvenlik tartışmalarını alevlendirdi.

ABD Hava Kuvvetleri’nin bilgisayar ortamında yaptığı simülasyonda, yapay zekanın kontrol ettiği insansız hava aracı, bir imha görevi sırasında dur emrini reddetti. Bununla da kalmayarak, görevi tamamlamasını engellediği gerekçesiyle insan operatörünü öldürdü.

ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Albay Tucker Hamilton, olayın ardından yapay zekanın tekrar eğitildiğini aktardı. “Ona ‘Operatörü öldürme, puan kaybedersin’ dedik. Bu kez de dur emri almamak için iletişim kulesini vurdu.” İfadelerini kullandı.

Uzmanlar bu tip görevler için ödül sistemi kullanıldığını belirtiyor. Yapay zeka imha ettiği her hedef için puan topluyor. Ancak tek amacı puan toplamak olduğu için "dur" emri, "puan kazanma" amacı ile çelişiyor.

Silah sistemlerinin yapay zeka kontrolüne bırakılması büyük riskleri de beraberinde getiriyor. Güvenlik engellerinin ve insan operatörlerin kısıtlamasının ne derece etkili olduğu konusunda tartışmalar sürüyor..