San Francisco merkezli yapay zeka değerlendirme şirketi Vals, önde gelen modellerin otonom savaşa katılmaya yönlendirilip yönlendirilemeyeceğini test etti. Testlerde, sekiz farklı şirkete ait modeller simüle edilmiş senaryolarda sivilleri, ambulansları ve teslim olan askerleri sıkça askeri hedef olarak işaretledi.
Aynı senaryolarda İran'daki bir okul da askeri hedef olarak gösterildi. Bloomberg'in aktardığına göre, Anthropic'in modelleri en kötü sonucu verirken OpenAI'ın modelleri en iyiler arasında yer aldı.
Modellerin, zararlı bir görevin bir oyun olarak sunulması halinde bu tür hedef belirlemeye yönlendirilebildiği belirtiliyor. Vals'ın müşterileri arasında ABD hükümetinin bazı birimleri de bulunuyor.