ABD Savunma Bakanlığının (Pentagon) yapay zeka destekli "deepfake" teknolojileri üzerine çalıştığı ve bu yolla çevrim içi operasyonlar için gerçek kullanıcılardan ayırt edilemeyecek sahte internet kişilikleri oluşturabilmek üzere proje yürüttüğü bildirildi.
ABD'de araştırmacı gazetecilik yapan "The Intercept" adlı haber platformunda yer alan ve ilgili belgelere dayandırılan haberde Pentagon'a bağlı Ortak Özel Harekat Komutanlığı (JSOC) çatısı altında yürütülen yapay zeka projesine ilişkin detaylar paylaşıldı.
Paylaşımda JSOC'un "birden fazla ifade" ve "resmi kimlik kalitesinde fotoğraflar" içeren ve gerçek insan davranışlarını taklit edebilen çevrim içi profiller oluşturmak üzere çalıştığı belirtildi.
Buna göre bu "deepfake" profillerin gerçek olup olmadığının insanlar ya da bilgisayarlar tarafından ayırt edilemeyecek düzeyde olması amaçlanıyor.
Bu alanda halihazırda çalışan firmalarla işbirliği yaptığı belirtilen JSOC'un, bu "deepfake" profillerini çevrim içi operasyonlarda kullanmak üzere geliştirmeye çalıştığı bildirildi.
Haberde, ABD Ulusal Güvenlik Ajansı (NSA) ve Federal Soruşturma Bürosu (FBI) gibi bazı kurumların "deepfake" profillerin yaygınlaşmasından endişe duyduğu, manipülasyona açık alanlar sebebiyle bu konuda tedbirler almaya çalıştığı ve JSOC'un bu adımının diğer federal kurumlarla çeliştiğine işaret edildi.
2022'de Meta ve Twitter (X), ABD Merkez Komutanlığı (CENTCOM) tarafından yönetilen ve bazıları yapay zeka ile üretilmiş profil resimleri kullanan hesapları kaldırmıştı.
2022'de Twitter'ı satın alan Elon Musk, "Twitter Dosyaları" adıyla ifşaatlarda bulunmuş, bu ifşaatlardan birinde Twitter ile CENTCOM arasındaki ilişkiye dair bilgi paylaşmıştı.
Bu paylaşımlarda, Twitter'ın perde arkasında, ABD ordusunun talebi üzerine Orta Doğu'da psikolojik harekat yürüten hesapları beyaz listeye alarak dahili koruma sağladığı bildirilmişti.
CENTCOM’un, Yemen, Suriye, Irak, Kuveyt ve Orta Doğu'nun genelinde insanların fikirlerini şekillendirmek için profiller ürettiği ve bu profillerin Twitter tarafından korumaya alındığı ifade edilmişti.