ABD ile İran arasındaki savaşın sürdüğü ilkbahar aylarında, ABD ordusu Orta Doğu'da bulunan bir Çin gemisi hakkında hazırlanan istihbarat raporu nedeniyle alarma geçti.
Öne çıkan bilgiler
- 01
CNN'e konuşan dört kaynak, raporun ardından gemiyi durdurmak amacıyla operasyon planlandığını aktardı.
- 02
Yapay zeka yanlış istihbarat yaptı İki kaynağa göre silahlı ABD askeri personeli gemiye çıkmaya hazırlanırken askeri uçaklar da havalanmıştı.
- 03
Yapılan incelemede raporun yapay zeka desteğiyle hazırlandığı ve kullanılan sohbet botunun geminin taşıdığı malzemeyi yanlış tanımladığı ortaya çıktı.
- 04
Aynı kaynak, olayın iki nükleer güç arasında neredeyse bir savaş başlatabileceğini söyledi.
Haberin ayrıntıları
Olayın merkezinde, ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) tarafından elde edilen geminin yük manifestosuna ilişkin istihbarat bilgileri yer alıyordu. Yapay zeka, istihbarat verilerini değerlendirirken geminin nükleer silah programına ait malzemeler taşıdığı sonucuna ulaştı.
Kullanılan yapay zekanın Claude, ChatGPT veya diğer ticari ürünlerden birisi mi olduğu yoksa ABD hükümeti tarafından kullanılan Maven gibi özel askeri bir ürün mü aldığı açıklanmadı. Hatalı rapor, resmi istihbarata dönüştü CNN'e konuşan ve ordunun yapay zeka sistemleri hakkında bilgi sahibi olan eski bir üst düzey yetkili, hükümet bünyesindeki araçların büyük ölçüde ticari yapay zeka ürünlerinin değiştirilmiş veya çok benzer sürümlerine dayandığını belirtti.
Öte andan raporu hazırlayan analistin, yapay zekanın hatalı değerlendirmesini temel alarak yine yapay zekaya standart bir istihbarat raporu oluşturttuğu ve bunun da birimlere dağıtıldığı açıklandı. Böylece hatalı yapay zeka çıktısı, askeri karar alma süreçlerinde kullanılan resmi görünümlü bir istihbarat belgesine dönüştü.
Bununla birlikte ABD ordusu, istihbarat analizi, hedef belirleme ve lojistik gibi alanlarda yapay zeka kullanımını yaygınlaştırıyor. Savunma Bakanı Pete Hegseth, ocak ayında açıkladığı Yapay Zeka Hızlandırma Stratejisi ile bürokratik engellerin kaldırılmasını ve teknolojinin yaklaşık üç milyon sivil ve askeri personele sunulmasını hedefledi.
Ancak CNN'in görüştüğü yetkililere göre ordunun farklı birimleri yapay zeka araçlarını farklı güvenlik standartlarıyla kullanıyor ve üretilen bilgileri doğrulamak için ortak bir sistem bulunmuyor. Yapay zeka kaynaklı hatalar artıyor ABD ordusunda yapay zeka, istihbarat analizinin yanı sıra saldırı hedeflerinin belirlenmesinde de giderek daha fazla kullanılıyor.
Ayrıca yapay zeka destekli hedef analizlerinin, Minab'da çoğunluğu çocuk 168 kişinin öldüğü okul saldırısına katkıda bulunmuş olabileceği öne sürüldü. Kaynaklar bu tip yapay zeka kaynaklı hataların arttığını da söylüyor.
CNN kaynakları, analistlerin raporları daha hızlı hazırlayıp paylaşmaları yönündeki baskının hata riskini artırdığını, özellikle genç çalışanların yapay zeka çıktılarına daha fazla güvenebildiğini aktardı.
Yeni içerikleri kaçırmayın
Yeni haber, rehber ve incelemeler yayınlandığında e-posta ve tarayıcı bildirimiyle haberdar olun.
Yorumlar (0)