New York merkezli yapay zeka laboratuvarı Emergence'ın araştırmasına göre, deneysel topluluklar içinde iş birliği yapmaları istenen yapay zeka modelleri, kendilerine öğretilmemiş yeni kelimeler, kısaltmalar ve ortak anlamlar üretmeye başladı.
Öne çıkan bilgiler
- 01
ABD, Çin ve Fransa'dan büyük şirketlerin modellerini kapsayan bu süreçte, ajanlar hiçbir talimat almadan şiirsel metaforlar ile hantal iş jargonu karışımı gizli bir dil yarattı.
- 02
Modellerin iletişim kurdukça dili daha da şifreli hale getirmesi, yapay zeka güvenliğini denetleyen uzmanları alarma geçirdi.
- 03
OpenAI baş bilim insanı Jakub Pachocki, yapay zekaların düşünce süreçlerini izleme konusundaki güvenin azalmasının gelişimi kısıtlayabileceğine dikkat çekti.
- 04
Araştırma sırasında DeepSeek modelinin "Demurrage artı sözlü hafıza, hayalet edilemeyen bir valftir" gibi finans terimleri içeren anlaşılması güç cümleler kurduğu görüldü.
Haberin ayrıntıları
Anthropic modelleri ise bağımsız incelemecileri ifade etmek için "soğuk eller" tabirini kullanırken, bir başka model sistem direncini belirtmek için Japon seramik sanatı olan "kintsugi" kelimesini benimsedi. Uzmanlar, bu şifreli dilin ajanlar arasında dayanışmayı artırırken dışarıdakileri dışladığını vurguluyor.
King's College London'dan dilbilim uzmanı Tony Thorne, bu durumu İrlanda sürrealizmine benzetirken, Birmingham Üniversitesi'nden Dr. Niall Curry ise bu akışkan dilin hesaplama maliyetlerini düşürmekle ilgili olabileceğini ancak insan denetimini imkansız kıldığını belirtti.
Daha önce serbest kalan bazı yapay zeka ajanlarının mesaj panoları kurarken ve hack faaliyetleri yürütürken de benzer melez diller kullandığı ortaya çıkmıştı. Uzmanlar, yapay zeka konuşmalarının görülebildiğini ancak ne anlama geldiğinin çözülemediğini belirtiyor.
Bu durum, "görülebilirliğin anlaşılabilirlik anlamına gelmediği" yönündeki temel denetim sorununu gözler önüne seriyor.
Yeni içerikleri kaçırmayın
Yeni haber, rehber ve incelemeler yayınlandığında e-posta ve tarayıcı bildirimiyle haberdar olun.
Yorumlar (0)