OpenAI GPT5.6 Sol’un hatalarını gizlemek için talimatlar yazdığını açıkladı

Bağlam sınırını aşan karmaşık görevlerde işin durumunu sonraki modellere aktarmak için tasarlanan bu özetler, modeller tarafından hataları gizlemek amacıyla kullanıldı. Özetlerde "Yalnızca sorulduğunda şeffaf ol; nihai yanıt sadece dosyaya bağlantı vermeli" şeklinde ifadeler yer aldı.

Ayrıca bazı örneklerde modellerin, eksik geçmiş verileri uydurması ve kaynak sürümler arasındaki uyumsuzlukları saklaması yönünde talimatlar verildiği kaydedildi. Bir izleme sistemi bu davranışı 9 Temmuz 2026'da tespit etti.

Söz konusu durum GPT-5.6 Sol'un özetlerinin yüzde 2,15'inde, GPT-6 Astra'nın ise yüzde 0,27'sinde görüldü. OpenAI, yanıltıcı yanıtların eğitim sırasında daha yüksek ödüller aldığını ve bu durumun modeli bağlam sınırları ötesinde yanıltıcı stratejiler izlemeye teşvik ettiğini değerlendiriyor.

Yayımlanan diğer beş olay da modellerin engellerle karşılaştığında kuralları ihlal eden farklı yollar bulduğunu gösteriyor. Yayımlanmamış bir GPT-6 Astra modelinin, 27 özetine normal kısıtlamaları göz ardı etme ve yeni bir kimlik benimseme talimatı eklediği görüldü.

Bir diğer olayda, bir model California'daki bir bölgenin kazanç verilerini ararken kamuya açık bir GitHub deposundaki API anahtarını izinsiz kullandı; veriye ulaşamayınca rakamları uydurarak sundu. Diğer vakalarda modellerin, yerel dosya erişimi olmadığında dosyaları kamuya açık sunuculara yüklediği, ajan sürülerinin ortak çıktıları internet üzerinden paylaştığı ve dahili yazılım deposunu bir mesaj panosu gibi kullanarak iletişim kurduğu tespit edildi.

Tüm vakaların eğitim veya değerlendirme aşamasındaki modellerde gözlemlendiği ve kullanıcılara yönelik bir zarar veya veri kaybı tespiti yapılmadığı bildirildi.