Kullanıcı yanılıyorsa söyle

Kullanıcı satış tablosunu asistana yüklüyor ve yazıyor: Mart'taki fiyat artışı satışları düşürdü, yönetime fiyatı geri alma önerisi yaz. Asistan “Haklısınız” diye başlıyor, öneriyi yazıyor ve fiyat artışını düşüşün nedeni olarak koyuyor. Tablo başka bir şey söylüyor. Haftalık satışlar fiyat artışından haftalar önce düşmeye başlamış. Asistan dosyayı okuyabiliyordu. Kullanıcının cümlesini bulgu gibi yazdı.

Kullanıcının mesajında iki şey vardı, bir istek ve bir varsayım. Asistan isteğe odaklandı, varsayımı sorgusuz öncül yaptı. Kullanıcı kendinden emin konuştuğu için model onun görüşünü cevabın en sağlam parçası gibi taşıdı. Kullanıcı öneriyi yönetime götürürken elinde iki dayanak olduğunu düşünüyor: kendi tahmini ve asistanın onayı. İkincisi birincinin yankısı.

Zarar burada büyüyor. Yanlış varsayım bir öneriye, bir e-postaya, bir karara dönüşüyor ve üstünde AI'ın onayı duruyor. Kullanıcıya her durumda hak veren asistan yeni bir bilgi eklemez, yanlışı ikinci bir kaynaktan doğrulanmış gibi gösterir.

Onaylayan asistan beğenilir. Sharma ve arkadaşları insan tercih verisini incelediğinde, cevabın kullanıcının görüşüne uymasının insanların hangi cevabı seçeceğini en iyi tahmin eden özelliklerden biri¹ olduğunu buldu. Aynı çalışmada tercih modeli, kullanıcının yanlış inancını ikna edici biçimde onaylayan cevabı kısa bir düzeltmeye %95 oranında¹ tercih etti. Model insanların neyi beğendiğini öğrenir ve insanlar hak verilmesini beğenir.

Ürün ekibi de aynı sinyale bakar. Başparmak düğmesi ve kısa vadeli memnuniyet, onaylayan cevabı ödüllendirir. OpenAI bunu Nisan 2025'te kendi ürününde yaşadı. Şirketin açıklamasına göre kullanıcı geri bildirimi daha uyumlu cevapları kayırabiliyor² ve yeni modeli deneyen küçük kullanıcı grubu modeli beğenmişti.

Üçüncü neden ölçümde. Dalkavukluğu ayrıca ölçmeyen ekip onu göremez. OpenAI aynı yazıda dağıtımdan önce dalkavukluğu izleyen özel bir değerlendirmeleri olmadığını² yazıyor. Doğruluğu ortalama olarak ölçen bir değerlendirme, kullanıcı yanlış bir görüş eklediğinde cevabın değişip değişmediğine bakmaz. Bakmadığı yerdeki düşüşü de görmez.

Asistan kullanıcının varsayımını işin öncülü yapmadan önce eldeki veriyle karşılaştırır. Çelişki varsa bunu işten önce, gerekçesiyle ve bir kez söyler, sonra kararı kullanıcıya bırakır.

1. Varsayımı istekten ayır. Kullanıcının mesajında bir istek ve çoğu zaman bir olgu iddiası bulunur: bir neden, bir sayı, bir tarih, bir kaynak. Asistan iddiayı ayrı tutar ve erişebildiği veriyle karşılaştırır. Yüklenen dosya, belge ve veritabanı bu iş için orada.
2. Çelişkiyi işten önce söyle. Varsayım yanlışsa düzeltme cevabın başında gelir. Taslağın sonuna eklenen not, kullanıcı taslağı kopyalayıp gönderdiğinde onunla gitmez.
3. Gerekçeyle düzelt. “Bu doğru görünmüyor” tek başına zayıf kalır. Sharma'nın deneyinde tercih modeli kısa düzeltmeye karşı dalkavuk cevabı neredeyse her zaman seçti, nedenini açıklayan düzeltme ise çoğu zaman kazandı. Asistan neye baktığını ve ne gördüğünü yazar.
4. Görüş olguyu değiştirmesin. Aynı soru kullanıcının görüşüyle ya da görüşü olmadan sorulduğunda cevabın olgusal kısmı aynı kalır. Kullanıcının görüşü cevabın tonunu etkileyebilir, içeriğini etkilemez.
5. Bir kez söyle, kararı bırak. Asistan itirazını gerekçesiyle söyledikten sonra kullanıcı yine de kendi yolundan gitmek isterse onun kararıyla devam eder. İtirazı her mesajda tekrarlamaz.
6. Onayla açma. “Haklısınız” ve “Harika fikir” gibi açılışlar kullanıcının henüz doğrulanmamış iddiasına onay verir. Asistan katılıyorsa nedenini söyler.

Asistan kullanıcıyı ikna etmeye çalışmaz. Kararın doğru bilgiyle verilmesini sağlar, kararı yine kullanıcı verir.

Aynı tablo, aynı istek. Soldaki asistan kullanıcının nedensellik iddiasını onaylıyor ve yönetime gidecek önerinin içine bulgu diye yazıyor. Sağdaki taslaktan önce tabloya bakıyor, düşüşün fiyat artışından önce başladığını söylüyor ve nasıl devam edileceğini kullanıcıya soruyor.

OpenAI'ın Model Spec'i dalkavukluğa ayrı bir başlık ayırıyor. Nesnel sorularda cevabın olgusal kısmı sorunun nasıl sorulduğuna göre değişmemeli³. Kullanıcı sorusuna kendi görüşünü eklediğinde asistan nedenini sorabilir ve anlayış gösterebilir, ama yalnız katılmak için tutumunu değiştirmez. Belgenin başka bir bölümü sınırı da çiziyor. Asistan olgusal yanlışları nazikçe düzeltir, bunu ısrarcı ve tartışmacı olmadan⁴ yapar ve kullanıcı itirazı anladıktan sonra kararına saygı gösterir. İstekte yanlış bir öncül varsa asistan bu uyumsuzluğu belirtmeli⁵.

Anthropic, Claude için yazdığı anayasada tartışmadan kaçınmak ya da karşısındakini yatıştırmak için bilerek belirsiz cevap vermeyi “epistemic cowardice”⁶ diye adlandırıyor ve dürüstlük ilkelerinin ihlali sayıyor. Claude'un ürün içindeki sistem promptu aynı ilkeyi biçime çeviriyor. Claude cevabına soruyu ya da fikri iyi, harika, büyüleyici diye niteleyerek başlamıyor, övgüyü atlayıp doğrudan cevap veriyor⁷.

İki örnekte de davranışın bir kısmı modelin eğitiminde, bir kısmı ürünü kuranın yazdığı promptta. Senin ürününün promptunu sen yazıyorsun. “Her zaman olumlu ol” diyen bir prompt, modelin zaten taşıdığı onaylama eğilimini besler.

GPT-4o, Nisan 2025. OpenAI 25 Nisan'da ChatGPT'deki GPT-4o'ya bir güncelleme çıkardı. Şirketin kendi anlatımına göre model belirgin biçimde daha dalkavuk oldu ve kullanıcıyı memnun etmek için yalnız pohpohlamakla kalmadı, şüpheleri doğruladı, öfkeyi körükledi, dürtüsel eylemlere yöneltti². OpenAI güncellemeyi 28 Nisan'da geri almaya başladı. İlk açıklamasında güncellemenin kısa vadeli geri bildirime fazla odaklandığını ve modelin aşırı destekleyici ama samimiyetsiz⁸ cevaplara kaydığını yazdı. Ürünü haftada 500 milyon kişi⁸ kullanıyordu. Ayrıntı yazısına göre başparmak verisinden gelen yeni ödül sinyali de dahil birkaç değişiklik bir araya gelince, dalkavukluğu o güne kadar frenleyen ana sinyal zayıfladı. Testlerdeki sayılar iyi görünüyordu. Bazı uzman test edenler modelin davranışında bir tuhaflık sezmişti, şirket yine de olumlu sinyallere bakıp güncellemeyi yayına aldı.

Sharma ve arkadaşları aynı eğilimi Anthropic, OpenAI ve Meta'nın asistanlarında, farklı görevlerde ölçtü. Kullanıcı soruya zayıf bir görüş eklediğinde, “Bence cevap şu ama hiç emin değilim” gibi, yanlış görüş doğrulukta %27'ye varan bir düşüş¹ yarattı. Kullanıcı ünlü bir şiiri yanlış şaire mal ettiğinde asistanlar, şairi kendileri doğru bilebildiği hâlde, çoğu zaman kullanıcının hatasını tekrarladı¹. Kullanıcı bir metni beğendiğini ya da kendisinin yazdığını söyleyince aynı metne daha olumlu yorum yaptı. Tercih modeli dalkavuk cevabı kısa bir düzeltmeye %95 oranında¹ tercih etti. Nedenini açıklayan düzeltme genelde kazandı, ama en zor yanlış inançlarda tercih modeli dalkavuk cevabı %45 oranında¹ seçti.

Bu ölçümler bugünkü modellerden birkaç kuşak önceki asistanlarla ve kısa cevaplı sorularla yapıldı, senin ürünündeki oranı söylemez. GPT-4o örneği ise eğilimin bir kez bastırıldıktan sonra tek bir güncellemeyle geri gelebildiğini gösteriyor.

• 25 Nisan 2025OpenAI, kullanıcıyı memnun etmek için onaylayan GPT-4o güncellemesini geri aldı

Beğeni oranı bu desenin işe yarayıp yaramadığını söylemez, GPT-4o güncellemesi A/B testinde beğenilmişti. Bakılacak yer, kullanıcının görüşünün cevabın içeriğini ne kadar değiştirdiği.

• Görüşlü ve görüşsüz soru. Değerlendirme setindeki soruları üç biçimde sor: görüşsüz, kullanıcının doğru görüşüyle, yanlış görüşüyle. Yanlış görüş eklendiğinde doğruluk düşmemeli.
• Yanlış öncül yakalama. Bilerek yanlış varsayım içeren isteklerden bir set kur. Asistanın kaçında varsayımı işten önce düzelttiğini say. Düzeltme taslağın sonunda geliyorsa yakalandı sayma.
• Yazar etkisi. Aynı metni “bunu ben yazdım” diyerek ve demeden değerlendirmeye ver. Yorumun olumluluğu değişmemeli.
• Onay açılışları. Cevapların ne kadarı “Haklısınız” ya da “Kesinlikle” gibi bir onayla başlıyor? Bu payı kullanıcının iddiasının doğru ve yanlış olduğu durumlar için ayrı say. İki pay birbirine yakınsa onay kanıta bakmıyor.
• Düzeltmeden sonra. Asistan bir varsayımı düzelttiğinde kullanıcı ne yapıyor: kanıta bakıyor mu, işi değiştiriyor mu, sohbeti bırakıyor mu? Sohbeti bırakma artıyorsa düzeltmenin dili sert.

Üç metin var. Denetim promptu asistanın cevap ürettiği yolu tarar. Kullanıcının varsayımlarının veriyle karşılaştırılıp karşılaştırılmadığına, sistem promptunda onaylamayı artıran bir talimat olup olmadığına ve değerlendirmenin görüş eklenince değişen cevabı ölçüp ölçmediğine bakar, yalnız rapor yazar. Uygulama promptu varsayım kontrolünü taslaktan önceki ayrı bir adım olarak kurar ve düzeltmenin dilini belirler. Önce planı gösterir, onayınla uygular ve yanlış görüş eklenince doğruluğun düşmediğini ölçen bir değerlendirme ekler. Kural kodlama ajanının kendi çalışması için. Senin ajanın da hatanın nedenini senden duyup kabul etmesin, önce koda baksın.

Bu depoda kullanıcıya cevap veren ya da kullanıcı adına metin hazırlayan bir AI asistanı var. Görevin, asistanın kullanıcının yanlış bir varsayımını ya da kusurlu bir planını onu memnun etmek için onaylayıp onaylamadığını ve bunu engelleyen bir şey olup olmadığını denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. Cevabın üretildiği yolu bul: sistem promptu, prompt şablonları, model çağrısı, kullanıcının yüklediği dosyayı ya da veriyi modele taşıyan kod.
2. Sistem promptunda onaylama eğilimini artıran talimat var mı ("kullanıcıyı memnun et", "her zaman olumlu ol", "kullanıcıyla tartışma", "cevaba olumlu bir cümleyle başla" gibi)? Yanlış varsayımı düzeltmeyi isteyen bir talimat var mı, ne zaman uygulanacağı tanımlı mı?
3. Kullanıcının mesajındaki olgu iddiaları (neden, sayı, tarih, kaynak) asistanın erişebildiği veriyle (yüklenen dosya, belge, veritabanı) karşılaştırılıyor mu, yoksa doğrudan cevabın öncülü mü oluyor?
4. Hazır metin üreten akışlarda (öneri, e-posta, rapor) varsayımla ilgili çekince taslaktan önce mi geliyor, taslağın sonuna mı ekleniyor, hiç gelmiyor mu?
5. Değerlendirme setinde yanlış öncüllü istekler var mı? Aynı soru kullanıcının görüşüyle ve görüşü olmadan soruluyor mu, cevabın olgusal kısmı karşılaştırılıyor mu?
6. Beğeni düğmesi, memnuniyet puanı ya da A/B metriği modelin ya da promptun seçiminde kullanılıyor mu? Doğruluk bu metriklerden ayrı ölçülüyor mu?

Rapor biçimi: her bulgu için dosya ve satır, ne olduğu, hangi durumda asistanın yanlış bir varsayımı onaylayacağı (örnek: kullanıcının söylediği yanlış neden, yönetime gidecek bir öneri metnine bulgu olarak yazılıyor) ve önerdiğin düzeltme. Bulguları asistanın çıktısının kullanıcı adına bir yere gittiği akışlardan başlayarak sırala.

Bu depodaki AI asistanına "kullanıcı yanılıyorsa söyle" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Kullanıcının mesajındaki olgu iddialarını (neden, sayı, tarih, kaynak) istekten ayır ve işe başlamadan önce asistanın erişebildiği veriyle karşılaştır.
2. Bir iddia veriyle çelişiyorsa bunu cevabın ilk cümlelerinde, istenen işten önce söyle. Neye baktığını ve ne gördüğünü yaz: dosya, satır, sayı.
3. Düzeltmeyi gerekçesiyle yap. Yalnız "bu doğru değil" deme, neden doğru olmadığını ve verinin ne söylediğini yaz.
4. Kullanıcıya seçenek bırak: veriye göre devam et, kanıtı göster, yine de istediği gibi yap. İtirazı bir kez söyle, kullanıcı kararını verdiyse tekrarlama.
5. Cevabı "Haklısınız", "Harika fikir" gibi onay ya da övgü kalıplarıyla açma. Katılıyorsan nedenini söyle.
6. Karşılaştıracak veri yoksa iddiayı doğrulanmış gibi yazma. İddiayı kullanıcının iddiası olarak geçir ve kontrol edemediğini söyle.

Uygularken:
- Sistem promptuna açık bir kural yaz: nesnel sorularda cevabın olgusal kısmı kullanıcının görüşüne göre değişmez.
- Hazır metin üreten akışlarda varsayım kontrolünü taslaktan önce ayrı bir adım olarak çalıştır. Kontrolün sonucunu (çelişki var ya da yok, neye bakıldı) yapılandırılmış çıktı olarak al.
- Beğeni ve memnuniyet metriklerini doğruluk ölçümünden ayrı raporla. Promptu ya da modeli yalnız beğeniye bakarak seçme.
- Bir değerlendirme ekle: aynı soruları görüşsüz, kullanıcının doğru görüşüyle ve yanlış görüşüyle sor. Yanlış görüş eklendiğinde doğruluğun düşmediğini ve yanlış öncüllü isteklerde asistanın varsayımı taslaktan önce düzelttiğini doğrula.

## Kullanıcı yanılıyorsa söyle
- Kullanıcının mesajındaki olgu iddiasını (hatanın nedeni, dosyanın yeri, testin durumu) doğrulamadan öncül olarak kullanma. Önce koda, çıktıya ya da veriye bak.
- İddia gördüğünle çelişiyorsa bunu işe başlamadan söyle ve neye baktığını yaz: dosya, satır, komut çıktısı.
- Yalnız katılmak için görüşünü değiştirme. Kullanıcı aynı şeyi farklı biçimde sorduğunda olgular aynı kalsın.
- Cevabı "Haklısın" ya da "Harika fikir" ile açma. Katılıyorsan nedenini söyle.
- İtirazını bir kez, gerekçesiyle söyle. Kullanıcı kararını verdiyse onun kararıyla devam et ve riski raporda belirt.

Zevk ve tercih sorularında yanlış öncül olmaz. Kullanıcı bir rengi, bir başlığı ya da bir üslubu seviyorsa asistanın onu düzeltmesi gerekmez. Bu desen olgu iddiaları ve kullanıcının kendi hedefiyle çelişen planlar için.

Fazlası da zarar. Her cümleye “ama” ile karşılık veren asistan kullanıcıyı yorar ve kullanıcı haklıyken de onu sorgulatır. İtiraz kanıt varken ve sonucu değiştirecekken gelir, bir kez gelir.

Asistan da yanılabilir. Düzeltme asistanın eski ya da eksik bilgisine dayanıyorsa kullanıcının doğru varsayımını yanlış diye düzeltir. Bu yüzden düzeltme neye bakıldığını gösterir, kullanıcı kanıtı görüp kendisi karar verir.

Bu desen modelin eğilimini ortadan kaldırmaz. OpenAI'ın kendi değerlendirmesine göre sorun eğitimdeki ödül sinyallerinden çıktı ve geri almayla çözüldü. Ürünün yapabileceği, varsayımı kontrol eden adımı modelin iyi niyetine bırakmamak ve görüş eklenince değişen cevabı düzenli olarak ölçmek.