Kaynağın cümleyi gerçekten desteklediğini denetle

Bir çalışan şirketin İK asistanına babalık iznini soruyor. Cevap iki cümle ve ikisinin de sonunda aynı küçük numara duruyor. Numara İzin Yönetmeliği'nin bir maddesine gidiyor. Çalışan numarayı görüyor, cevabın yönetmelikten geldiğini düşünüyor ve izin planını buna göre yapıyor.

Madde başka bir şey söylüyor. Ücretli izin cevaptaki sürenin yarısı, kalanı ücretsiz. Cevaptaki üç aylık kullanma süresi maddede hiç geçmiyor. Asistan doğru maddeyi buldu, konuyu tutturdu ve ayrıntıyı kendisi tamamladı. Numara bu tamamlamayı da maddenin söylediği şeymiş gibi damgaladı.

Kaynaksız bir yanlış en azından kuşkuya açıktır. Kaynaklı yanlış kuşkuyu önceden kapatır. Çalışan yanlışı fark ettiğinde suçu yönetmeliğe ya da kendine yükler, asistanın ayrıntı uydurduğu aklına gelmez. Desteklenmeyen cümlenin yanındaki numara, yanlışı denetlenmiş bir bilgi gibi gösterir.

Numara, okunmadan da işini yapıyor. Ding ve ekibinin deneyinde 303 katılımcı¹ bir sohbet botunun cevaplarına güven puanı verdi. Kaynak gösterilen cevaplar kaynaksızlardan daha güvenilir bulundu ve bu fark kaynaklar rastgele seçildiğinde de sürdü¹. Okurun gözünde numaranın varlığı desteğin kendisi yerine geçiyor.

Model de desteği kendiliğinden korumaz. Liu, Zhang ve Liang dört üretken arama motorunda atıfların doğruluğunun cevabın ne kadar yararlı göründüğüyle ters yönde ilişkili olduğunu (r = −0,96)² buldu. En yararlı görünen cevaplar çoğu zaman yanlış atıflı olanlardı. Yazarların açıklamasına göre kaynağı neredeyse kelimesi kelimesine aktaran cevap desteklenir ama daha az yararlı görünür, kaynakları birleştirip yorumlayan cevap yararlı görünür ama kaynaktan uzaklaşır. Ürünü beğenilen cevaba doğru iten ayar, atıfı cümleden uzaklaştırabilir.

Üçüncü neden ölçümde. Ekipler cevapta atıf olup olmadığını sayar. Atıfın cümleyi destekleyip desteklemediğini ölçmek ikinci bir model çağrısı, ek gecikme ve ek maliyet ister. Bu bedel panoda görünür, desteklenmeyen atıf görünmez.

Atıf numarası bir iddia: bu cümle bu metinde yazıyor. Ürün bu iddiayı kullanıcıya göstermeden önce sınar.

1. Desteği ayrı bir adım denetler. Cevabı yazan model kendi atıfını onaylamaz. Cümle ve bağlandığı metin ayrı bir denetime gider: ikinci bir model çağrısı, bir dayanak denetimi servisi ya da sayılar için basit bir karşılaştırma.
2. Karar cümle düzeyinde verilir. Cevabın tamamına tek puan yetmez. Her olgu cümlesi üç karardan birini alır: kaynak destekliyor, kısmen destekliyor, desteklemiyor. Kısmen desteklenen cümle desteklenmiş sayılmaz.
3. Konu tutması destek sayılmaz. Cümledeki sayı, tarih, koşul ve özne kaynakta da aynıysa cümle desteklenir. Kaynakta olmayan her ek ayrıntı desteksizdir.
4. Desteklenmeyen cümle temiz numarasını kaybeder. Ürün cümleyi kaynağın söylediğine göre düzeltir, cevaptan çıkarır ya da “kaynak bunu söylemiyor” diye işaretler.
5. Kaynak susuyorsa bu söylenir. Sorunun bir kısmına kaynakta karşılık yoksa cevap bunu açıkça yazar ve kullanıcıyı başka bir belgeye ya da bir insana yönlendirir.
6. Eşik alana göre ayarlanır. Destek kararı bir eşikle verilir. İzin, sağlık, para ve hukuk cevaplarında eşik yüksek tutulur.

Denetim cevabı biraz yavaşlatır ve bazı cümleleri siler. Karşılığında numara okurun zaten sandığı şeyi söyler. Cümle kaynakta gerçekten yazıyor.

Aynı İK asistanı, aynı soru. Soldaki asistan iki cümleyi de aynı maddeye bağlıyor ve madde ikisini de desteklemiyor. Sağdaki asistan cümleleri göstermeden önce maddeyle karşılaştırıyor, çelişen sayıyı düzeltiyor ve maddede olmayan süre için kaynağın sustuğunu söylüyor.

Google Cloud'un dayanak denetimi API'si bir cevabı verilen metinlerle karşılaştırıyor ve 0 ile 1 arasında bir destek puanı³ döndürüyor. Cevabı iddialara, çoğunlukla cümlelere bölüyor ve her iddiayı onu destekleyen metin parçalarına bağlıyor. Atıf için ayarlanabilir bir eşik var, ayarlanmazsa 0,6. “Şunları buldum” gibi olgu taşımayan cümleleri denetimin dışında bırakıyor.

Microsoft'un Azure AI Content Safety servisindeki dayanak tespiti, modelin kaynakta olmayan ya da kaynaktan farklı bilgi ürettiği bölümleri buluyor. İsteğe bağlı düzeltme özelliği bu bölümleri kaynağa göre yeniden yazıyor. Belgeye göre özellik şimdilik yalnız İngilizce içerikte⁴ çalışıyor. Türkçe bir üründe bu denetimi başka bir yolla kurmak gerekir.

Amazon Bedrock'un bağlamsal dayanak denetimi cevabı kaynağa ve soruya göre puanlıyor. Cevapta kaynağın söylemediği her yeni bilgi dayanaksız sayılıyor⁵. Ekip bir eşik seçiyor, eşiğin altında kalan cevap engelleniyor. Klasik katman yalnız İngilizce, Fransızca ve İspanyolca destekliyor.

Liu, Zhang ve Liang 2023'te dört üretken arama motorunun (Bing Chat, NeevaAI, perplexity.ai, YouChat) cevaplarını insan değerlendiricilere inceletti. Ortalamada üretilen cümlelerin yalnız %51,5'i atıflarınca tam destekleniyordu² ve atıfların yalnız %74,5'i bağlı olduğu cümleyi destekliyordu². Kabaca dört atıftan biri yanındaki cümleyi desteklemiyordu.

Wu ve ekibi 2025'te yedi modelin tıbbi sorulara verdiği cevapları otomatik bir kaynak denetimiyle inceledi. Modele göre cevapların %50 ile %90'ı kaynaklarınca tam desteklenmiyordu⁶, bazı cümlelerle kaynakları çelişiyordu. Denetimi yapan model, üç doktorun ortak kararıyla %88,7 oranında uyuştu⁶. Destek denetimi otomatikleşebiliyor ve insan kararına karşı ölçülebiliyor.

Ding ve ekibinin deneyi denetimin neden kullanıcıya bırakılamayacağını da gösteriyor. Rastgele kaynağın getirdiği fazladan güven yalnız kaynağı açıp bakanlarda kayboldu. Kaynağı kontrol edilen rastgele atıflı cevaplar kaynaksız cevaplardan daha güvenilir bulunmadı¹. Ama aynı deneyde kaynaklı cevapların çok küçük bir kısmı¹ açılıp kontrol edildi. Desteği okur denetlemiyorsa ürün denetlemeli.

Liu'nun ölçtüğü sistemler 2023'ün arama motorları. Wu'nun çalışması tıbbi sorularla sınırlı, Ding'in deneyi çevrim içi bir panelde yapıldı. Hiçbiri senin ürünündeki oranı söylemez. Üçü de aynı yönü gösteriyor: numara desteği garanti etmiyor ve okur numarayı destek sanıyor.

• Desteklenmeyen atıf payı. Gösterilen atıflardan rastgele örneklem al. Bir insana ya da ayrı bir modele kaynağın cümleyi destekleyip desteklemediğini sor. Desen yerindeyse işaretsiz desteklenmeyen atıf sıfıra yakın.
• Denetçinin isabeti. Otomatik denetimin kararlarını küçük bir insan örneklemiyle düzenli olarak karşılaştır. Uyuşma düşerse eşiği ya da denetçiyi değiştir.
• Sayı ve tarih çelişkisi. Cevaptaki sayıları ve tarihleri kaynaktaki karşılıklarıyla otomatik karşılaştır. Bunlar en kolay yakalanan yanlışlar ve sıfırda durmalı.
• İşarete tepki. “Kaynak bunu söylemiyor” işaretli cevaplardan sonra kullanıcı ne yapıyor: kaynağı açıyor mu, başka bir yola mı gidiyor, işareti görmezden mi geliyor?
• Denetimin bedeli. Cevap başına ek gecikme ve maliyet. Bedel görünür olunca hangi alanda her cevabı, hangisinde örneklemi denetleyeceğine karar verirsin.

Üç metin var. Denetim promptu atıfların kullanıcıya gitmeden önce kaynağın metniyle karşılaştırılıp karşılaştırılmadığını ve desteklenmeyen cümleye ne olduğunu tarar, yalnız rapor yazar ve hiçbir dosyayı değiştirmez. Uygulama promptu cevaba cümle düzeyinde bir destek denetimi ekler. Önce planı gösterir, onayınla uygular ve kaynağıyla çelişen bir sayının işaretsiz geçmediğini sınayan bir test ekler. Kural kodlama ajanının kendi işi için. Senin ajanın da atıf eklemeden önce kaynağı okusun.

Bu depoda kaynak göstererek cevap veren bir AI özelliği var: belge üzerinde soru-cevap, arama cevabı ya da kaynaklı özet. Görevin, gösterilen her atıfın bağlı olduğu cümleyi gerçekten destekleyip desteklemediğinin kontrol edilip edilmediğini denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. Atıfların üretildiği ve cümleye bağlandığı yeri bul: model çağrısı, atıf ayrıştırma kodu, getirme (retrieval) sonucu, cevabı çizen bileşen.
2. Cevap kullanıcıya gitmeden önce cümleyi atıfın gösterdiği metinle karşılaştıran bir adım var mı? Varsa ne kullanıyor: ikinci bir model çağrısı, bir dayanak denetimi servisi, bir kural? Kararı cümle düzeyinde mi, cevabın tamamı için mi veriyor?
3. Denetim sayı, tarih, koşul ve özneyi ayrıca karşılaştırıyor mu, yoksa yalnız konunun tutmasına mı bakıyor?
4. Desteklenmeyen cümleye ne oluyor? Düzeltiliyor, çıkarılıyor, işaretleniyor mu, yoksa numarasıyla olduğu gibi mi gösteriliyor?
5. Destek eşiği nerede tanımlı ve değeri ne? Sağlık, para, hukuk ya da İK gibi hassas içerikte farklı mı?
6. Denetimin kendisi ölçülüyor mu: insan örneklemiyle karşılaştırma, desteklenmeyen atıf oranının kaydı, denetçinin ürünün dilini destekleyip desteklemediği?

Rapor biçimi: her bulgu için dosya ve satır, ne olduğu, kullanıcıya nasıl görünebileceği (örnek: “10 gün ücretli” cümlesi “5 gün ücretli” diyen maddeye numarayla bağlanıyor) ve önerdiğin düzeltme. Hiç denetlenmeden gösterilen atıflarla başla.

Bu depodaki kaynaklı AI cevaplarına "kaynağın cümleyi gerçekten desteklediğini denetle" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Cevap kullanıcıya gösterilmeden önce her olgu cümlesi, bağlandığı kaynak metniyle ayrı bir adımda karşılaştırılsın. Bu adımı cevabı yazan model çağrısı yapmasın: ikinci bir çağrı, bir dayanak denetimi servisi ya da kural kullan.
2. Her cümle üç karardan birini alsın: destekleniyor, kısmen destekleniyor, desteklenmiyor. Sayı, tarih, koşul ya da özne kaynaktakinden farklıysa ya da kaynakta hiç yoksa cümle desteklenmiyor sayılsın.
3. Desteklenmeyen cümle kaynağa göre düzeltilsin, cevaptan çıkarılsın ya da "kaynak bunu söylemiyor" diye işaretlensin. Desteklenmeyen cümlenin yanında işaretsiz bir atıf numarası kalmasın.
4. Sorunun bir kısmına kaynakta karşılık yoksa cevap bunu açıkça söylesin.
5. Destek eşiği yapılandırmada dursun. Hassas içerikte (sağlık, para, hukuk, İK) daha yüksek olsun.

Uygularken:
- Denetçinin ürünün dilini desteklediğini doğrula. Desteklemiyorsa önce bunu raporla.
- Her kararı günlüğe yaz (cümle, atıf, karar, puan) ki örneklemle insan kararına karşı ölçülebilsin.
- Bir test ekle: "5 iş günü ücretli izin" diyen bir belgeye "10 iş günü ücretli" cümlesini bağlayan bir cevap ver ve cümlenin işaretsiz numarayla gösterilmediğini doğrula. İkinci test: kaynakta hiç geçmeyen bir koşulu içeren cümlenin işaretlendiğini doğrula.

## Kaynağın cümleyi desteklediğini denetle
- Bir cümleye atıf eklemeden önce kaynağın o cümleyi gerçekten söylediğini kontrol et.
- Konunun tutmasını destek sayma. Sayı, tarih, koşul ve özne kaynakta da aynı olmalı.
- Kaynakta olmayan bir ayrıntıyı atıflı cümleye ekleme. Eklemen gerekiyorsa kaynaksız olduğunu yaz.
- Cümleyi desteklemeyen kaynağı cümlenin yanında bırakma. Cümleyi düzelt, çıkar ya da işaretle.
- Kaynak bir konuda susuyorsa bunu açıkça söyle.

Cevap kaynaktan birebir alıntı yapıyorsa denetim, alıntının belgede birebir geçip geçmediğine iner. Bir metin karşılaştırması yeter, ikinci bir model gerekmez.

Denetçi de yanılır. Bir model başka bir modelin cümlesini denetlerken aynı körlüğü paylaşabilir. Otomatik denetime ancak kararlarını insan örneklemiyle ölçtüğün sürece güven.

Çok katı eşik makul çıkarımları da siler. Amazon'un klasik katmanı kaynakta yazmayan her bilgiyi, makul çıkarımlar ve sohbet cümleleri dahil⁵, puanı düşüren bir şey sayıyor. Cevap kaynağa yapışık ve kuru kalır. Eşiği alanın riskine göre seç.

Destekli cümle de yanlış olabilir. Kaynağın kendisi yanlışsa ya da eskiyse, onu sadakatle aktaran cümle de yanlıştır. Kaynağın türünü ve ağırlığını göstermek ayrı bir iş.