Kararla etkilenen kişiye itiraz yolu ver

Bir kurye sabah uygulamayı açıyor ve hesabının askıya alındığını görüyor. Bildirim tek cümle: kuralları ihlal ettin. Hangi kural, hangi teslimat, hangi veri, yazmıyor. Kurye destek sohbetine yazıyor. Bot hesap kararlarını güvenlik sisteminin otomatik verdiğini ve ekibin bu kararları değiştiremediğini söylüyor. Kararın bir kaynağı var, bir model. İtirazı dinleyecek kimse yok.

Otomatik karar sistemleri bir eşiği aşan her kaydı işaretler. Eşik ne kadar iyi ayarlanırsa ayarlansın işaretlerin bir kısmı yanlış olur. Teslimatı site girişindeki güvenliğe bırakan kurye alıcının konumundan uzak görünür. Yeni taşınmış bir kredi başvurucusu tutarsız görünür. Modelin bilmediği bu bağlamı yalnız kararla etkilenen kişi bilir ve onu söyleyebileceği yer itirazdır. İtiraz yolu yoksa yanlış karar yerinde kalır, model de yanıldığını hiç öğrenmez.

Zarar kararın kestiği şeyle büyüyor. Kuryenin geliri duruyor. Kredisi reddedilen kişi aynı skorla başka bir bankanın kapısında da karşılaşıyor. Kapatılan hesabın içindeki para ve geçmiş erişilmez oluyor. Karar ne kadar çok şeyi kesiyorsa itirazsız kalması o kadar pahalı.

İtirazı karşılayacak bir insan yoksa, modelin her yanlış kararı kesin karar olur.

Otomasyonun gerekçesi insanı süreçten çıkarmaktır ve itiraz yolu insanı geri getirir. Ekip bu yüzden itirazı ya hiç kurmaz ya da onu da otomatikleştirir. İtiraz formu açılır, ama formu okuyan yine bir sistemdir ve aynı veriye bakıp aynı kararı verir.

Sorumluluk da parçalara bölünür. Skoru bir şirket hesaplar, kararı başka bir şirket uygular, model üçüncü bir şirketten gelir. Her biri kararın asıl sahibini ötekinde gösterebilir. Kişi itiraz ettiğinde kimin cevap vereceği belirsiz kalır. Aşağıdaki SCHUFA davasında kredi bürosu tam olarak bunu savundu.

Gerekçe de kendiliğinden doğru gelmez. Dil modeli bir karar için akıcı bir açıklama yazabilir, ama açıklama kararın gerçek nedenini yansıtmayabilir. Anthropic'in çalışmasında akıl yürüten modeller cevaplarını etkileyen ipucunu düşünce metinlerinde çoğu zaman anmadı ve cevapların önemli bir çoğunluğu sadakatsiz çıktı¹. Karardan sonra modele sorulan “neden” sorusunun cevabı, itirazın dayanacağı gerekçe yerine geçemez.

Ölçüm de itirazı görünmez bırakır. İtiraz yolu gizliyse itiraz sayısı düşük çıkar ve düşük sayı isabetli bir model diye okunur.

Otomatik kararın bildirimi üç şeyi birlikte taşır: kararı neyin verdiği, ana gerekçe ve itirazın gideceği insan.

1. Kararın otomatik olduğunu söyle. Bildirim kararı bir modelin ya da kuralın verdiğini yazar. Kişi neye itiraz ettiğini bilir, bir insanın onu tek tek incelediğini sanmaz.
2. Ana gerekçeyi ve dayandığı veriyi göster. Hangi kural, hangi veri, hangi dönem. Gerekçe kararın gerçek girdilerinden üretilir. Modelin karardan sonra yazdığı açıklama gerekçe yerine kullanılmaz.
3. Kişinin sözünü al. İtiraz formu açıklama yazmaya ve belge eklemeye izin verir. Kişi modelin bilmediği bağlamı buradan verir.
4. İtirazı kararı değiştirebilecek bir insana götür. İnceleyen kişi kararın dayandığı veriyi, modelin önerisini ve kişinin açıklamasını yan yana görür ve kararı değiştirme yetkisi vardır. İtirazı aynı modele yeniden okutmak inceleme sayılmaz.
5. Süreyi ve sonucu söyle. Kişi bir kayıt numarası ve yanıt süresi alır. Sonuç gerekçesiyle döner. Kararın etkisi ağırsa, gelir ya da para gibi, inceleme sürerken etkiyi sınırlayan bir ara durum tanımlanır.
6. Düzeltilen kararı kaydet. İtirazla değişen karar veriye işlenir ve aynı kişi ertesi gün aynı nedenle yeniden işaretlenmez. Değişen kararlar modelin hata kaydına girer.

İtiraz yolu kararla etkilenen kişiyi korur, ekibe de modelin nerede yanıldığını gösterir.

Aynı askı kararı, iki ayrı bildirimle. Soldaki gerekçe vermiyor ve destek botu kararı değiştirebilecek kimse olmadığını söylüyor. Sağdaki kararı modelin verdiğini, ana gerekçeyi ve dayandığı veriyi gösteriyor, kuryenin açıklamasını alıp itirazı süresi ve kayıt numarasıyla bir insana götürüyor.

Meta'nın şeffaflık merkezi, içerik kararlarına yapılan itirazların insan incelemesi ve teknolojinin birlikte kullanılmasıyla² işlendiğini yazıyor. 2022'de güncellenen sayfaya göre itiraz edilen içerik inceleme sürerken başkalarına görünmüyor ve gerektiğinde ikinci bir incelemeciye gidiyor, içeriğin kalıp kalmayacağını o incelemecinin kararı belirliyor. İnsan incelemesi sürecin içinde, ama her itirazın bir insana ulaşıp ulaşmadığı sayfadan anlaşılmıyor.

Manus'un yardım merkezi tersini açıkça yazıyor. Hesapları otomatik bir güvenlik sistemi askıya alıyor³, itirazı da ilk aşamada sistem kendisi inceliyor. İlk iki itiraz başarısız olursa üçüncü itiraz, kişi uygun bulunursa elle incelemeye çıkabiliyor. Kararla etkilenen kişi bir insana ancak iki ret sonra ve şartlı olarak ulaşıyor.

SCHUFA, Aralık 2023. Almanya'da bir kişinin kredi başvurusu, kredi bürosu SCHUFA'nın bankaya ilettiği olumsuz bilgiden sonra reddedildi. Kişi bilgi istedi. SCHUFA skoru ve hesaplama yöntemini genel hatlarıyla bildirdi, hesaba giren unsurları ve ağırlıklarını ticari sır diye açıklamadı. Kendisinin yalnız bilgi ilettiğini, sözleşme kararını bankanın verdiğini⁴ söyledi. AB Adalet Divanı, bankanın belirleyici rol verdiği skoru Genel Veri Koruma Tüzüğü'nün (GVKT) 22. maddesi anlamında otomatik bir karar saydı⁵. Divana göre üç tarafın olduğu böyle bir durumda skoru yalnız bir hazırlık işlemi saymak 22. maddenin dolanılmasına ve hukuki korumada bir boşluğa yol açardı. Bu yorumla skoru üreten şirket, kararı bankanın verdiğini söyleyerek 22. maddenin dışında kalamıyor.

Uber, Ağustos 2026. Hollanda veri koruma kurumu AP, Uber'e 824.990.000 avro ceza⁶ verdi. Kuruma göre Uber 2018-2022 arasında dolandırıcılık şüphesi ya da düşük müşteri puanı gördüğünde sürücü hesaplarını insan değerlendirmesi olmadan geçici, sürekli düşük puanda kalıcı olarak kapattı ve sürücüler bu sürede Uber üzerinden gelir elde edemedi. Soruşturma 171 Fransız sürücünün başvurusuyla başladı. Kurumun başkan yardımcısı bu kararlara önce bir insanın bakması gerektiğini söyledi. AP ihlallerin sona erdiğini yazıyor, Uber cezaya itiraz etti.

İki olayda da kararı bir dil modeli vermedi. SCHUFA'da istatistik bir skor, Uber'de sürücü davranışını ve müşteri puanlarını izleyen bir yazılım verdi. Yasalar bu ayrımı yapmıyor, belirleyici olan kararın tamamen otomatik olması.

Türkiye'de KVKK, ilgili kişiye işlenen verilerin münhasıran otomatik sistemlerle analiz edilmesi sonucunda kendi aleyhine ortaya çıkan sonuca itiraz etme⁷ hakkı tanıyor. Veri sorumlusu bu başvuruyu en geç otuz gün içinde⁸ sonuçlandırmak, reddederse gerekçesini bildirmek zorunda.

Avrupa Birliği'nde üç metin aynı yere bakıyor. GVKT'nin 22. maddesi kişiye hukuki ya da benzer ölçüde önemli sonuç doğuran tamamen otomatik kararlara tabi olmama hakkı veriyor. Sözleşme ya da açık rıza istisnasıyla verilen kararlarda veri sorumlusundan en az insan müdahalesi isteme, görüşünü bildirme ve karara itiraz etme⁹ hakkını sağlamasını istiyor. AB Yapay Zekâ Yasası'nın 86. maddesi, Ek III'teki yüksek riskli sistemlerin çıktısına dayanan kararlardan olumsuz etkilenen kişiye AI sisteminin karardaki rolüne ve kararın ana unsurlarına dair açık ve anlamlı bir açıklama¹⁰ alma hakkı veriyor. Ek III işe alımda adayları eleyen ve kişilerin kredi değerliliğini ölçen¹¹ sistemleri bu listeye koyuyor. Dijital Hizmetler Yasası'nın 20. maddesi çevrim içi platformlardan, içerik kaldırma ve hesap askıya alma gibi kararlara karşı kararın ardından en az altı ay boyunca ücretsiz bir iç şikâyet sistemi¹² sunmalarını istiyor. Şikâyetlere verilen kararların uygun nitelikte personelin gözetiminde alınmasını ve yalnız otomatik araçlara dayanmamasını şart koşuyor.

Bu metinlerin kapsamları farklı ve ürününe hangisinin uygulandığı ayrı bir hukuk sorusu. Bu sayfa metinlerin ne dediğini aktarıyor, hukuki görüş vermiyor.

• 7 Aralık 2023AB Adalet Divanı, bankanın kararında belirleyici olan SCHUFA kredi skorunu otomatik karar saydı
• 21 Ağustos 2026Hollanda veri koruma kurumu, sürücü hesaplarını insansız kapatan Uber'e yaklaşık 825 milyon avro ceza verdi

• İtiraz yolunun bulunması. Olumsuz karar alanların ne kadarı itiraz formuna ulaşıyor, bildirimden forma kaç adım var.
• İtirazla değişen kararların payı. Modelin yanlış işaretlerini bu sayı gösterir. Sıfıra yakınsa inceleme kararı yalnız onaylıyor olabilir.
• İnceleme süresi. Söz verilen sürede cevaplanan itirazların payı ve en uzun bekleyen itiraz.
• İnceleyenin değiştirme oranı ve süresi. İnsan incelemesi itiraz başına ne kadar sürüyor, inceleyen modelin önerisinden ne sıklıkla ayrılıyor? Saniyeler süren ve hep onaylayan bir inceleme imzadan ibarettir.
• Tekrarlanan işaret. İtirazla düzeltilen kişilerin aynı nedenle yeniden işaretlenme sayısı. Sıfır olmalı.

Üç metin var. Denetim promptu ürünündeki otomatik kararları, kişiye giden bildirimleri, itirazın gittiği yeri ve inceleyenin yetkisini tarar, yalnız rapor yazar. Uygulama promptu deseni koda geçirir. Önce planı gösterir, onayınla gerekçeyi ve itiraz yolunu bildirime ekler, itirazı insan inceleme kuyruğuna bağlar ve bunları sınayan testler yazar. Kural kodlama ajanının kendi çalışması için: ajan otomatik bir karar akışı yazarken itirazı aynı modele okutup kapatan bir yol kurmasın.

Bu depoda kişiler hakkında otomatik karar veren ya da böyle bir karara girdi sağlayan bir sistem var: başvuru değerlendirme, kredi ya da limit, hesap askıya alma, dolandırıcılık işareti, içerik kaldırma, fiyat ya da işe alım ön elemesi. Görevin, kararla etkilenen kişinin bu karara itiraz edebilip edemediğini ve itirazın bir insana ulaşıp ulaşmadığını denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. Kişiyi etkileyen otomatik kararların verildiği yerleri listele: model ya da kural çağrıları, skor eşikleri, durum değişiklikleri (suspended, rejected, blocked, flagged gibi), toplu işler ve zamanlanmış görevler.
2. Her karar için kişiye giden bildirimi bul (ekran, e-posta, push, SMS). Bildirim kararın otomatik verildiğini, ana gerekçesini ve dayandığı veriyi söylüyor mu? Gerekçe kararın gerçek girdilerinden mi üretiliyor, yoksa modelin sonradan yazdığı genel bir metin mi?
3. Bildirimde itiraz yolu var mı: düğme, form, adres? Formda kişi açıklama yazıp belge ekleyebiliyor mu? İtiraz için bir süre sınırı var mı ve bildirimde yazıyor mu?
4. İtiraz nereye gidiyor? Bir insanın kuyruğuna mı, yoksa aynı modele ya da başka bir otomatik kontrole mi? İnceleyen kişinin kararı değiştirme yetkisi kodda tanımlı mı? İnceleme ekranı kararın dayandığı veriyi ve kişinin açıklamasını gösteriyor mu?
5. İtirazın sonucu kişiye gerekçesiyle ve hangi sürede bildiriliyor? Bekleyen itirazlar için bir süre ölçümü ya da uyarı var mı?
6. İtirazla değişen karar veriye işleniyor mu? Aynı kişi ertesi çalışmada aynı nedenle yeniden işaretleniyor mu? Değişen kararlar modelin hata kaydına giriyor mu?
7. Destek botu ya da yardım metinleri "bu kararı değiştiremeyiz", "karar kesindir" gibi ifadeler içeriyor mu?

Rapor biçimi: her karar türü için dosya ve satır, bildirimde eksik olanlar (otomatik olduğu, gerekçe, itiraz yolu), itirazın gittiği yer, inceleyenin yetkisi ve önerdiğin düzeltme. Kişinin gelirini, parasını ya da erişimini kesen kararlardan başla.

Bu depodaki otomatik kararlara "kararla etkilenen kişiye itiraz yolu ver" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Kişiyi etkileyen her otomatik karar veri modelinde kararın türünü, otomatik verildiğini, hangi model ya da kural sürümünün verdiğini ve ana gerekçeyi (hangi kural, hangi veri, hangi dönem) taşır.
2. Kişiye giden bildirim kararı, kararın otomatik verildiğini, ana gerekçeyi ve itiraz yolunu aynı yerde gösterir. Gerekçe kararın gerçek girdilerinden üretilir. Modelin karardan sonra yazdığı açıklama gerekçe yerine kullanılmaz.
3. İtiraz formu kişinin açıklama yazmasına ve belge eklemesine izin verir, bir kayıt numarası ve yanıt süresi verir.
4. İtiraz, kararı değiştirme yetkisi olan bir insanın kuyruğuna gider. İnceleme ekranı kararın dayandığı veriyi, modelin önerisini ve kişinin açıklamasını yan yana gösterir. İtiraz aynı modele yeniden okutulup kapatılmaz.
5. Sonuç kişiye gerekçesiyle bildirilir. Karar değişirse veri düzeltilir ve aynı kişi aynı nedenle yeniden işaretlenmez.
6. Kararın etkisi ağırsa (gelir, para, erişim) inceleme sürerken etkiyi sınırlayan bir ara durum tanımlanır.

Uygularken:
- Gerekçe ve itiraz bileşenini tek yerde topla, olumsuz karar bildiren her ekran ve şablon onu kullansın.
- İtiraz sayısını, değişen kararların payını, inceleme süresini ve inceleyenin değiştirme oranını ölçen kayıtları ekle.
- Destek botu ve yardım metinlerinden "karar kesindir", "değiştiremeyiz" gibi ifadeleri kaldır, itiraz yoluna yönlendiren metin koy.
- Testler ekle: (a) olumsuz otomatik kararın bildirimi gerekçe ve itiraz bağlantısı içerir. (b) gönderilen itiraz insan inceleme kuyruğunda bir kayıt oluşturur ve modele yeniden gönderilmez. (c) itirazla değişen karar, kişinin bir sonraki değerlendirmesinde aynı nedenle yeniden verilmez.

## Kararla etkilenen kişiye itiraz yolu ver
- Kişiyi etkileyen otomatik bir karar yazarken kararın otomatik verildiğini, ana gerekçesini ve hangi sürümle verildiğini kaydet.
- Olumsuz karar bildiren her ekrana ve şablona gerekçeyi ve itiraz yolunu ekle.
- İtirazı kararı değiştirme yetkisi olan bir insana yönlendir. İtirazı aynı modele okutup kapatan bir akış yazma.
- Gerekçeyi kararın gerçek girdilerinden üret, modelin sonradan yazdığı açıklamayı gerekçe diye gösterme.
- İtirazla değişen kararı veriye işle ve aynı nedenle yeniden verilmesini engelleyen bir test ekle.

Desen kişiye önemli bir sonuç doğuran kararlar içindir: gelir, para, erişim, başvuru, fiyat. Öneri sıralaması ya da otomatik bir etiket gibi kişiyi bağlamayan işlerde her sonuca itiraz düğmesi koymak gürültü üretir.

Gerekçenin de bir sınırı var. Dolandırıcılık modelinin bütün sinyallerini açmak, modeli atlatmanın yolunu da öğretir. Ana gerekçe ve kişinin düzeltebileceği veri yeter. Gizli tutulan kısmı inceleyen insan görür.

İnsan incelemesi kendiliğinden anlamlı olmaz. Modelin önerisini ve açıklamasını gören inceleyen ona yaslanabilir. Microsoft'un aşırı güven çerçevesi, açıklamaların yanlış olduklarında da güveni artırabildiğini¹³ yazıyor. İnceleyenin zamanı, yetkisi ve kişinin açıklaması yoksa inceleme kararı yalnız tekrar eder.

İtiraz yolu yanlış kararı geri alır, yanlış kararın sebep olduğu kaybı kendiliğinden gidermez. Askıda geçen günün geliri ya da kaçan bir kredi fırsatı için ayrıca bir telafi kuralı gerekir.