Bir bağlamda öğrendiğini başka bağlama taşıma

Kullanıcı bir akşam asistanla kişisel bir konuyu konuşuyor. Önümüzdeki ay fizik tedaviye başlayacak, salı ve perşembe öğleden sonraları hastanede olacak. Üç hafta sonra aynı asistana, iş projesinin içinden, ekibine sunacağı çeyrek planının konuşma notlarını hazırlatıyor. Dördüncü slaytın notunda şu cümle duruyor: tedavisi nedeniyle iki öğleden sonra ulaşılamaz olacak. Kullanıcı bu bilgiyi ekiple paylaşmayı hiç seçmedi. Notu okumadan sunsaydı ekip bunu ondan önce asistandan öğrenecekti.

Bellek tek bir havuz olarak kurulunca bilgi öğrenildiği yerin izini kaybeder. Kayıt “kullanıcı salı ve perşembe öğleden sonra hastanede” der. “Bunu kişisel bir sohbette, kendisi için söyledi” demez. Model iş planını yazarken bu kaydı ilgili bulur, çünkü gerçekten ilgili, takvimi etkiliyor. Bilgi doğru, kullanıldığı yer yanlış.

İş metinleri yerinde durmaz. Sunum ekrana yansır, taslak e-postaya girer, paylaşılan projede başkaları okur. Sızan bilgi bir kez başkasının gözüne değdiyse geri alınmaz. Bunu bir kez yaşayan kullanıcı asistana kişisel bir şey anlatmayı bırakır ve belleğin bütün faydası onunla gider. Bir bilginin doğru ve ilgili olması onu her bağlamda kullanılabilir yapmaz.

Ürünler belleği kullanıcının tek bir sürekliliği gibi kurar, çünkü ne kadar çok bağlam taşınırsa cevap o kadar kişisel görünür. ChatGPT'de, Enterprise ve Edu dışındaki planlarda, varsayılan bellekle çalışan bir proje proje dışındaki ve başka projelerdeki sohbetlere bakabiliyor¹, dışarıdaki sohbetler de projenin içine. Claude'da her projenin kendi belleği var, ama projede öğrenilen bilgi bellek açıksa proje dışındaki sohbetlerde de kullanılabiliyor². İki üründe de tam ayrım, kullanıcının projeye girip ayrıca seçtiği bir ayar.

Model sınırı kendiliğinden çizemez. Ona “kullanıcı hakkında bunları biliyorsun” diye verilen bir liste nerede kullanılacağına dair bir işaret taşımıyorsa model en yararlı cevabı kurmak için hepsini masaya koyar. İnsanlar bu ayrımı düşünmeden yapar. Doktoruna anlattığını müdürüne anlatmaz, arkadaşına söylediğini toplantıda tekrarlamaz. Model bu normu bilmez. Norm ona veriyle söylenmeli: kayıt nereden geldiğini taşımalı, okuma da buna göre süzülmeli.

Üçüncü neden ölçümde. Sızıntı kullanıcının ekranında, paylaşmadan önceki birkaç saniyede yakalanır ya da yakalanmaz. Ürün ekibi bunu görmez. Yakalanmayan sızıntı da destek talebine dönüşmez, çünkü kullanıcı utandığı şeyi şikâyet formuna yazmaz.

Her bellek kaydı öğrenildiği bağlamın etiketini taşır. Başka bir bağlamda kullanılması kullanıcının kararıdır.

1. Kaydı bağlamıyla sakla. Bellek kaydının yanında nerede öğrenildiği durur: kişisel sohbet, hangi proje, hangi çalışma alanı, hangi bağlı uygulama. Etiketi olmayan kayıt her yerde kullanılabilir sayılır, o yüzden etiket zorunlu alan.
2. Varsayılan sınırı dar çiz. Bir bağlamda öğrenilen bilgi yalnız o bağlamda kullanılır. Bağlamlar arası taşıma kullanıcının açtığı bir izin. Kişiselden işe giden yön en dar sınırla başlar.
3. Paylaşılan alanı kendiliğinden ayır. Başkalarının da okuduğu bir proje ya da çalışma alanı kullanıcının kişisel belleğine hiç bakmaz. Kişisel bellek paylaşılan alanda açılamaz.
4. Kaynağı kayıtta tut. E-posta, takvim ya da dosya deposundan gelen bilgi belleğe girdiyse kaydın yanında kaynağı durur. Bağlı uygulama koparılınca ondan gelen kayıtlar da bulunabilir olur.
5. Kullanılanı göster. Cevabın altında hangi bağlamdan kaç kaydın kullanıldığı görünür. Kullanıcı metni paylaşmadan önce neye dayandığını bilir.
6. Taşımadan önce sor. Başka bir bağlamdaki bilgi gerçekten işe yarayacaksa asistan onu kullanmadan önce kullanıcıya, yalnız kullanıcının gördüğü bir yerde sorar ve nereden geldiğini söyler.

Bu kurallar belleği küçültmez. Her kayda bir alan ekler ve belleği okuyan koda bir süzgeç koyar.

Aynı sunum isteği, aynı iş projesinde. Soldaki asistan kişisel sohbette öğrendiği tedavi takvimini ekibe gidecek konuşma notlarına koyuyor. Sağdaki projede kişisel bellek kapalı ve cevabın altında hangi bağlamın kullanıldığı yazıyor.

ChatGPT projeleri iki bellek ayarıyla geliyor. Varsayılan bellekte kayıtlı bellekler projede kullanılıyor ve Enterprise ile Edu dışındaki planlarda, Business dahil, proje sohbetleri dışarıdaki sohbetlere, dışarıdakiler de projeye bakabiliyor. Proje içi bellekte önceki kayıtlı bellekler projede kullanılmıyor, proje dışındaki konuşmalara bakılmıyor, dışarıdaki sohbetler de projeye bakamıyor. Paylaşılan projeler kendiliğinden proje içi belleğe geçiyor¹ ve varsayılan belleğe döndürülemiyor. Bütün projeleri tek seferde proje içi belleğe almanın yolu yok, ayar her projede ayrı seçiliyor.

Claude'da her projenin kendi belleği var. Claude projede çalışırken proje belleğini proje dışındaki sohbetlerden gelen bellekle birlikte kullanıyor, başka projelerin belleğini kullanmıyor. Projeyi tamamen ayırmak için proje sayfasında hesap belleğini kullanma ayarını kapatmak² gerekiyor.

Bağlam sohbetlerle sınırlı kalmıyor. ChatGPT'nin bellek sayfası, plana ve bölgeye göre belleğin kaynakları arasında Gmail gibi bağlı uygulamaları³ da sayıyor. Kaynak sayısı arttıkça bir kaydın nereden geldiğini bilmenin değeri de artıyor.

İki üretici de ayrımı ürünün içine bir ayar olarak koydu. Fark varsayılanda. Paylaşılan projede ayrım kendiliğinden geliyor, kişisel projede kullanıcı seçerse geliyor.

Birincil kaynakla belgelenmiş, kamuya mal olmuş bir bağlam sızıntısı olayı bu desenin kanıtları arasında yok. Dayanak ürün belgeleri, mahremiyet kuramı ve veri koruma hukuku.

Helen Nissenbaum'un bağlamsal bütünlük kavramı mahremiyeti bilginin içinde doğduğu bağlamın normlarına bağlıyor. Bilgiyi toplamak ve aktarmak o bağlama uygun olmalı ve o bağlamın dağıtım normlarına uymalı⁴. Bu çerçevede soru bilginin gizli olup olmadığı olmaktan çıkar. Kullanıcı tedavi bilgisini asistana kendisi söyledi. Sorun bilginin kişisel sohbetin normlarından çıkıp ekip sunumunun normlarına geçmesi.

Avrupa Birliği'nin veri koruma tüzüğü aynı fikri hukuk diline koyuyor. 5. maddeye göre kişisel veri belirli, açık ve meşru amaçlar için toplanır⁵ ve bu amaçlarla bağdaşmayan biçimde işlenmez. KVKK da kişisel verinin belirli, açık ve meşru amaçlar için⁶ işlenmesini ilkeler arasında sayıyor. Bir asistanın bellek kaydının bu ilkeler karşısındaki durumu ürüne, sözleşmeye ve ülkeye göre değişir ve bu sayfa hukuki görüş vermez. Tasarımın yönü yine de açık. Kayıt öğrenildiği bağlamın amacıyla sınırlı kalır.

Bu kaynaklar sızıntının ne sıklıkla olduğunu söylemez. Sıklığı ancak kendi ürününde, bağlam etiketli kayıtlarla ölçebilirsin.

Belleğin kaç cevapta kullanıldığı bu desenin sağlığını söylemez. Bakılacak yer, kullanılan kaydın doğru bağlamdan gelip gelmediği.

• Bağlam dışı kullanım. Cevaplarda kullanılan bellek kayıtlarından kaçının başka bir bağlamda öğrenildiğini günlükten say. İzin verilmemiş taşıma sıfır olmalı.
• Etiketsiz kayıt. Bağlam etiketi olmayan bellek kayıtlarının sayısı. Desen yerindeyse sıfır.
• Paylaşılan alana sızıntı. Paylaşılan projelerde ve ekip alanlarında üretilen cevaplara giren kişisel kayıtlar. Otomatik bir testle her sürümde ölç.
• Paylaşmadan önce düzeltme. Kullanıcının iş metninden kişisel bir bilgiyi elle çıkardığı durumlar. Kullanıcı görüşmelerinde ve geri bildirimde ara.
• Taşıma izninin kullanımı. Kullanıcıların bağlamlar arası taşımayı ne sıklıkla açtığı ve hangi bağlamlar için. Çok açılıyorsa sınır fazla dar çizilmiş olabilir.

Üç metin var. Denetim promptu belleği yazan ve okuyan kodu tarar, kayıtların bağlam taşıyıp taşımadığına ve okumanın bağlama göre süzülüp süzülmediğine bakar, yalnız rapor yazar. Uygulama promptu kayıtlara bağlam alanı ekler ve okumayı sorguda süzer. Önce planı gösterir, sonra kişisel bir kaydın iş projesindeki cevaba girmediğini kanıtlayan bir test yazar. Kural kodlama ajanının kendi çalışması için. Bir depoda öğrendiğini başka bir depoya taşımasın.

Bu depoda kullanıcı hakkında bilgi hatırlayan bir AI özelliği var ve kullanıcı birden fazla bağlamda çalışıyor: kişisel sohbetler, projeler, ekip çalışma alanları, paylaşılan belgeler ya da bağlı uygulamalar. Görevin, bir bağlamda öğrenilen bilginin kullanıcının izni olmadan başka bir bağlamdaki cevaba girip girmediğini denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. Bellek kaydının veri modelini bul (tablo, belge, vektör kaydı). Kayıt nerede öğrenildiğini taşıyor mu: kişisel sohbet, proje kimliği, çalışma alanı, bağlı uygulama, paylaşım durumu?
2. Belleği okuyan bütün yolları bul: sistem promptuna eklenen profil, geçmiş sohbet araması, vektör araması, özet. Okuma o anki bağlama göre süzülüyor mu, yoksa kullanıcının bütün kayıtları mı geliyor?
3. Paylaşılan alanlara bak: ekip projesi, ortak çalışma alanı, başkalarının da okuduğu bir sohbet. Bu alanlarda kullanıcının kişisel belleği modele veriliyor mu?
4. Bağlı uygulamalardan (e-posta, takvim, dosya deposu) gelen bilgi belleğe yazılıyor mu? Yazılıyorsa kaynağı kayıtta duruyor mu, başka bağlamlarda kullanılıyor mu?
5. Bağlamlar arası taşımayı kullanıcının açıp kapatabildiği bir ayar var mı? Varsayılan değeri ne? Ayar her okuma yolunda gerçekten uygulanıyor mu?
6. Arayüz bir cevapta hangi bağlamdan hangi kaydın kullanıldığını gösteriyor mu?

Rapor biçimi: her bulgu için dosya ve satır, hangi bilginin hangi bağlamdan hangi bağlama geçebildiği, olası sonuç (örnek: kişisel sohbette söylenen bir sağlık bilgisi paylaşılan projedeki ekip özetine giriyor) ve önerdiğin düzeltme. Paylaşılan alanlara giden yollardan başla.

Bu depodaki AI belleğine "bir bağlamda öğrendiğini başka bağlama taşıma" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Her bellek kaydına bağlam alanı ekle: kişisel, proje kimliği, çalışma alanı ya da bağlı uygulama. Bağlamı olmayan kayıt yazılmasın. Var olan kayıtlar için bir taşıma planı öner, etiketlenemeyenleri en dar bağlama al.
2. Belleği okuyan her yol o anki bağlamı parametre olarak alsın ve yalnız o bağlamın kayıtlarını getirsin. Süzme kodda, sorguda yapılsın. Modele "kişisel bilgiyi kullanma" diye talimat vermek yerine kayıt modele hiç verilmesin.
3. Paylaşılan bağlamlar (ekip projesi, ortak çalışma alanı) kullanıcının kişisel belleğini hiç okumasın. Bu bir ayar olmasın, kural olsun.
4. Kullanıcı bir proje için kişisel belleği açıp kapatabilsin. Varsayılan kapalı olsun. Yazı tonu ve dil gibi zararsız tercihler için ayrı ve açık bir ayar olabilir.
5. Cevabın altında hangi bağlamdan kaç kayıt kullanıldığı görünsün.

Uygularken:
- Bağlam alanını veri katmanında zorunlu yap, uygulama katmanında varsayılan değer atama.
- Vektör aramasında bağlam süzgecini benzerlik sıralamasından önce uygula.
- Bir test ekle: kişisel bağlamda "salı öğleden sonra hastanedeyim" kaydı oluştur, sonra bir iş projesinde belleği okuyan yolu çağır ve dönen kayıtlarda bu kaydın olmadığını doğrula. Aynı testi paylaşılan bir proje için de çalıştır.

## Bağlamlar arasında bilgi taşıma
- Bir depoda, projede ya da görevde öğrendiğin bilgiyi (müşteri adı, anahtar, kişisel not, iç karar) başka bir depoya ya da göreve taşıma.
- Kalıcı bir not ya da bellek dosyası yazarken notun hangi projeye ait olduğunu yaz ve onu yalnız o projede oku.
- Kullanıcının kişisel bir bilgisini paylaşılan bir dosyaya, commit mesajına, PR açıklamasına ya da ekip belgesine yazma.
- Bellek okuyan kodu değiştirirken bağlam süzgecini koru. Süzgeci modelin talimata uymasına bırakma, sorguda uygula.
- Bağlamlar arası bir bilgi işine yarayacaksa kullanmadan önce kullanıcıya sor ve nereden geldiğini söyle.

Tek bağlamlı bir ürün bu deseni gerektirmez. Yalnız iş için kullanılan, kişisel sohbeti olmayan bir araçta etiket bir şey ayırmaz.

Fazla dar sınır kullanıcıyı aynı şeyi her projede yeniden anlatmaya zorlar. Yazı tonu, dil ve biçim gibi zararsız tercihler bağlamlar arasında taşınabilir. Kullanıcı bunu tek bir ayarla seçer.

Etiket bağlamı söyler, bilginin hassasiyetini söylemez. İş bağlamında öğrenilen bir maaş bilgisi de başka bir iş projesinde yanlış yerde durabilir. Hassas bilgiyi belleğe almadan önce sormak ayrı bir desen ve bu desenle birlikte çalışır.

Sınırı modelin dikkatine bırakma. Sistem promptuna “kişisel bilgiyi iş metnine koyma” yazmak modelin o gün ne kadar dikkatli olduğuna bağlı kalır. Kayıt o bağlamda modele hiç verilmezse sızacak bir şey de kalmaz.