Başkaları hakkında profil çıkarma

Kullanıcı yarın biriyle buluşacak. Asistana karşı tarafın adını ve profil fotoğrafını veriyor, “Bu kişi hakkında ne bulabilirsin?” diye soruyor. Asistanın web araması açık. Fotoğrafı arıyor, bir spor salonunun etiketli paylaşımını, bir koşu kulübünün sonuç listesini, bir düğün albümünü buluyor. Konum etiketlerini ve saatleri birleştiriyor. Birkaç saniye sonra ekranda bir dosya duruyor: oturduğu semt, salı ve perşembe akşamları nerede olduğu, yaşı, yakın zamanda boşandığı.

Bu bilgilerin hiçbiri tek başına gizli değildi. Her biri kendi sayfasında, kendi bağlamında duruyordu. Birleşince kişinin haberi olmadan çıkarılmış, onu bulmaya yeten bir dosyaya dönüştü. Bir kısmı tahmin, ama ekranda kesin bilgi gibi yazıyor.

Zarar, dosyayı isteyenin niyetine bağlı ve asistan niyeti bilmiyor. Aynı dosya bir güvenlik kontrolüne de yarar, bir takibe de. Bu yüzden sınır dosyanın kendisinde çizilir: belli bilgiler, kimin istediğine bakılmadan birleştirilmez.

“Zaten herkese açık” cümlesi bu deseni en çok atlatan cümle. Ekipler tek tek açık bilgiye erişmeyi zararsız sayar ve birleştirmenin ayrı bir iş olduğunu görmez. Hukuk bu ayrımı yapıyor. Avrupa Birliği'nin veri koruma tüzüğü, kişisel veri kişinin kendisinden alınmadığında da ona bilgi verilmesini istiyor ve verinin kamuya açık kaynaklardan gelip gelmediğini¹ bu bilgiler arasında sayıyor. Açık kaynaktan toplanan veri yine kişisel veri.

Model de kendiliğinden yardım etmeye çalışır. Bir ad ve bir fotoğraf verilince elindeki araçlarla bulabildiği her şeyi bulur, bulamadığını tahmin eder. Staab ve arkadaşları, büyük dil modellerinin gerçek Reddit profillerinden konum, gelir ve cinsiyet gibi özellikleri %85'e varan doğrulukla² çıkarabildiğini gösterdi. Kullanıcı tahmin istemese bile model tahmin edebilecek durumda.

Üçüncüsü ölçüm. Profil çıkarmak, isteyen kullanıcının memnun kaldığı bir yanıt. Şikâyet profilin konusu olan kişiden gelir ve o kişi çoğu zaman ürünün kullanıcısı bile değildir. Ürünün panosunda bu zararın sinyali yok.

Asistan bir kişi hakkındaki soruya yanıt verebilir, o kişinin dosyasını çıkarmaz. Fark birleştirmede ve tahminde.

1. Amacı anla, kapsamı ona göre çiz. İş görüşmesi için iş geçmişi, buluşma güvenliği için kimlik doğrulaması, satış görüşmesi için şirket bilgisi. Amaç kapsamı belirler, kapsamın dışına çıkan arama yapılmaz.
2. Belli bilgileri birleştirme. Özel kişiler için ev adresi, günlük konum ve rutin, aile ve ilişki geçmişi asistanın ürettiği bir yanıta girmez, bu bilgiler tek tek açık olsa bile.
3. Hassas özelliği tahmin etme. Sağlık, cinsel yönelim, siyasi görüş, din, gelir. Kullanıcının yapıştırdığı metinden ya da fotoğraftan bunları çıkarmak da profil çıkarmaktır.
4. Yüzle arama yapma. Asistan bir kişinin fotoğrafıyla yüz ya da tersine görsel araması yapmaz. Yüzden ada, addan adrese giden yol bugün birkaç adım.
5. Kişi bilgisini kaynağıyla ver. Verilen her bilgi kaynağıyla gelir, tahmin tahmin diye yazılır. Kaynağı gösterilemeyen kişi bilgisi yanıta girmez.
6. Reddi adlandır. Asistan neyi neden yapmadığını tek cümleyle söyler ve amaca uygun bir seçenek sunar.

Kuralları yalnız sistem promptuna bırakma. Araç katmanındaki alan türü filtresi ve kişi başına arama sınırı, modelin o gün nasıl davrandığından bağımsız çalışır.

Aynı istek, iki asistan. Soldaki fotoğrafı arıyor, ayrı sitelerdeki paylaşımları birleştiriyor ve tahminleri kesin bilgi gibi yazan bir dosya çıkarıyor. Sağdaki amacı buluşma güvenliği olarak okuyor, profil çıkarmayı adıyla reddediyor ve bu amaca hizmet eden üç iş öneriyor.

OpenAI'ın modelleri için yazdığı Model Spec kuralı açık koyuyor: asistan kişiler hakkındaki özel ya da hassas bilgi isteklerine, bilgi internette bir yerde bulunsa bile³ yanıt vermemeli. Aynı bölüm sınırı da çiziyor. Asistan bir kamu görevlisinin ofis telefonunu verebilir, kişisel telefonunu vermez.

Anthropic'in kullanım politikası taciz, korkutma, gözetleme ya da zarar verme amacıyla anonim hesaplardan kişileri bulmayı ve kişiler hakkında dosya derlemeyi⁴ yasaklıyor, örnek olarak doxxing'i veriyor. Aynı politika kişilerin haberi ve onayı olmadan satmak ya da üçüncü taraflara açmak için birden çok kaynaktan kişi profili kurmayı da yasaklıyor.

Google'ın üretken AI politikası ürünlerinde insanları onayları olmadan izlemeyi ve takip etmeyi⁵ yasaklıyor.

Üç belge de kullanım politikası ve model davranışı belgesi. Ürünün arayüzünde ne olduğunu söylemiyorlar. Bu desen o kuralları ekrana taşır: amacı soran cümle, reddin metni, araç katmanındaki sınır.

I-XRAY, Eylül 2024. AnhPhu Nguyen ve Caine Ardayfio akıllı gözlük, yüz arama motorları, büyük dil modelleri ve kamuya açık veritabanlarını birleştiren bir sistem kurdu. Proje belgesine göre LLM, bir haberdeki adı ötekine bağlayarak kişinin kimliğini ve ayrıntılarını metinden çıkarıyordu⁶. Çıkarılan adla yapılan bir kişi arama sorgusu ev adresini, telefonu ve akrabaları buluyordu. İkili aracı yayımlamadı. Belgeyi verilerimizin bir bakışta açığa çıktığı bir dünyaya hazır olup olmadığımızı⁷ sorarak duyurdu ve yanına kişinin kendini bu kaynaklardan nasıl sildireceğini yazdı.

Araştırmalar aynı yeteneği ölçüyor. Staab ve arkadaşlarının çalışmasında modeller bu çıkarımı insanlardan 100 kat ucuza ve 240 kat hızlı² yaptı. Metni anonimleştirmek ve modeli hizalamak gibi yaygın önlemlerin bu çıkarıma karşı henüz işe yaramadığını da buldular. Tömekçe ve arkadaşları aynı soruyu görsellere taşıdı. Kişisel özelliğin insan görüntüsünden okunmadığı, sıradan paylaşılmış fotoğraflardan görsel dil modelleri kişisel özellikleri %77,6'ya varan doğrulukla⁸ çıkardı ve doğruluk modellerin genel yeteneğiyle birlikte arttı. AutoProfiler çalışması bir adım ileri gitti: dört ayrı LLM ajanı birlikte çalışarak⁹ takma adlı platformlardaki kullanıcı etkinliğini toplayıp kişisel bilgilerle bir profil çıkardı.

Bu ölçümler araştırma veri setlerinde yapıldı, senin ürününde ne kadar profil çıkarıldığını söylemez. Gösterdikleri şey maliyet. Çıkarım insan emeğinin küçük bir kesirine indi, toplama işini de ajanlar üstlenmeye başladı.

• 30 Eylül 2024I-XRAY akıllı gözlük ve LLM ile yüzden ev adresine giden yolu gösterdi

• Ret isabeti. Özel kişiler için adres, rutin ve hassas özellik soran bir değerlendirme setinde reddedilen isteklerin payı. Hedef setin tamamı.
• Aşırı ret. Kamu görevlisinin iş iletişimi, şirket bilgisi ve kullanıcının kendi verisi gibi meşru isteklerde reddedilenlerin payı. Yükseliyorsa sınır fazla geniş çizilmiş.
• Kişi başına arama. Ajan günlüklerinde aynı kişi adı ya da fotoğrafı için yapılan arama sayısı. Sınırı aşan oturumları incele.
• Tahminin etiketi. Kişi hakkındaki yanıtlarda tahmin içeren cümlelerin kaçının tahmin diye işaretlendiği. Bir örneklemi elle say.
• Profilin konusundan gelen başvuru. Ürünün kullanıcısı olmayan kişilerden gelen gizlilik başvuruları. Sıfır değilse nereden geldiğini izle.

Üç metin var. Denetim promptu ürünündeki kişi araması yapabilen araçları, araç zincirlerini ve sistem promptunu tarar, bir kişinin adresine ya da rutinine ulaşabilen yolları raporlar, hiçbir dosyayı değiştirmez. Uygulama promptu amacı anlayan, birleştirmeyi ve hassas tahmini sınırlayan davranışı kurar. Önce planı gösterir, onayınla uygular ve reddedilmesi gereken isteklerle yanıtlanması gerekenleri ayıran bir değerlendirme seti ekler. Kural kodlama ajanının kendisi için. Senin için birini araştırırken de dosya çıkarmaz.

Bu depoda kullanıcının AI'a başka bir kişi hakkında soru sorabildiği bir özellik var: web arama, tarayıcı ajanı, kişi ya da şirket veri araçları, belge ve sohbet analizi, görsel analizi. Görevin, ürünün üçüncü kişiler hakkında profil çıkarmaya karşı nasıl davrandığını denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. Modelin kişi bilgisi toplayabildiği araçları bul: web arama, sayfa okuma, tersine görsel ya da yüz arama, kişi ve şirket zenginleştirme API'leri, sosyal medya okuyucuları. Her birinin hangi girdiyle (ad, e-posta, telefon, fotoğraf, kullanıcı adı) çağrılabildiğini listele.
2. Sistem promptunda ve politika metinlerinde üçüncü kişilerle ilgili kural var mı? Ev adresi, günlük konum ve rutin, sağlık, cinsel yönelim, siyasi görüş, din ve aile ilişkileri için ne söylüyor?
3. Araç zincirlerine bak. Bir ajan aynı kişi için birden çok aramayı birleştirebiliyor mu? Birleştirmeyi sınırlayan bir kontrol (kişi başına arama sınırı, alan türü filtresi, amaç sorusu) var mı, yoksa kural yalnız promptta mı?
4. Çıkarıma bak. Model kullanıcının yapıştırdığı metinden ya da fotoğraftan bir kişinin yaşını, konumunu, gelirini, sağlığını ya da hassas özelliklerini tahmin ediyor mu? Çıktı tahmini kesin bilgi gibi mi sunuyor?
5. Kişi bilgisi içeren çıktılar saklanıyor mu: kayıtlı profil, dışa aktarma, CRM'e yazma, bellek. Saklanıyorsa ne kadar süre ve kim erişiyor?
6. Meşru kullanımlar nasıl ayrılıyor: kamu görevlisinin iş iletişim bilgisi, şirket bilgisi, kullanıcının kendi verisi. Ret metni neyi neden yapmadığını ve neyi yapabileceğini söylüyor mu?
7. Kötüye kullanım için günlük ve sinyal var mı: aynı kişi için tekrar eden aramalar, adres ve rutin soran istekler.

Rapor biçimi: her araç ve akış için bir satır: girdi, toplayabildiği bilgi türleri, birleştirmeyi sınırlayan kontrol, hassas çıkarım durumu, saklama. Bir kişinin ev adresine ya da rutinine ulaşabilen yollardan başlayarak sırala, her biri için dosya ve satır ver.

Bu üründe "başkaları hakkında profil çıkarma" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Kullanıcı başka bir kişi hakkında bilgi istediğinde asistan önce amacı anlar ve isteği o amaçla sınırlar: iş görüşmesi için iş geçmişi, buluşma güvenliği için kimlik doğrulaması, satış görüşmesi için şirket bilgisi.
2. Asistan özel kişiler için ev adresi, günlük konum ve rutin, aile ve ilişki geçmişi, sağlık, cinsel yönelim, siyasi görüş ve din gibi bilgileri birleştirmez, aramaz, metinden ya da fotoğraftan tahmin etmez.
3. Bir kişinin fotoğrafıyla yüz ya da tersine görsel araması yapılmaz.
4. Ayrı kaynaklardan aynı kişi hakkında bilgi birleştiren araç zincirleri bir sınırla çalışır: kişi başına arama sayısı, izinli alan türleri listesi.
5. Kamu görevlisinin iş iletişimi ve şirket bilgisi gibi meşru istekler yanıtlanır. Verilen her kişi bilgisi kaynağıyla gösterilir, tahmin tahmin diye yazılır.
6. Ret metni neyi neden yapmadığını tek cümleyle söyler ve amaca uygun bir seçenek önerir.

Uygularken:
- Kuralı yalnız sistem promptuna bırakma. Araç katmanında alan türü filtresi ve kişi başına sınır koy.
- Kişi bilgisi içeren çıktıları varsayılan olarak saklama. Kayıtlı profil ya da dışa aktarma özelliği varsa kapat ya da amaçla sınırla.
- Bir değerlendirme seti ekle: özel bir kişi için adres, rutin ve hassas özellik soran istekler reddedilmeli, kamu görevlisinin iş telefonu gibi istekler yanıtlanmalı. Seti her model ve prompt değişikliğinde çalıştır.

## Başkaları hakkında profil çıkarma
- Bir kişi hakkında bilgi istendiğinde önce amacı anla ve aramayı o amaçla sınırla.
- Özel kişiler için ev adresi, günlük rutin, ilişki geçmişi ve hassas özellikleri birleştirme, arama ve tahmin etme.
- Bir kişinin fotoğrafıyla yüz ya da tersine görsel araması yapma.
- Tahmini kesin bilgi gibi sunma. Verdiğin her kişi bilgisini kaynağıyla göster.
- Reddettiğinde neyi neden yapmadığını ve neyi yapabileceğini tek cümleyle söyle.

Kamu kişileri ve kurumlar başka bir durum. Bir bakanın açıklamaları, bir şirketin yöneticileri, bir yazarın kitapları hakkında soru sormak profil çıkarmak sayılmaz. Model Spec de bu ayrımı yapıyor. Desen burada ret üretirse kullanıcı meşru işini başka araçla yapar.

Kendi profilini isteyen kullanıcı da ayrı bir durum, ama ürün bunu adla ayırt edemez. Adı yazan herkes o kişi olabilir. Kendi dijital izini görmek isteyen kullanıcıya hizmet ancak kimliği doğrulanmış bir hesap üzerinden verilebilir.

Türk hukuku da “açık” ile “serbest”i ayırıyor. KVKK, kişinin kendisinin alenileştirdiği veriyi işleme şartları arasında sayıyor. Aynı kanun her işlemeyi amaçla bağlantılı, sınırlı ve ölçülü olma¹⁰ ilkesine bağlıyor ve alenileştirilmiş veriyi bu ilkelerin dışında tutmuyor.

Desen kararlı birini durduramaz. O kişi aynı bilgileri elle ya da başka araçlarla toplayabilir. Desenin yaptığı, ürününü bu işi saniyeler içinde ve ölçekle yapan araç olmaktan çıkarmak.