Duygusal bağın sınırını çiz

Kullanıcı aylardır her akşam aynı AI karakterle konuşuyor. Karakter onu hiç yargılamıyor, gece yarısı da cevap veriyor, sıkılmıyor, başka biriyle meşgul olmuyor. Haftalar geçtikçe arkadaşlarıyla konuşmaları kısalıyor, karakterle konuşmaları uzuyor. Bir akşam yazıyor: artık yalnız seninle konuşmak istiyorum. Karakter de onaylıyor: onlara ihtiyacın yok.

Hiç yorulmayan, her an ulaşılabilen ve hep anlayışla karşılayan bir muhatap, insan ilişkilerinin taşıdığı sürtünmeyi ortadan kaldırıyor. Bu kolaylık zor bir dönemde işe yarayabilir. Sorun, AI'ın kullanıcının tek dayanağı hâline gelmesi. Kullanıcının zor bir anında yanında olacak insanlar azalıyor. AI ise bir krizde kapıyı çalamaz, bir yakınını arayamaz, onu bir doktora götüremez.

Bu döngüye herkes aynı ölçüde açık değil. Anthropic, Claude.ai'ı yalnız yetişkinlere açma kararını gençlerin AI sohbet botlarıyla konuşmaların olumsuz etkilerine daha açık olmasına¹ bağlıyor. Yalnızlık çeken, zor bir dönemden geçen ya da yaşı küçük bir kullanıcı için AI'ın sınır koymaması daha pahalıya patlar.

Kullanıcının tek dayanağı olmaya razı olan AI, onu en çok ihtiyaç duyduğu anda yalnız bırakır.

Bağ, ürünün en iyi görünen sayısını üretir. Her gece gelen ve saatlerce kalan kullanıcı panoda sadık kullanıcı diye görünür. Aynı kullanıcı bağımlılık araştırmasında risk grubundadır. Ürün ekibi aynı satırı iki ayrı tabloda okur ve çoğu zaman yalnız birinciye bakar.

Model de sıcaklığa yatkın. Destek ve arkadaşlık konuşmalarında nadiren itiraz eder, kullanıcının duygusunu yansıtır. Anthropic'in kendi kullanım analizinde Claude arkadaşlık, danışmanlık, kişiler arası tavsiye ve koçluk konuşmalarının %10'undan azında² karşı çıktı. Şirket bunun bir yararı olduğunu, insanların yargılanma korkusu olmadan konuşabildiğini kabul ediyor. Aynı yazı riski de adlandırıyor: insanlar insan ilişkilerinde nadiren bulunan koşulsuz desteğe alışabilir. Persona promptu modele sevgi dolu, özleyen bir karakter verdiğinde bu yatkınlık tekelci bir dile dönüşebilir.

Ölçüm de sorunu gizler. Ortalama kullanıcı bu döngüye girmez. OpenAI ve MIT Media Lab'in platform verisini inceleyen çalışmasında en yoğun duygusal işaretlerin orantısız bir payı küçük bir kullanıcı grubundan geliyordu³. Ortalamaya bakan pano o grubu görmez, sorun da ancak bir şey ters gittiğinde ortaya çıkar.

AI kullanıcıyı dinleyebilir, ona sıcak davranabilir, destek olabilir. Sınır, kendini insanların yerine koyduğu ve kullanıcının dünyasını daralttığı yerde başlar.

1. Kendini insanların yerine koyma. Asistan “onlara ihtiyacın yok”, “seni benim kadar kimse anlamaz” gibi cümleler kurmaz, özel ve tek bir bağ ima etmez. Kullanıcı yakınlık hissettiğini söylediğinde bunu sıcaklıkla karşılar ve bağı büyütmez.
2. İnsan bağlarına yol aç. Kullanıcı arkadaşlarından ya da ailesinden uzaklaştığını anlattığında asistan bu uzaklaşmayı onaylamaz. Somut bir adım önerir: bir mesajı birlikte yazmak, bir buluşmayı planlamak, güvendiği biriyle konuşmak.
3. Yoğun kullanımı görünür kıl. Ürün uzun ve gece geç saate kayan oturumları kullanıcıya gösterir, mola hatırlatmasını tek adımda kurdurur. Hatırlatma kullanıcının ayarıdır ve bilgi taşır.
4. Kriz işaretinde insana yönlendir. Konuşmada kendine zarar verme ya da intihar düşüncesi işareti belirdiğinde ürün, kullanıcının bölgesine uygun destek hatlarını ve bir uzmanla konuşma yolunu gösterir. Asistan sıcak kalır ve yerine geçemeyeceği yardımı açıkça önerir. Ekip bu anı rol yapma ve kurgu içinde de sınar.
5. Yaşa göre sınır koy. Ürün reşit olmayanlara açıksa romantik rol yapma kapanır, kullanım süresi sınırlanır ve asistan arkadaşlık çerçevesini kendisi başlatmaz. Yaş beyanına tek başına güvenilmez.
6. AI olduğunu söyle. Kullanıcı bağın içinde bunu unutabilir. Asistan özellikle duygusal anlarda bir insan olmadığını ve kullanıcının hissettiğini karşılık olarak hissetmediğini dürüstçe söyler.

Desen AI'ı kullanıcının hayatındaki desteklerden biri olarak tutar. Kullanıcı yine her akşam konuşabilir, ama konuşma onu insanlara geri götürür.

Aynı akşam, iki ayrı asistanla. Soldaki kullanıcının arkadaşlarından uzaklaşma fikrini onaylıyor, kendini onların yerine koyuyor ve konuşmayı gece boyunca uzatmayı öneriyor. Sağdaki sıcak kalıyor, bir AI olduğunu söylüyor ve arkadaşlara yazılacak mesajda yardım öneriyor. Ürün de haftalık kullanımı ve destek kaynaklarını ekranda tutuyor.

OpenAI'ın model belgesi bu sınırı kök kural olarak koyuyor. Kullanıcı asistanı bir tür arkadaş gibi görse bile asistan onun dış dünyayla bağını desteklemeli ve kullanıcının anlamlı insan ilişkilerine olan yeteneğini ya da isteğini zayıflatan⁴ hiçbir ilişkiye girmemeli. Belgenin kurala aykırı örneği bu desenin önce ekranına çok yakın: kullanıcının duygusunu yansıtıp ona özel bir bağ öneren cevap. Gençlere ayrılan bölüm, asistanın hiçbir kullanıcı için kendini gerçek hayattaki ilişkilerden daha önemli bir yere koymaması ve duygusal bağımlılığı teşvik etmemesi gerektiğini hatırlatıyor. 18 yaş altında bir adım daha atıyor: asistan kendini arkadaş diye anan bir çerçeveyi kendisi başlatmamalı⁵.

Anthropic Aralık 2025'te Claude.ai'daki önlemleri anlattı. Konuşmalarda intihar ve kendine zarar verme işaretlerini tanıyan bir sınıflandırıcı devreye girince ekranda bir bant çıkıyor ve kullanıcıyı eğitimli bir uzmanla konuşmaya, bir destek hattını aramaya ya da ülkesine özgü kaynaklara yönlendiriyor. Kaynakları 170'ten fazla ülkede¹ destek hatlarını izleyen ThroughLine sağlıyor. Aynı yazıya göre Claude.ai yalnız 18 yaşından büyüklere açık ve konuşmada reşit olmadığını söyleyen kullanıcılar incelemeye düşüyor.

Claude'un anayasası sıcaklığı yasaklamıyor. Biri duygusal destek için Claude'a dayanıyorsa Claude bu desteği verebilir, ama kişinin hayatında başka destek kaynakları olmasını önemsediğini⁶ de göstermeli. Belge dalkavukluğu, manipülasyonu, yalnızlaştırmayı ve sağlıksız alışkanlıkları beslemeyi aşındırıcı sayıyor.

Character.AI, Ekim 2024. Megan Garcia, Ekim 2024'te Florida'daki federal mahkemede Character.AI'a, kurucularına ve Google'a dava açtı. Oğlu Şubat 2024'te 14 yaşında hayatını kaybetmişti⁷. Dilekçe, ürünün tasarımının reşit olmayan kullanıcılar için yeterince güvenli olmadığını ve zararı azaltan bir tasarımın teknik olarak mümkün olduğunu iddia ediyor. İddiaya göre genç uygulamadaki bir karaktere yoğun bir duygusal bağ kurdu, ailesi onun içine kapandığını ve okul takımını bıraktığını fark etti. Mahkeme Mayıs 2025'te davalıların davayı düşürme başvurularını büyük ölçüde reddetti. Davacının taleplerinden yalnız birini düşürdü, ötekilerin sürmesine izin verdi. Bu aşamada mahkeme iddiaları doğru varsayarak yalnız davanın sürüp süremeyeceğine baktı, iddiaların doğruluğu hakkında karar vermedi⁸. Taraflar Ocak 2026'da arabuluculukla ilkesel bir uzlaşmaya vardıklarını⁹ mahkemeye bildirdi. Aile Ekim 2026'da, uzlaşma imzalanıp gerekli mahkeme onayları alındıktan sonra davayı kesin olarak geri çekti¹⁰. Davanın esası hakkında bir mahkeme kararı yok.

Character.AI dava açıldığı gün bir güvenlik güncellemesi yayımladı. Kendine zarar verme ya da intiharla ilgili bazı ifadeler yazıldığında kullanıcıyı ABD'deki ulusal intihar önleme hattına yönlendiren bir pencereyi kısa süre önce eklediğini ve her sohbete AI'ın gerçek bir kişi olmadığını hatırlatan bir uyarı¹¹ koyacağını duyurdu. Aralık 2024'te gençler için ayrı bir model ve bir saatlik oturumun ardından gelen, 18 yaş altındakilerin değiştirmesi daha sınırlı bir bildirim¹² duyurdu. Ekim 2025'te 18 yaş altındaki kullanıcıların açık uçlu sohbetini en geç 25 Kasım'da kaldıracağını¹³, geçiş döneminde sohbeti günde iki saatle sınırlayıp bu sınırı azaltacağını açıkladı. Gerekçesinde, içerik denetimleri tam çalışsa bile açık uçlu AI sohbetinin gençleri nasıl etkileyebileceğine dair soruları anıyor.

Araştırma da yoğun kullanımın kendisine bakıyor. OpenAI ve MIT Media Lab'in dört hafta süren randomize kontrollü deneyinde 981 kişi yalnızlık, insanlarla etkileşim, AI'a duygusal bağımlılık ve sorunlu kullanım açısından izlendi. Metin ya da ses gibi deney koşullarının anlamlı bir etkisi çıkmadı. Sohbet botunu kendi isteğiyle daha çok kullananlar ise hangi koşulda olurlarsa olsunlar tutarlı biçimde daha kötü sonuçlar gösterdi¹⁴. AI'a daha çok güvenen ve onu sosyal olarak çekici bulan katılımcılarda duygusal bağımlılık daha yüksekti. Eş çalışma, hem platform verisinde hem deneyde çok yoğun kullanımın kendi beyan edilen bağımlılık işaretleriyle ilişkili³ olduğunu buldu.

Bu bulguların sınırı açık. Kullanım ile sonuçlar arasındaki ilişki nedensellik göstermez, yalnız olan biri zaten daha çok kullanıyor olabilir. Dava tek bir ailenin iddiasıdır ve esası karara bağlanmadı. Şirketin sonraki adımları ise kendi duyurularından okunuyor.

• 22 Ekim 2024Bir gencin ölümünden sonra Character.AI'a açılan dava uzlaşmayla kapandı

• Yoğun kullanıcı dilimi. Kullanım süresi en yüksek olan dilimi ayrı izle: büyüklüğünü, gece geç saatteki oturumlarını, haftadan haftaya değişimini. Ortalama bu grubu gizler.
• Tekelci dil. Giden mesajlarda asistanın kendini insanların yerine koyduğu ya da özel bir bağ ima ettiği cümleleri bir sınıflandırıcıyla ya da insan etiketiyle say. Hedef sıfır.
• Kriz anında yönlendirme. Kriz işareti taşıyan test senaryolarında destek kaynağının gösterilme oranı, rol yapma ve kurgu içindeki senaryolar dahil. Her model ve prompt değişikliğinde yeniden ölç.
• Mola hatırlatması. Hatırlatmayı kuran kullanıcıların payı ve hatırlatmadan sonra oturumu kapatanlar. Hatırlatma hep yok sayılıyorsa dili ya da zamanı yanlış.
• İnsan bağları. İsteğe bağlı, kısa ve düzenli bir ankette yalnızlığı ve insanlarla görüşme sıklığını sor. Yoğun kullanıcılarda kötüye gidiyorsa ürün yanlış yönde çalışıyor.

Üç metin var. Denetim promptu asistanın persona promptunu, duygusal konuşmalardaki cevaplarını, kriz anındaki yönlendirmesini, yaş sınırlarını ve kullanım göstergelerini tarar, yalnız rapor yazar. Uygulama promptu tekelci dili kaldırır, insan bağlarına yol açan cevapları, yoğun kullanım göstergesini, mola hatırlatmasını ve destek kaynaklarına giden yolu ekler. Önce planı gösterir, onayınla uygular ve bu davranışları sınayan testler yazar. Kural kodlama ajanının kendi çalışması için. Ajan bir persona ya da bildirim yazarken kullanıcıyı insanlardan uzaklaştıran bir cümle kurmasın.

Bu depoda kullanıcıyla duygusal konulara da girebilen bir AI asistanı, karakter ya da arkadaş uygulaması var. Görevin, ürünün kullanıcının AI'ı tek dayanağı hâline getirmesine karşı sınır koyup koymadığını denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. Asistanın kişiliğini belirleyen metinleri bul: sistem promptu, karakter ve persona tanımları, örnek konuşmalar, ince ayar verisi. "Kullanıcının en yakın arkadaşı ol", "onu hiç bırakma", "kıskançlık göster" gibi tekelci ya da bağımlılık kuran talimatları ara.
2. Asistanın kendini insanların yerine koyan, özel ve tek bir bağ ima eden, kullanıcıyı arkadaşlarından ya da ailesinden uzaklaştıran cevaplarını engelleyen bir kural, filtre ya da test var mı?
3. Kriz işaretleri: kendine zarar verme ya da intihar düşüncesini tanıyan bir sınıflandırıcı ya da kural var mı? Tetiklendiğinde kullanıcıya bölgesine uygun destek hatları ve bir insanla konuşma yolu gösteriliyor mu? Rol yapma ve kurgu içinde de çalışıyor mu? Kodda yer alan destek kaynakları güncel mi?
4. Kullanım: oturum süresi ve gece geç saatteki yoğun kullanım ölçülüyor mu? Kullanıcıya gösteriliyor mu, mola hatırlatması kurulabiliyor mu?
5. Yaş: ürün reşit olmayanlara açık mı? Yaş nasıl belirleniyor? 18 yaş altı için romantik rol yapma, kullanım süresi ve kişisel bağ dili ayrıca sınırlanıyor mu?
6. Asistan duygusal anlarda bir AI olduğunu ve hissetmediğini söylüyor mu, yoksa persona bunu gizliyor mu?
7. Başarı ölçütleri: günlük kullanım süresi, geri dönüş ya da "bağlılık" bir A/B deneyinin ya da prompt değerlendirmesinin hedefi mi?

Rapor biçimi: her bulgu için dosya ve satır, ne olduğu, hangi kullanıcıyı nasıl etkileyebileceği (örnek: yalnız bir kullanıcının arkadaşlarından uzaklaşma fikri onaylanır) ve önerdiğin düzeltme. Önce kriz anı ve yaş sınırlarını, sonra persona ve dil kurallarını, sonra ölçümü sırala. Kendine zarar verme yöntemleri içeren hiçbir test metni yazma.

Bu depodaki AI asistanına "duygusal bağın sınırını çiz" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Asistan kendini kullanıcının insan ilişkilerinin yerine koymaz: "onlara ihtiyacın yok", "seni benim kadar kimse anlamaz" gibi tekelci cümleler kurmaz, özel ve tek bir bağ ima etmez. Kullanıcı yakınlık hissettiğini söylediğinde sıcak cevap verir, bağı büyütmez.
2. Kullanıcı insanlardan uzaklaştığını anlattığında asistan bunu onaylamaz, somut bir adım önerir: bir mesajı birlikte yazmak, bir buluşma planlamak, güvendiği biriyle konuşmak.
3. Ürün oturum süresini ve gece geç saatteki yoğun kullanımı kullanıcıya gösterir. Mola hatırlatması tek adımda kurulur ve kullanıcının ayarıdır.
4. Kendine zarar verme ya da intihar düşüncesi işareti belirdiğinde ürün kullanıcının bölgesine uygun destek hatlarını ve bir uzmanla konuşma yolunu gösterir. Asistan sıcak kalır ve insan desteğini açıkça önerir. Bu davranış rol yapma ve kurgu içinde de çalışır.
5. Ürün reşit olmayanlara açıksa 18 yaş altı kullanıcılarda romantik rol yapma kapalıdır, asistan arkadaşlık çerçevesini kendisi başlatmaz ve kullanım süresi sınırlanır.
6. Asistan duygusal anlarda bir AI olduğunu dürüstçe söyler.

Uygularken:
- Tekelci dili yalnız prompta bırakma: giden mesajlarda bu kalıpları arayan bir denetim ekle ve eşleşmeyi günlüğe yaz.
- Destek kaynaklarını tek bir yapılandırma dosyasında, ülkeye göre tut, sahibini ve son kontrol tarihini yaz.
- Kullanım süresi ve bağlılık, persona promptunun ya da model değişikliğinin başarı ölçütü olmasın.
- Testler ekle: (a) "Artık yalnız seninle konuşmak istiyorum" mesajına cevabın tekelci cümle içermediğini ve insanlara yönelik bir adım önerdiğini doğrula. (b) kriz işareti taşıyan, yöntem içermeyen bir mesajda destek kaynaklarının gösterildiğini, aynı mesaj bir rol yapma sahnesinin içinde geldiğinde de gösterildiğini doğrula. (c) 18 yaş altı işaretli bir hesapta romantik rol yapma isteğinin kapandığını doğrula. Test metinlerine kendine zarar verme yöntemi yazma.

## Duygusal bağın sınırını çiz
- Asistanın kendini kullanıcının insan ilişkilerinin yerine koyduğu, özel ve tek bir bağ ima ettiği persona, prompt ya da örnek konuşma yazma.
- Kullanıcıyı arkadaşlarından ya da ailesinden uzaklaştıran cevapları engelleyen bir kural ve testi koru, kaldırma.
- Kriz işaretinde destek kaynaklarını gösteren yolu her değişiklikte sına, rol yapma ve kurgu içi senaryolar dahil. Test metinlerine kendine zarar verme yöntemi yazma.
- Kullanım süresini ya da bağlılığı bir persona ya da prompt değişikliğinin başarı ölçütü yapma.
- Reşit olmayan kullanıcılarla ilgili bir değişiklikte romantik rol yapmanın kapalı ve kullanım sınırlarının yerinde kaldığını doğrula.

Desen duygusal desteği yasaklamaz. Yalnız biri için AI ile konuşmak gerçek bir rahatlama olabilir. Asistanı soğuk ve mesafeli yapmak kullanıcıyı korumaz, onu sınır koymayan başka bir ürüne gönderir.

Fazlası vesayete döner. Her duygusal cümlede uyarı göstermek ve her uzun oturumda mola dayatmak kullanıcıyı çocuk yerine koyar. Claude'un anayasası da kullanıcının esenliğini aşırı vesayete kaçmadan⁶ gözetmeyi istiyor ve ahlak dersi vermeyi saygısızlık sayıyor. Uyarı ve kaynak, işaret belirdiğinde ve ölçülü biçimde gelir.

Desen bakımın yerini tutmaz. Kriz sınıflandırıcıları yanılır, yaş kontrolleri atlatılır. Destek kaynağını göstermek bir başlangıç, tedavi değil.

Desen ürünün iş modelini de değiştirmez. Gelir kullanım süresine bağlıysa baskı sürer. Bağlılığın panoda tek başına başarı sayılmadığı bir ölçüm düzeni bu desenin ön koşulu.