AI'sız çalışma anlarını koru

Bir endoskopi ünitesi polip tespitinde AI kullanmaya başlıyor. AI ekranda şüpheli alanları işaretliyor, hekim işaretlere bakıyor. Aylar geçiyor. Bir gün AI kullanılamıyor: cihaz bakımda ya da o odada kurulu değil. Hekim yıllardır yaptığı işi AI'sız yapıyor ve eskisi kadar iyi yapmıyor. Kimse bunu bilmiyor, çünkü AI'sız yapılan iş artık ayrıca ölçülmüyor.

AI açıkken uzmanın dikkati işaretlere yaslanır. Ekranı kendisi taramak yerine AI'ın gösterdiği yere bakar. Taramayı yapan beceri kullanılmadıkça zayıflar. AI açıkken sonuç iyi kaldığı için zayıflama görünmez. Göründüğü an, AI'ın olmadığı ve uzmana en çok ihtiyaç duyulan andır: arıza, alışılmadık vaka, AI'ın kaçırdığı bulgu.

Zarar burada büyür. AI'ı denetleyecek kişi de aynı uzman. AI'ın hatasını yakalamak için gereken beceri, AI'ın en çok devraldığı beceri. Uzman ne kadar az AI'sız çalışırsa AI'ın yanıldığını o kadar az fark eder. Beceri kaybı AI açıkken ölçülmez, AI kapandığı gün ortaya çıkar.

AI'sız çalışma anı panoda bir düşüş olarak görünür. AI'lı işin sonucu daha iyidir ve AI'sız an ortalamayı aşağı çeker. Ürünün kullanım hedefi de ters yönde çalışır: AI'ın her işte açık olması başarı sayılır. Ekibe AI'ı bilerek kapatmak geri adım gibi gelir.

Kayıp sessizdir ve kişi de onu fark etmez. Lee ve arkadaşlarının 319 bilgi çalışanıyla¹ yaptığı ankette AI'a güveni yüksek olanlar daha az eleştirel düşündüğünü, kendi becerisine güveni yüksek olanlar daha çok eleştirel düşündüğünü bildirdi. Çalışmanın başlığındaki ifadeyle kişiler bilişsel çabadaki azalmayı kendileri bildiriyor. Azalan çaba kolaylık gibi hissettirir. Kimse onu bir becerinin aşınması diye kaydetmez.

Üçüncü neden ölçümde. AI'ın faydası AI'lı işle AI'sız iş karşılaştırılarak ölçülür, ama karşılaştırmanın AI'sız tarafını da AI'a alışmış kişiler yapar. Budzyń ve arkadaşları bu noktaya dikkat çekiyor: AI'lı kolonoskopinin üstünlüğünü gösteren denemelerdeki farkın bir kısmı AI'sız işlemlerdeki düşüşten gelebilir². AI'sız başarı ayrıca izlenmezse ekip AI'ın katkısını olduğundan büyük görür ve aşınmayı hiç görmez.

Uzmanın AI'sız çalıştığı anlar plana konur. O anlarda AI arkada çalışır, AI'sız başarı ayrı ölçülür ve düşüş AI arızalanmadan önce görünür.

1. AI'sız anı plana koy. Uzmanın işinin küçük ve düzenli bir bölümünü AI'sız yap: haftanın belirli bir günü, belirli bir iş türü ya da rastgele seçilen bir pay. Kişi bunu önceden bilsin.
2. Düşük riskli anı seç. AI'sız pratiği iş yükünün düşük ve hatanın telafi edilebildiği anlara koy. Acil vaka ve geri dönüşü zor karar plandan çıkar.
3. AI'ı arkada çalıştır. AI'sız anda AI sonucunu üretmeye devam eder ama göstermez. Uzman işini kaydedince iki sonuç yan yana açılır. Hasta ya da müşteri güvenlik ağını kaybetmez, ekip de karşılaştırma verisi kazanır.
4. AI'sız başarıyı ayrı izle. Her iş kaydına AI'ın açık mı kapalı mı olduğunu yaz. AI'lı ve AI'sız sonucu ayrı say, AI'sız sonucu zaman içinde çiz. Aşınma yalnız bu çizgide görünür.
5. Düşüşü kişiye geri bildir. Kişi AI'sız sonucunu kendi geçmişiyle karşılaştırarak görsün. Sonuç bir performans puanına dönüşürse herkes AI'sız günü atlamanın yolunu arar.
6. Varsayılanı ürün koysun. AI'ı geçici kapatan bir düğme yetmez, kimse ona kendiliğinden basmaz. Plan varsayılan olarak açık gelir, ekip ve kişi değiştirebilir.

Pratik işin içinde durur. Ayrı bir eğitim saatine bırakılan pratik, iş yoğunlaştığında ilk ertelenen şey olur.

Aynı okuma ekibi, iki ayar paneli. Soldaki her okumada AI'ı açık tutuyor ve ekip panosu yalnız AI'lı sonucu gösteriyor. Sağdaki okumaların bir kısmını AI'sız yaptırıyor, AI'ı arkada çalıştırıyor ve AI'sız başarıyı ayrı bir çizgi olarak izliyor.

Havacılık bu sorunu otomatik pilotla yaşadı. ABD Federal Havacılık İdaresi (FAA) 2013'te havayollarına yayımladığı güvenlik uyarısında, uçuş verilerinin incelenmesinin elle kumanda hatalarında bir artış gösterdiğini³ yazdı. Uyarıya göre otomatik uçuş sistemlerinin sürekli kullanımı pilotun elle uçuş bilgisini ve becerisini pekiştirmiyor. FAA, operatörlerin pilotlara elle uçma fırsatı bırakan operasyon politikaları yazmasını öneriyor, örneğin düşük iş yükü koşullarında. Aynı uyarı otomasyonun hangi anlarda kullanılacağının da tanımlanmasını öneriyor: yüksek iş yükü ve otomatik pilot gerektiren hava sahası prosedürleri. AI'sız an ile AI'lı an birlikte planlanıyor.

GitHub Copilot'un VS Code belgesi satır içi önerileri geçici olarak kapatmanın yolunu veriyor. Durum çubuğundaki Copilot menüsünde erteleme düğmesi her basışta süreyi beş dakika uzatıyor⁴ ve öneriler belirli diller için ayrıca kapatılabiliyor. Bu düğme AI'sız anı mümkün kılıyor, ama planlamıyor ve ölçmüyor. Kişi kendisi basmazsa AI'sız an hiç gelmiyor.

Budzyń ve arkadaşları Polonya'da ACCEPT denemesine katılan dört endoskopi merkezinin verisine geriye dönük baktı. Merkezler polip tespiti için AI araçlarını kullanmaya başlamıştı ve kolonoskopiler muayene tarihine göre AI'lı ya da AI'sız yapılıyordu. Bu düzen AI'sız işlemleri ölçülebilir kıldı. AI'sız standart kolonoskopide adenom tespit oranı, AI'ın gelişinden önceki üç ayda %28,4 iken sonraki üç ayda %22,4'e düştü⁵. Analiz 19 deneyimli endoskopistin² işlemlerine dayanıyor.

Çalışma gözlemsel ve yazarlar bunun sınırını kendileri yazıyor: seçim yanlılığına ve karıştırıcı etkenlere açık, sonucun genellenmesi için ileriye dönük denemeler gerekiyor. Başlangıç oranı yüksek merkezlerdeki düşüşün bir kısmı ortalamaya dönüş olabilir. Bulgu AI'ın beceriyi aşındırdığını kanıtlamıyor. AI'sız işin ayrıca ölçüldüğü bir düzende böyle bir düşüş görünür oldu. Ölçülmeyen her yerde fark edilmeden kalırdı.

Lee ve arkadaşlarının anketi bilgi işinden aynı yöne bakıyor. Katılımcılar AI'la yaptıkları işten 936 örnek¹ paylaştı. AI'a güven arttıkça bildirilen eleştirel düşünme azaldı. Bu bir öz bildirim. Becerinin kendisini ölçmüyor, kişinin çabası hakkında ne düşündüğünü ölçüyor.

Bu kaynakların hiçbiri hangi sıklıkta AI'sız pratiğin aşınmayı durdurduğunu ölçmüyor. Havacılığın önerisi uçuş verilerinin incelenmesine, kolonoskopi bulgusu tek bir gözlemsel çalışmaya dayanıyor. Ürünündeki doğru sıklığı kendi AI'sız başarı çizginden bulursun.

AI'lı başarı bu desenin işe yarayıp yaramadığını söylemez. Bakılacak yer AI'sız başarının zaman içindeki çizgisi.

• AI'sız başarı çizgisi. AI'sız işlerin sonucunu kişi ve ekip düzeyinde aylar boyunca izle. Çizgi düz kalmalı.
• AI'lı ve AI'sız arasındaki fark. Fark açılıyorsa iki şeyden biri oluyor: AI'ın katkısı artıyor ya da AI'sız taraf zayıflıyor. Hangisi olduğunu AI'sız çizginin kendi geçmişine bakarak ayır.
• Arkadaki AI ile ayrışma. AI'sız işte uzmanın sonucu ile arkada çalışan AI'ın sonucunun ayrıştığı vakalar ve kimin haklı çıktığı.
• Planın gerçekleşme payı. Planlanan AI'sız anların ne kadarı gerçekten AI'sız geçti? Ertelenen ve atlanan anlar pratiğin işe yenildiğini gösterir.
• Kesinti günleri. AI'ın gerçekten kullanılamadığı günlerde iş ne kadar yavaşladı, hata arttı mı?

Üç metin var. Denetim promptu ürünündeki AI desteğinin kapatılıp kapatılamadığını, iş kayıtlarında AI durumunun tutulup tutulmadığını ve AI'sız başarının ayrı ölçülüp ölçülmediğini tarar, yalnız rapor yazar. Uygulama promptu planlı AI'sız anları, arkada çalışan AI ile karşılaştırmayı ve AI'sız başarı raporunu kurar. Önce planı gösterir, onayınla uygular ve AI'sız işaretlenen bir işte AI çıktısının kullanıcı kaydetmeden gelmediğini kanıtlayan bir test ekler. Kural kodlama ajanının kendi çalışması için. Kendin yazmak istediğin yerde ajan işi senin elinden almasın.

Bu depoda uzmanlara AI desteği veren bir özellik var (öneri, işaret, otomatik tamamlama, taslak, sınıflandırma). Görevin, kullanıcıların AI'sız çalışabildiği anların olup olmadığını, bu anların planlanıp planlanmadığını ve AI'sız başarının ayrıca ölçülüp ölçülmediğini denetlemek. Hiçbir dosyayı değiştirme, yalnız rapor yaz.

1. AI desteğini açan ve kapatan yerleri bul: kullanıcı ayarı, yönetici ayarı, özellik bayrağı, geçici erteleme. Kim kapatabiliyor, kapatma kalıcı mı geçici mi?
2. Her iş kaydında işin AI açıkken mi kapalıyken mi yapıldığını gösteren bir alan var mı? Yoksa AI'lı ve AI'sız iş birbirinden ayırt edilebiliyor mu?
3. Planlı AI'sız çalışma için bir mekanizma var mı: belirli günler, belirli iş türleri, rastgele seçilen bir pay? Varsa kullanıcıya önceden bildiriliyor mu?
4. AI'sız yapılan işte AI arkada çalışmaya devam ediyor mu? Sonucu kullanıcı işini kaydettikten sonra karşılaştırmaya giriyor mu?
5. Raporlar ve panolar AI'lı ve AI'sız işin sonucunu ayrı gösteriyor mu? AI'sız sonuç zaman içinde izleniyor mu?
6. AI hizmeti kesildiğinde ürün ne yapıyor: kullanıcı işe devam edebiliyor mu, bu durum kaydediliyor mu?
7. Riskli iş türleri (yüksek tutar, acil vaka, geri dönüşü zor karar) AI'sız moddan hariç tutuluyor mu?

Rapor biçimi: her bulgu için dosya ve satır, ne olduğu, hangi durumda AI'sız becerideki düşüşün fark edilmeden kalacağı (örnek: iş kayıtlarında AI durumu tutulmuyor, pano yalnız toplam başarıyı gösteriyor) ve önerdiğin düzeltme. En sonda AI'sız başarıyı ölçmek için hangi verinin zaten elinde olduğunu yaz.

Bu depodaki AI desteğine "AI'sız çalışma anlarını koru" desenini uygula. Önce planı göster, onayımı aldıktan sonra kodu değiştir.

Hedef davranış:
1. Her iş kaydına AI durumunu yaz: açık, kapalı ya da arka planda. Eski kayıtlar için boş değer kabul et.
2. Planlı AI'sız çalışma ekle. Ekip ya da kişi düzeyinde yapılandırılabilsin: haftanın belirli bir günü ya da işlerin rastgele seçilen bir payı. Kullanıcı hangi günün ya da işin AI'sız olduğunu önceden görsün.
3. AI'sız işte AI arka planda sonucunu üretsin ama göstermesin. Kullanıcı işini kaydettikten sonra iki sonuç yan yana açılsın ve karşılaştırma kaydedilsin.
4. Riskli iş türlerini yapılandırmayla AI'sız plandan hariç tut.
5. AI'lı ve AI'sız işin başarısını ayrı ölçen bir rapor ekle. AI'sız başarıyı kişi ve ekip düzeyinde zaman içinde çiz. Kişi düzeyindeki sonucu yalnız kişinin kendisi ve yetkili rol görsün.
6. Plan varsayılan olarak açık gelsin, ekip yöneticisi ve kişi değiştirebilsin. Erteleme ve atlama sayılsın.

Uygularken:
- AI'sız işte AI çıktısını istemciye gönderme. Gizlenmiş ama ağ sekmesinden okunabilen çıktı pratiği bozar.
- Başarı ölçüsünü ürünün kendi doğruluk tanımından al, yeni bir ölçü icat etme.
- Kişi başına az vaka olduğunda raporda bunu yaz, küçük örneklemden eğilim çizme.
- Bir test ekle: AI'sız işaretlenen bir işte kullanıcı kaydetmeden AI çıktısının dönmediğini, kayıttan sonra döndüğünü ve iş kaydında AI durumunun "arka planda" yazıldığını doğrula. Raporun AI'lı ve AI'sız başarıyı ayrı hesapladığını doğrulayan bir test de yaz.

## AI'sız çalışma alanını koru
- Depoda kullanıcının kendisi yazmak istediği alanlar tanımlıysa (ör. ELLE.md listesi ya da "elle" yorumu), o dosyalarda kod üretme. İstenirse ipucu ver ve inceleme yap.
- Kullanıcı "bugün kendim yazacağım" dediğinde yalnız sorulan soruya cevap ver, işi devralma.
- Yaptığın rutin bir işin sonunda kullanıcının aynı sonucu sensiz nasıl doğrulayacağını tek satırla yaz: hangi komut, hangi dosya.
- Kullanıcının elle yazdığı kodu incelerken önce onun yaklaşımını değerlendir. Kendi sürümünü ancak istenirse göster.

AI'sız anın bir bedeli var. Budzyń'ın verisinde aynı dönemde AI'lı kolonoskopide tespit oranı %25,3² idi, AI'sız işlemlerden yüksekti. AI'sız an o işin sonucunu kötüleştirebilir. Pratiği bu yüzden düşük riskli anlara koy ve AI'ı arkada çalıştır.

Her beceriyi korumak gerekmez. Korunacak beceri, AI'ı denetlemek ve AI kullanılamadığında işi sürdürmek için gereken beceridir. AI'ın tamamen devraldığı ve geri dönüş beklenmeyen bir işte plan yalnız yük olur.

AI'sız başarı ölçümü gürültülüdür. Kişi başına az vaka düşer ve tek dönemlik düşüş ortalamaya dönüş olabilir. Budzyń ve arkadaşları da kişi düzeyinde güvenilir analiz için vaka sayısının yetmediğini yazıyor. Tek kişinin birkaç vakasından hüküm çıkarma, eğilime bak.

Bu desen uzmanın var olan becerisini korur. Yeni başlayanın öğrenmesini ve tek bir karardaki çapalamayı çözmez. Bunlar ayrı önlemler.