Yerel AI yardımcılarımızın en can sıkıcı özelliklerinden biri, her küçük adım için sürekli izin istemeleridir. Örneğin basit bir görevi gerçekleştirmek istediğinizde — "Bu PDF'i oku ve içeriğini özetle" — ajanınız önce mantıklı bir ilk adım atıyor, ardından onay istiyor, komutu çalıştırıyor ve hemen ardından bir sonraki adım için tekrar onay talebinde bulunuyor. Tek bir görev, sürekli onay taleplerinden oluşan bir kısır döngüye dönüşüyor.
Onay döngüsü güvenli ama kullanışsız hale geldiğinde
Yerel bir AI ajanından yardım alırken, onun komut çalıştırmadan, dosya yazmadan, uygulamaları açmadan ya da masaüstüne dokunmadan önce duraklamasını istemek mantıklıdır. Ancak gerçek dünya görevleri nadiren tek bir araç çağrısından oluşur.
Bir PDF dosyasını okumak, Python'un yüklü olup olmadığının kontrol edilmesini, bir dönüştürücü bulunmasını, dönüştürücünün çalıştırılmasını, çıktı metninin okunmasını ve ardından özetlenmesini gerektirebilir. Masaüstünde bir görevin yerine getirilmesi ise pencereye odaklanmayı, metin girmeyi, düğmeye basmayı ve sonucu doğrulamayı içerebilir. Her adımda aynı türden bir onay sorulduğunda, kullanıcı artık risk değerlendirmesi yapamaz hale gelir ve sadece onayları tıklayarak ilerlemeye başlar. Bu da güvenlik sistemini tamamen işlevsiz hale getirir — kullanıcı artık uyarıları ciddiye almaktan vazgeçmiştir.
Hatanın kökeni: Onayın tekil bir olay olarak görülmesi
CliGate adlı yerel kontrol düzleminde kullanılan eski akış, her araç çağrısı için ayrı bir onay gerektiriyordu:
- Yardımcı araç seçiyor
- Politika onay gerektirdiğini söylüyor
- Kullanıcı onaylıyor
- Araç çalışıyor
- Yardımcı devam ediyor
- Bir sonraki araç tekrar onay istiyor
Bu teknik olarak doğruydu — her araç çağrısı kendi onayını gerektiriyordu. Ancak kullanıcının niyetinin şeklini göz ardı ediyordu. Kullanıcı "bir küçük adımı çalıştır" için onay vermiyordu. Önemli bir görevin tamamlanması için onay veriyordu.
Yeni yaklaşım: Görev odaklı güven
Bu sorunu çözmek için, sohbetin ilk onayından sonraki tüm adımlar için farklı bir davranış uygulandı. Kullanıcı görevdeki ilk çalıştırma aracı için onay verdikten sonra, CliGate sohbetin devamı boyunca onay gerektirmeyen bir modu etkinleştiriyor. Yardımcı, gerçek araç sonuçlarını devam eden işleme aktararak, onayın kendisinin görevi tamamladığını varsaymak yerine gerçek durumdan hareketle çalışmaya devam ediyor.
Bu sistemde kullanıcı, onay gerektiren durumlara geri dönmek için /safe komutunu kullanabilir. Bu, hem süreci basitleştiriyor hem de kullanıcının dikkatini önemli sınırlara odaklamasını sağlıyor.
Devam ettirilen işlem gerçek sonuçları taşımalı
Bu değişikliklerin yanı sıra, sistemin çalıştırılan komutun gerçek sonuçlarını da devam ettirmesi gerekiyordu. Kullanıcı onay verdiğinde, sistem sadece "onaylandı" demekle kalmamalı, aynı zamanda önceki araç çağrısının onaylandığını, çalıştırıldığını ve gerçek bir sonuç ürettiğini de iletmeliydi. Bu sayede yardımcı, aynı onayı tekrar istemekten veya görevin neden çalıştırıldığını unutmaktan kaçınıyor.
Artık akış çok daha doğal hale geldi:
- Riskli sınırlar için sadece bir kez onay isteme
- İlk adımı çalıştırma
- Görevi gerçek gözlemlerle devam ettirme
- Kullanıcı
/safekomutuyla tekrar onay moduna geçmediği ya da yeni bir sınır ortaya çıkmadığı sürece kesintisiz devam etme
Bu değişiklik, onay sistemini devre dışı bırakma anlamına gelmiyor. Sistemin, onayın ne için verildiğini hatırlaması anlamına geliyor.
Bir dil hatası da ortaya çıktı
Bu devam ettirme sistemi aynı zamanda, görünüşte küçük ama oldukça rahatsız edici bir sorunu da ortaya çıkardı. Devam ettirme mesajları sistem tarafından üretiliyor ve İngilizce yazılıyordu. Orijinal kullanıcı görevi Çince gibi başka bir dildeyse, sistemin devam ettirme mesajı bazen en son "kullanıcı" metni olarak algılanıyor ve bir sonraki onay istemi İngilizce olarak oluşturuluyordu. Bu da ilk onayın Çince, sonraki onayların İngilizce olduğu karma bir dil akışına yol açıyordu.
Bu sorun, sistem tarafından üretilen devam ettirme mesajlarının yanıt dilini belirlememesinin basit bir düzeltmesiyle çözüldü. Artık yardımcı, yanıt dilini seçmek için sohbetteki en son gerçek kullanıcı mesajına bakıyor. Bu detay, çok adımlı görevlerde "bu yardımcı beni takip ediyor" hissiyatıyla "bu yardımcı kendi sisteminden kaynaklanan sorunlara tepki veriyor" hissiyatı arasındaki farkı oluşturuyor.
Uygulanması gereken temel kural
AI ajanlarında onay sistemlerini tamamen kapatmak ya da her adımda zorunlu kılmak arasındaki orta yolun kullanışlı olduğunu düşünüyorum. Yerel araçlar için faydalı orta yol, görev odaklı güvendir:
- Anlamlı bir sınırı geçmeden önce onay isteme
- Mevcut görevi onaylama kararını hatırlama
- Sıkı moduna geri dönmenin açık bir yolunu sunma
- Sistem devam ettirme mesajlarını kullanıcı niyetiymiş gibi göstermekten kaçınma
Artık CliGate adlı yerel kontrol düzleminde onayları bu şekilde şekillendiriyorum. CliGate, Claude Code, Codex CLI, Gemini CLI, masaüstü otomasyonu, kanallar ve model yönlendirme için kullanılıyor. Proje açık kaynaklıdır. Yerel ajanlar geliştiriyorsanız, onay yorgunluğunu nasıl yönetiyorsunuz: araç çağrıları bazında, görev bazında, oturum bazında mı yoksa daha farklı bir yaklaşım mı kullanıyorsunuz?
Yapay zeka özeti
Yerel AI ajanları için izin sistemlerini yeniden düşünmek gerekiyor. Görev odaklı onaylar ve akıllı devam ettirme yöntemleriyle kullanışlı ve güvenli bir deneyim oluşturun.
