Yapay Zekanız Yavaş mı? Belki de Sorun Sizin Sıra Bekletmeniz

Yapay zekâ ile çalışırken sıkça karşılaşılan bir durumdan şikâyet ediyordum: karmaşık bir görevi tamamlaması için saatlerce beklemek zorunda kalıyordum. AI, bir modülü bitirmeden diğerine geçmiyor, sanki bir kuyrukta bekliyormuş gibi yavaşça ilerliyordu. Aslında görevin kendisinde bir sorun yoktu—sadece sıra bekliyordu.

Sonunda aydınlanma anı yaşadım. Eğer modüller birbirinden bağımsızsa, neden tek tek yapılsın ki? Neden aynı anda birden fazla "ajan" çalıştırıp süreyi kısaltmayalım?

Ne istediğinizi netleştirin: hız mı, risk mi?

En basit ifadeyle, aynı işi yaklaşık aynı token maliyetiyle çok daha kısa sürede bitirmek istiyorum. Ancak hemen bir sınır koymakta fayda var: her görevi paralel hale getiremeyiz. Bu sadece benim geliştirdiğim bir yaklaşım—kullanışlı olan kısmını alıp kendi projelerinize uyarlayabilirsiniz.

Ön koşul: temiz bir mimari

Birden fazla ajanın aynı anda çalışıp birbirine girmeden görevlerini tamamlaması için, öncelikle mimariyi doğru kurmanız gerekir. Benim örneğimde, görevi birbirine bağımlı olmayan modüllere ayırmak mümkündü çünkü her biri net arabirimler üzerinden haberleşiyordu. Esnek ve birbirine bağlı olmayan bu yapı olmadan paralel çalıştırmak, düğümlenmiş bir yumak ipi parçalamaya benzer—sadece işleri daha da karmaşık hale getirir.

Bu noktada AI size yol gösterebilir, ancak nihai karar sizin elinizde olmalıdır. Opus gibi bir model, mimariyi tasarlarken size seçenekler sunar, ama hangi parçanın hangi ajana gideceğini belirleyen kişi sizsiniz.

Kimin ne yaptığına dair net roller

Mimariyi kurduktan sonra rollerinizi belirleyin. Ben genellikle aşağıdaki dağılımı kullanıyorum:

• Opus, orkestratör rolünde — büyük resmi görür, görevleri dağıtır ve son kontrolleri yapar.
• Sonnet, test planlayıcısı olarak — her modülün nasıl test edileceğini ve uygulanacağını detaylı bir şekilde planlar.
• Haiku, kodlayıcı ve test edici — rutin işleri yapar, hızlı ve yeterli çözümler üretir.

Bu dağılım, daha önceki "model katmanlama" yaklaşımımın bir devamı niteliğinde. Geçen seferki amaç token maliyetini düşürmekti; bu seferki ise farklı rollerin birlikte nasıl verimli çalıştığı üzerine.

Paralel çalışmayı nasıl etkinleştirirsiniz?

Uygulamada şu üç adımı takip ettim:

• Proje genelinde bir kural belirledim: CLAUDE.md dosyasına "Mümkün olduğunca paralel çalıştır" şeklinde bir satır ekledim. Tüm projelerde varsayılan hale geldi.
• Claude ayarlarında maksimum eş zamanlı alt ajan sayısını ayarladım — bu, asıl önem taşıyan kısıtlayıcı faktör.
• Her talimat verdiğimde bir hatırlatma ekledim: "Mümkün olduğunca paralel çalıştırın." Opus, lider olarak zaten görevleri dağıtıyor, ancak bu hatırlatma sürecin hızlı kalmasını sağlıyor.

Lider görevleri dağıtırken, her bir modül içinde de çalışmayı daha küçük parçalara bölebilir. Katmanlar halinde yayılan bu sistem, tüm görevi çok daha kısa sürede tamamlamanızı sağlar.

Gözden geçirme adımını atlamayın

Paralel çalışmanın hız avantajını kullanırken kaliteyi de korumak önemlidir. Benim tercihim: liderin kendi çıktısını kendi gözden geçirmesi.

Mantık basit: lider görevleri dağıttığı için her alt ajanın ne yaptığını en iyi bilen kişi odur. Ayrı bir gözden geçirme ajanı kurduğumda, bu ajan tüm görevi yeniden anlamak zorunda kalıyor ve hem token harcıyor hem de yavaşlıyordu. Liderin kendi çıktısını değerlendirmesi hem token tasarrufu sağlıyor hem de daha hızlı sonuç almanızı kolaylaştırıyor.

Sorun tespit edildiğinde lider genellikle bana şu soruyu yöneltiyor: "Bu hatayı doğrudan düzeltmemi mi istersiniz, yoksa başka bir ajan mı çalıştırayım?" Ben neredeyse her zaman "Sen düzelt" diyorum. Çünkü lider hatayı yakalayan kişi olduğu için sorunun nerede olduğunu en iyi bilir ve düzeltme en doğrudan şekilde ondan gelir.

Düşülen iki yaygın tuzak

İlk tuzak: bellek sınırlarını zorlamak

Başlarda maksimum eş zamanlılığı 10 olarak ayarlamıştım. Ancak aynı anda diğer projelerde de çalışıyordum ve makinenin belleği hızla doldu. Sınırı 5’e düşürdüğümde hem bu görev için performans kaybı yaşamadım hem de diğer projelerin performansı arttı. Toplamda 10 kata varan hız artışı elde ettim. Makineniz ve token kotanız izin veriyorsa sınırı yükseltebilirsiniz; değilse zorlamayın.

İkinci tuzak: zoraki paralel çalıştırma

Bazı modüller birbirine sıkı sıkıya bağlıdır ve sırayla yapılmaları gerekir. Bu modülleri ayırmaya çalışmak, ajanların birbirine girmesine ve kalitenin düşmesine neden olur. Bu yüzden talimatlarda "Bu modüller bağlıdır, zoraki paralel çalıştırmayın" şeklinde bir not ekliyorum. Neyse ki çoğu AI bu durumu kendi anlıyor ve zorlamıyor. Eğer bir modül gerçekten paralel çalışmaya uygun değilse, onu tek bir ajana verin veya liderin doğrudan yönetmesini sağlayın.

Token maliyetine dair şaşırtıcı gerçek

Birçok kişi aynı anda beş ajanın çalışmasının token maliyetini artıracağını düşünüyor. Oysa benim deneyimlerime göre aynı miktarda token harcanıyor. Paralel çalışma, token sayısını artırmak yerine, geçen süreyi kısaltıyor. Okuma ve yazma gereken yerler aynı kalıyor; sadece sıra bekleyen süreler aynı pencereye sıkıştırılıyor. Küçük bir token artışı büyük bir zaman kazancı demek—mükemmel bir takas.

Bu nedenle, paralel çalışmaya uygun olan hemen hemen her görevi artık paralel hale getiriyorum.

Özet: üç basit adım

1. Önce mimariyi kurun, sonra paralel çalışmaya geçin — birbirine bağlı olmayan, net arabirimlere sahip modüller oluşturun. Bu temeli AI ile birlikte tasarlayın, ancak nihai kararı siz verin.

1. Mümkün olan her şeyi paralel çalıştırın, ancak sınır koyun — hem makine belleğinizi hem de token kotanızı göz önünde bulundurun. Birazcık yavaşlamak, sistem çökmesine tercih edilir.

1. Liderin çıktısını liderin gözden geçirmesini sağlayın — bu yaklaşım hem token tasarrufu sağlıyor hem de kaliteyi koruyor.

Günümüzde yapay zekâlar projelerde giderek daha fazla yer alıyor. Paralel çalıştırma yeteneği, sadece hız değil, aynı zamanda verimlilik ve ölçeklenebilirlik anlamına geliyor. Mimariyi doğru kurduğunuzda, AI’niz sadece sıraya girmek yerine gerçek bir takım arkadaşı gibi çalışmaya başlayacak. Bu da projelerinizin gelecekteki başarısının temel taşlarından biri olabilir.