ERTH Stack: Masaüstü AI Ajanları için 128MB Yerel Tabanlı Mimarisi

Yerel AI ajanları geliştirmek isteyenler için masaüstü uygulamaların geleceği yerel tabanlı mimarilerde gizli. Geleneksel yöntemler —Elektron’un ağırlığı, Tauri’nin Rust zorluğu ya da Python paketleme kâbusu— artık geride kalıyor. Ben de bu sıkıntılardan kurtulmak için yeni bir yol keşfettim: ERTH Stack, yani ElectroBun, Robyn, Turso ve HTMX bileşenlerinden oluşan, yerel tabanlı, sıfır JavaScript’li bir masaüstü mimarisi.

Bu mimariyle, yerel AI ajanınızı sadece 128MB boyutunda tek bir ikili dosya olarak paketleyebiliyorsunuz. Üstelik, tarayıcı kabuğu, Python yan süreci, yerel veri tabanı ve AI işlemcisiyle tamamen bağımsız bir şekilde dağıtmak mümkün hale geliyor. Bu, yerel bilgi işlem egemenliğini yeniden kazanmanın ilk adımı olabilir.

ERTH Stack’in Dört Temel Taşı

ERTH Stack’in minimalist ve yüksek performanslı yapısını dört temel katmana ayırmak mümkün. Her bir katman, geliştirici verimliliğini korurken sistemin toplam boyutunu ve kaynak tüketimini en aza indirecek şekilde tasarlandı. İşte bu katmanlar:

[E]lectroBun (Arayüz Kabuğu) ───[HTMX]───► [H]TMX (Sıfır JavaScript Ön Yüz)
│
▼ (IPC) (HTTP) ▲
│
[R]obyn (Python Yan Süreci) ───────────► [T]urso / libSQL (Yerel Veri Tabanı)

1. [E]lectroBun: Hafif ve Hızlı Arayüz Kabuğu

Elektron’un aksine, ElectroBun OS’nin yerel WebKit motoruna (macOS’ta Cocoa WebKit, Windows’ta WebView2) doğrudan bağlanıyor. Ana süreç Bun üzerinde çalışıyor ve sadece birkaç milisaniyede başlıyor. Boşta kalan bellek tüketimi de son derece düşük kalıyor. Bu sayede, kullanıcılar uygulamayı açarken uzun bekleme süreleriyle karşılaşmıyor.

• Hız: Uygulama başlatma süresi milisaniyeler düzeyinde.
• Verimlilik: Bellek tüketimi Elektron’a kıyasla %90 daha az.
• Çapraz platform: macOS, Windows ve Linux’ta aynı kod tabanıyla çalışıyor.

2. [R]obyn: Rust Tabanlı Python Yan Süreci

Python, yerel AI mantığı, LLM yükleme ve veri tabanı orkestrasyonu için kullanılıyor. Ancak Python’ın ağırlığıyla başa çıkmak için Robyn adlı yüksek performanslı bir async Python web çatısı tercih edildi. Robyn, Rust tabanlı bir çalışma zamanı üzerinde inşa edildiği için, Python’un yavaşlığını telafi ediyor. Robyn, Ana süreç olan ElectroBun tarafından dinamik olarak başlatılıyor ve Port 0 kullanılarak diğer uygulamalarla çakışmaların önüne geçiliyor.

• Performans: Robyn, Python’un standart web çatılarından %30 daha hızlı.
• Esneklik: Python’un tüm kütüphanelerini kullanmaya devam edebilirsiniz.
• Güvenlik: Rust tabanlı çalışma zamanı sayesinde bellek güvenliği artırılıyor.

3. [T]urso: Yerel ve Bulut Senkronizasyonlu Veri Tabanı

ERTH Stack’te yerel veri tabanı olarak libSQL (Turso) kullanılıyor. Veri tabanı fiziksel bir dosya olarak yerel makinede saklanıyor ve CRUD işlemleri 0.1ms gibi rekor bir sürede gerçekleştiriliyor. Aynı zamanda, arka planda çalışan bir thread, veri tabanındaki değişiklikleri bulut tabanlı Turso veri tabanına senkronize ediyor. Bu sayede, çevrimdışı çalışma yeteneği korunurken, bulut senkronizasyonu da sağlanmış oluyor.

• Hız: Yerel veri tabanı okuma/yazma işlemleri 0.1ms’de tamamlanıyor.
• Çevrimdışı dayanıklılık: İnternet bağlantısı olmasa bile uygulama çalışmaya devam ediyor.
• Bulut senkronizasyonu: Değişiklikler otomatik olarak bulut veri tabanına aktarılıyor.

4. [H]TMX: Hipermedya Tabanlı Kullanıcı Arayüzü

Geleneksel SPA’ların (React, Vue) aksine, ERTH Stack’te kullanıcı arayüzü HTMX teknolojisiyle inşa ediliyor. Bu sayede, JavaScript’e gerek kalmadan dinamik içerikler oluşturmak mümkün hale geliyor. Robyn tarafından oluşturulan HTML parçacıkları, HTMX tarafından DOM’a doğrudan yerleştiriliyor. Bu yaklaşım, hem geliştirici yükünü azaltıyor hem de kullanıcı deneyimini basitleştiriyor.

• Sıfır JavaScript: Tüm iş mantığı sunucu tarafında gerçekleştiriliyor.
• Basitlik: Geliştiriciler karmaşık yapılandırma dosyalarına gerek duymuyor.
• Performans: Ağ trafiği ve bellek tüketimi minimize ediliyor.

Derin Debugging Sürecinde Karşılaşılan Zorluklar

ERTH Stack’in geliştirilmesi sırasında, heterojen ve çoklu dil mimarisinin getirdiği bazı teknik zorluklarla karşılaşıldı. Bu zorlukların üstesinden gelmek için özel çözümler üretildi:

1. İzci Mekanizması ve Kendini Onarma Süreci

Uygulama, hem Bun hem de Python süreçlerini aynı anda çalıştırdığı için, Python yan sürecinin çökmesi durumunda ne olacağı önemli bir sorundu. Bu durumu çözmek için, izci mekanizması geliştirildi. İzci, Python yan sürecini her 3 saniyede bir kontrol ediyor. Eğer süreç yanıt vermiyorsa, otomatik olarak SIGTERM sinyali gönderiyor ve yeni bir port tahsis ederek yeniden başlatıyor. Bu sayede, uygulamanın sürekli çalışması garanti altına alınıyor.

2. CORS ve OPTIONS Önceden Kontrol Tuzağı

HTMX, özel başlıklar (hx-request, hx-target) içeren istekler gönderdiğinde, tarayıcılar otomatik olarak OPTIONS önceden kontrol (preflight) isteği gönderiyor. Bu durum, Robyn’in Rust tabanlı çekirdeğinde sorunlara yol açabiliyordu. Bu sorunu çözmek için, Robyn’in ortamında önceden kontrollerin kimlik doğrulama ara yazılımından atlanması sağlandı. Böylece, soket kilitlenmeleri önlendi.

3. Saydam Token Müdahalesi ve Güvenlik

Uygulamanın Python yan sürecinin yerel ağ tarayıcıları tarafından taranmasını ve yetkisiz erişimleri engellemek için, iletişim UUIDv7 tabanlı kısa ömürlü token’larla koruma altına alındı. Bu token’lar, uygulama başlatılırken dinamik olarak oluşturuluyor ve her iletişimde yenileniyor. Bu sayede, sistemin güvenliği artırılıyor.

Mimarinin Tamamını Keşfetmeye Hazır mısınız?

ERTH Stack’in tüm teknik detaylarını, çift çekirdekli ateşleme sisteminin kurulmasından, kendini onaran izci mekanizmalarına, Cocoa NSPanel pencere sabitleme kancalarından, çapraz platform GitHub Actions iş akışlarına kadar, yeni kitabımda bulabilirsiniz:

📖 "ERTH Assistant: Yerel Tabanlı + AI Yan Süreci Masaüstü Mimarisi"

Yerel AI ajanları geliştirmek isteyen geliştiriciler için bu kitap, yüksek performanslı ve güvenli masaüstü uygulamaları inşa etmenin yolunu gösteriyor. Kitabı Leanpub üzerinden edinebilirsiniz.

Ayrıca, kitabın ilk beş bölümünü ücretsiz olarak indirmek için projenin resmi sayfasını ziyaret edebilirsiniz. ERTH Stack’in geleceğini birlikte şekillendirmek için siz de fikirlerinizi paylaşabilirsiniz. Yerel bilgi işlem egemenliğimizi yeniden kazanma yolunda adım adım ilerliyoruz!