Yapay Zekâ Geliştirmede Sık Yapılan 8 Kritik Hata

1994 yılında Peter Deutsch, dağıtık sistemler üzerinde çalışan geliştiricilerin yaptığı sekiz yaygın varsayımı tanımlayan Dağıtık Hesaplamanın Yanılgıları adlı ünlü makalesini yayınladı. Bu varsayımlar — örneğin, "ağ bağlantısı güvenilirdir" veya "gecikme sıfırdır" — ilk bakışta mantıklı görünse de, sistemlerin üretimde çökmesine neden olan hataların temelini oluşturuyordu. Otuz yıl sonra, aynı kategorideki hataları yapay zekâ (AI) geliştirme süreçlerinde de görüyoruz.

Amazon’un kıdemli bilim insanı ve AWS’nin Otomatik Akıl Yürütme Grubu’nun kurucusu Byron Cook’un ifadesiyle: "Üretken AI, hayal kırıklığı vadisine doğru kayıyor." Yaklaşık bir yıl önce yapılan ve geliştiricilerin AI araçlarını yoğun bir şekilde benimsediği "vibe coding" dönemi geride kaldı. Şimdiyse, bu teknolojilerin gerçek yetenekleriyle beklentiler arasındaki büyük uçurumun sonuçlarıyla yüzleşiliyor. AI destekli kodlama, bazı alt sistemlerde verimlilik artışı sağlasa da, sistemlerin genelinde beklenen devrimsel değişimi getirmedi. İşte bu noktada, geliştiricilerin yaptığı sekiz kritik varsayım devreye giriyor.

Bu seri, her biri için nedenlerin ve çözümlerin detaylı bir şekilde incelendiği bu sekiz varsayımı ele alıyor. Bu varsayımların kökeni sadece teorik değil; aynı sorunlarla karşılaşan ve bu sorunları aşmayı başaran alanlardan (havacılık, nükleer tesisler, finansal işlemler, mikroişlemci tasarımı ve Google’ın monorepo sistemi gibi) alınan derslerle destekleniyor.

Geliştirme Sürecinde Sık Yapılan Sekiz Kritik Varsayım

1. Daha hızlı kod üretimi, daha hızlı geliştirme anlamına gelir

Bir alt sistemi 10 kat daha hızlı geliştirmek, sistemin genelini 10 kat hızlandırmaz. Diğer bileşenler ve arayüzler aynı kaldığında, sistemin performansı CPU bellek duvarı gibi fiziksel sınırlara takılır. Örneğin, bir veritabanı sorgusunu optimize etmek, sistemin genelinde gecikmeleri azaltmaz; sadece o sorgunun çalışma süresini kısaltır. Bu durum, sistemin diğer kısımlarında tıkanıklıklar oluşmasına yol açar. Sonuç olarak, hızlı kod üretimi, sistemin genelinde verimlilik artışı sağlamaz — sadece bazı parçaların diğerlerine göre daha hızlı çalışmasına neden olur.

2. Çıktı doğru görünüyorsa, doğrudur

Üretken AI’nın ürettiği kod, genellikle "olası" olma özelliğine sahiptir — yani, kod derlenir, testleri geçer ve okunabilir görünür. Ancak, bu kodun sistemin gereksinimlerine tam olarak uyup uymadığına dair hiçbir garanti yoktur. Örneğin, bir AI aracı, bir fonksiyonun adını değiştirirken, aynı fonksiyonun başka bir yerde kullanıldığını gözden kaçırabilir. Bu tür hatalar, üretim ortamında ciddi sorunlara yol açabilir. AI’nın ürettiği kodun "olası" olması, onun doğru olduğu anlamına gelmez — sadece ilk bakışta makul göründüğü anlamına gelir.

3. AI çıktısını başka bir AI ile doğrulamak mümkündür

Bazı ekipler, AI tarafından üretilen kodun doğruluğunu teyit etmek için başka bir AI aracı kullanmayı tercih ediyor. Ancak, bu yaklaşım, aslında problemi çözmek yerine katman eklemekten ibarettir. Örneğin, bir AI aracının çıktısını başka bir AI aracıyla kontrol etmek, her iki aracın da aynı yanlış varsayımlara sahip olması durumunda, sorunu ortadan kaldırmaz — sadece maliyeti artırır. Deterministik olmayan sistemleri birbiriyle sarmak, güvenilirliği artırmaz; sadece katlanarak karmaşıklığı artırır.

4. İnsan incelemesini kaldırmak, süreci hızlandırır

İnsan incelemesini sürecin dışına çıkarmak, sadece bir fren mekanizmasını kaldırmak anlamına gelir. Üç farklı inceleme modeli vardır:

• İlk model: İnsanlar her şeyi inceler.
• İkinci model: AI, kodu inceler; insanlar sadece kritik durumlarda müdahale eder.
• Üçüncü model: İnsanlar spesifikasyonları inceler; AI, kodu spesifikasyonlara göre doğrular.

Üçüncü model, AI hızında çalışabilen tek modeldir. İnsanların spesifikasyonları tanımlaması ve AI’nın bu spesifikasyonlara uygunluğu otomatik olarak doğrulaması, hem hızı korur hem de güvenilirliği artırır.

5. Daha iyi bağlam, halüsinasyonları önler

RAG (Retrieval-Augmented Generation) gibi yöntemler, AI’nın girdi olarak aldığı bağlamı zenginleştirir. Ancak, bu sadece AI’nın kullanabileceği bilgilerin doğruluğunu artırır; AI’nın çıktısının doğruluğunu garanti etmez. Örneğin, bir AI aracı, RAG sayesinde daha doğru bilgilerle beslenebilir, ancak bu bilgileri yanlış bir şekilde yorumlayabilir veya spesifikasyonlara aykırı kod üretebilir. Bağlam ve doğrulama, birbirini tamamlayan ancak birbirinin yerini tutmayan unsurlar olarak görülmelidir.

6. AI tarafından üretilen kod, bir varlıktır

Her satır kodun bakım, test, hata ayıklama, güvenlik ve anlaşılabilirlik gibi yükleri vardır. Dolayısıyla, daha fazla kodun daha hızlı üretilmesi, aynı oranda daha fazla yük anlamına gelir. Kod miktarını artırmak yerine, minimum kodla maksimum yeteneği sunan bir yaklaşım benimsemek, uzun vadede daha sürdürülebilir bir sistem oluşturur. Örneğin, bir AI aracı tarafından üretilen gereksiz kod satırları, gelecekte bakım maliyetlerini artırır.

7. Spesifikasyonlar, yeni bir unsur olarak ortaya çıkar

Spesifikasyonlar, aslında kod tabanınızın içinde zaten vardır: tip imzaları, API sözleşmeleri, veritabanı şemaları ve modül sınırları gibi. 1972 yılında David Parnas tarafından önerilen bu yaklaşım, AI çağına uygun hale getirilebilir. AI’nın ürettiği kodun, zaten var olan spesifikasyonlara uygunluğunu otomatik olarak doğrulamak, yeni spesifikasyonlar oluşturma ihtiyacını ortadan kaldırır. Sadece bu spesifikasyonların mekanik olarak uygulanması gerekir.

8. Daha fazla AI ajanı, daha fazla verimlilik demektir

Spesifikasyonlar olmadan AI ajanlarını artırmak, protokolsüz bir dağıtık sistem oluşturmak gibidir. Örneğin, birden fazla AI aracının aynı sistem üzerinde çalışması, kararların tutarlılığını azaltır ve sistemin genelinde kargaşaya yol açar. Dağıtık sistemlerdeki koordinasyon mekanizmaları, AI ajanları için de geçerlidir. Spesifikasyonlar ve protokoller, ajanlar arasındaki etkileşimleri düzenleyerek, sistemin verimliliğini artırır.

Temel Prensip: Çıktı üretmek zor kısım değildir

Bu sekiz varsayımın altında yatan ortak bir yanılgı vardır: çıktının üretilmesi, geliştirme sürecinin en zor kısmıdır. Oysa gerçekte, çıktının üretilmesi AI sayesinde oldukça kolaylaşmıştır. Zor olan kısım, çıktının anlaşılması, doğrulanması, bakımının yapılması, ajanlar arasındaki koordinasyonun sağlanması ve sistemin genelinde tutarlılığın korunmasıdır. AI, sadece kolay olan kısmı hızlandırdı; zor olan kısımlar aynı kaldı.

Bu varsayımların çözümü, aynı mimari prensibe dayanıyor: sistemdeki var olan spesifikasyonları tanımak, bunları mekanik olarak uygulamak ve çıktıları bu spesifikasyonlara göre doğrulamak. Spesifikasyonlar, AI ajanları arasındaki koordinasyon protokolleri olarak kullanılabilir. Bu yaklaşımı benimseyen ekipler, AI’nin getirdiği yeniliklerden en iyi şekilde yararlanabilir ve diğerlerinden önce hayal kırıklığı vadisinden çıkmayı başarabilir.

Bu seri boyunca, her bir varsayım ayrıntılı olarak incelenecek ve her birine yönelik pratik çözümler sunulacaktır. Her makale, o hafta içinde uygulayabileceğiniz bir eylem önerisiyle sona erecek. Bu sayede, AI destekli geliştirme süreçlerinizi daha güvenilir ve verimli hale getirebilirsiniz.