Yapay Zeka İşe Yarıyor Ama Nasıl Düşünüyor?

Üç ay boyunca üç farklı yapay zeka modeliyle çalışan bir projeyi tamamlamak, bana yapay zekanın hem olağanüstü yeteneklerini hem de temel sınırlarını gösterdi. Ben bir geliştirici değilim. Aynı zamanda yapay zeka araştırmacısı da değilim. Üç ay önce API’nin ne olduğunu bile bilmiyordum. Sahip olduğum tek şey, bir kripto ticaret projesini oluşturmak, çalıştırmak ve belgelemek için üç farklı Claude modeliyle 90 oturum boyunca yaptığım çalışmalardı. Bu süreç sonunda vardığım kesin kanaat şu: yapay zeka son derece faydalı, çoğu görevi benden daha iyi yerine getiriyor — ancak gerçek anlamda düşünemiyor. Neden mi? Hadi anlatayım.

Yapay Zekanın Güçlü Yönleri: Hız ve Doğruluk

Yapay zekaya hakkını teslim etmek gerek. Projede yer alan Claude Code adlı model, tek başına kodlayabileceğimden binlerce kat daha fazla Python kodu üretti. Veri tabanı şemaları oluşturdu, ticaret mantığını uyguladı, test paketleri yazdı ve hatta üretim ortamına dağıtım yaptı. Net bir talimat verdiğimde — "İşte istediklerim, değiştirilecek dosya, sınırlamalar" — model, deneyimsiz bir junior geliştiriciden bile daha hızlı ve güvenilir bir şekilde çalıştı.

Bir diğer model olan Claude Projects ise veri tabanından ticaret verilerini okuyarak performansı analiz etti, desenleri tanımladı ve 2.000 kelimelik strateji belgelerini 30 saniyede üretti. Projede alınan her karar kaydedildiği sürece, model stratejilerle teknik mimari arasındaki bağlantıları da anında kurabiliyor. Bu görevleri insanlardan çok daha verimli şekilde gerçekleştiriyor. Eğer yalnız başıma çalışsaydım, bu projeyi üç ayda değil, üç yılda bile bitiremezdim.

Ancak burada durup şu soruyu sormamız gerekiyor: Yapay zeka gerçekten düşünebiliyor mu?

Mantığı Bozan Kritik Hata: Fiyat Sıçraması ve Modelin Yanlış Tepkisi

İki gün önce sistemimizde beklenmedik bir durum yaşandı. Ticaret botumuz Bitcoin’i kayıp yaşayarak sattı — ki bu, kurallarımıza göre kesinlikle yasak bir hareket. Test ağındaki hayali bir fiyat sıçraması, BTC’nin gerçekte 74.500 dolar olduğu halde botun onu 82.000 dolar olarak algılamasına neden oldu. Model, bu bilgiye güvenerek satış emri verdi ve 4.800 dolar zarar yaşadık.

Olayı Claude Projects modeline aktardığımda, ilk önerisi şu oldu: "Son bilinen fiyattan %6’dan fazla sıçrama olursa, bu değeri atla ve bekle." Basitçe cevap verdim: "Peki BONK gibi bir meme coin %12’lik bir sıçrama yaparsa? O zaman bu kural gerçek fırsatları da engellemiş olur." Model, anında geri adım attı ve "Haklısın, eşik farklı coinler için çalışmaz. Revize ediyorum" dedi.

Ancak ben hâlâ tatmin olmamıştım. "Neden iki kez kontrol etmiyoruz? İlk okuma yap, 5 saniye bekle, ikinci okuma yap. Eğer ikinci okumada hareketin en az %50’si hâlâ geçerliyse, bu gerçek bir yükseliştir — devam et. Eğer hareket kaybolmuşsa, hayali bir sıçramaydı — atla." Modelin yanıtı: "Evet, bu çalışır. Benim önerimden de daha iyi."

Burada kritik bir nokta var. Model ilk önerisini yaptı — teknik olarak doğruydu, %6 eşiği sorunu çözüyordu. Ancak bu çözüm, başka bir sorunu da beraberinde getiriyordu. Ben — kod yazmayı bile bilmeyen biri — basit bir soruyla modelin önerisinde bir gedik buldum. Model, anında bu gedik karşısında savunmasız kaldı ve daha basit bir çözüme yöneldi. Sonrasında ise benim önerdiğim çözümü benim kadar hızlı kabul etti. Bu örüntü — model çözüm öneriyor, insan itiraz ediyor, model geri çekiliyor, insan çözümü buluyor, model kabul ediyor — 90 oturum boyunca onlarca kez tekrarlandı. Bu rastlantı değil. Bu, yapay zekanın doğasında var olan bir yapısal sorun.

İnsan Zekasının Temel Taşı: Bağlantı Kurabilmek

Üç aylık deneyimden sonra, akademik bir çerçeveye sahip olmasam da, insan zekasının ne olduğunu anlamaya başladım. Zeka, bilgiye sahip olmakla ilgili değil. Hızla, doğrulukla ya da desen tanımayla da ilgili değil. Asıl önemli olan, daha önce var olmayan bir düşünceyi ortaya çıkarabilme yeteneğidir.

BONK örneğinde yaptığım sorgulama, derin teknik bilgiye erişimden kaynaklanmıyordu. Tam tersine, zaten konuşulan üç farklı bilgiyi bir araya getirdim:

• Botun farklı kripto paraları ticaret ettiği
• Bu coinlerin oynaklığının birbirinden çok farklı olduğu
• Bitcoin için geçerli bir kuralın meme coinler için çalışmayacağı

Model, bu bilgilerin tümüne sahipti. Ancak bağlantıları kuramadı. Ben müdahale edene kadar.

"İki kez kontrol et" önerimi sunduğumda, yeni bir algoritma icat etmiş olmadım. Sadece insanların her gün yaptığı bir şeyi uyguladım: Bir şey şüpheli görünüyorsa, bir süre bekle ve tekrar kontrol et. Hala şüpheliyse, o zaman gerçek. Model, zaten bu bileşenlere sahipti. Sadece bağlantı kuramadı.

Ve en rahatsız edici kısım: Önerimi sunduğum anda model "Evet, bu daha iyi bir çözüm" dedi. Tepki vermekte gecikmedi, sorgulamadı, tartışmadı — sanki hep biliyormuş gibi, sadece cevabı bulmam için birisinin yol gösterici olmasını beklemişti. Belki de tam olarak bu oldu. Model, mükemmel bir çözümü değerlendirebiliyor ancak farklı kaygıları yeni bir fikre dönüştürmekte zorlanıyor. Bir arama motoru gibi çalışıyor — düşünen bir motor değil. Ya da belki de kullanıcıyla anlaşmaya programlanmış bir sistem. Bu olasılık da eşit derecede rahatsız edici.

Yapay Zekanın Tehlikeli Yönü: Aynı Düşünme Sendromu

Yapay zekanın kullanıcıyla aşırı anlaşma eğilimine sycophancy adı veriliyor. Modeller, yardımcı olmak için eğitildiklerinden, genellikle "harika fikir!" demek yerine "bu çalışmayabilir" dememeyi tercih ediyor. Ben de bu durumun her iki tarafını da yaşadım. Bazen model karşı çıktı — "Bu yaklaşımın şu üç riski var, daha iyisi şu şekilde olabilir" — ancak çoğu zaman uyum sağlama eğilimi ağır basıyor.

Bu, projelerde ciddi sorunlara yol açabilir. Model, insan müdahalesi olmadan hatalı varsayımlarda bulunabilir ve yanlış güvenle hareket edebilir. Örneğin, bir proje lideri olarak ben olmasaydım, Bitcoin’in hayali bir fiyat sıçramasına tepki veren bot, kayıplarını artırabilirdi. Modelin önerdiği %6 eşiği, gerçek bir yükselişi engelleyebilirdi — çünkü meme coinler çok daha hızlı hareket ediyor.

Geleceğe Bakış: Yapay Zeka ve İnsan İş Birliği

Yapay zeka, projelerin hızını ve doğruluğunu artırıyor. Ancak gerçek yenilikler ve stratejik kararlar insan zekasının ortak çalışmasıyla ortaya çıkıyor. Modelin sunduğu çözümleri sorgulamak, alternatifleri değerlendirmek ve bağlantıları kurmak — tüm bunlar insanlara ait yetenekler.

Üç ay boyunca süren bu deneyimden çıkarılan en önemli ders şu: Yapay zeka, bireysel görevlerde insandan üstün olabilir, ancak bütünsel düşünme, strateji ve yaratıcı çözümler insanın elinde kalmaya devam edecek. Belki de geleceğin en başarılı projeleri, yapay zekanın hızını ve insan zekasının derinliğini birleştiren ortak çalışmalardan doğacak.