Yapay zeka projelerini hayata geçiren birçok şirket, tüketici alışkanlıklarına dayalı basit sistemler kullanıyor. Bir mühendis, birkaç denemeden sonra elde ettiği yanıtı yeterli görüp bu sistemi doğrudan kullanıma açıyor. Oysa bu yaklaşım, mühendislikten çok "hava durumuna göre karar verme" olarak nitelendirilebilir.
Tüketici odaklı yapay zeka sistemleri, yanıtların kullanışlılığını en üst düzeye çıkarmayı hedefler. Üretim ortamındaki sistemler ise sınırları ve güvenliği optimize etmek zorundadır. Bir tüketici sohbetinde oluşan sahte bilgiler sadece sosyal medyada eğlenceli bir içerik olabilir. Ancak bir sağlık şirketinin sisteminde oluşan aynı hata, yasal ihlallere, veri sızıntısına veya dava açılmasına yol açabilir.
Sağlık teknolojileri alanında yaptığımız erken dönem bir dağıtımdan bu dersi sert bir şekilde aldık. Klinik güvenliği sağlamak için uzun ve ayrıntılı sistem komutları yazdık. Bu komutlar %90 oranında başarılı sonuçlar verdi. Fakat sağlık sektöründe %10’luk bir başarı oranı bile tıbbi hata olarak kabul edilebilir. Bu deneyimle, doğal dilin yasal sınırları korumak için yeterince katı olmadığını anladık.
Sistem komutlarını artık yaratıcı yazı olarak değil, derlenmiş yazılım gibi ele almaya başladık.
Yazılım geliştiriciler kodları canlı ortama göndermeden önce birim testlerinden geçirirler. Ancak yapay zeka endüstrisinde sistemler, regresyon testleri yapılmadan canlı ortama aktarılabiliyor. Bu sorunu çözmek için tahminlere dayalı değil, ölçülebilir sonuçlara odaklandık.
Varlık modelimizden elde edilen çıktıları, çeşitli saldırgan senaryolar içeren bir test paketiyle karşılaştırdık. Mükemmel bir sistem komutunu hedeflemek yerine, matematiksel olarak sınırları belirlenmiş bir hata oranını hedefledik.
Bir sistem komutunda yapılan "daha yardımsever" bir değişikliğin klinik veya yasal güvenlik ölçütlerinde gerilemeye neden olması durumunda, otomatik boru hattımız bu değişikliği reddediyor.
Endüstri, sistem komutlarını "vibes’a dayalı tahminlerden" çıkarıp, belirleyici regresyon testlerine yöneltmediği sürece, kurumsal yapay zeka projeleri pilot aşamasında takılı kalmaya devam edecek. Gelecek, uyumluluğu bir mühendislik disiplini olarak gören ekiplerin elinde olacak. Unutmayın: Bir metin kutusunu doldurmak değil, sistemin sınırlarını belirlemek önemlidir.
Yapay zeka özeti
Yapay zeka sistemlerini üretim ortamına taşırken tüketici odaklı yaklaşımların ötesine geçmek gerek. Sınırları ve güvenliği mühendislik disipliniyle ele almayan projeler risk altında kalıyor.
