Geçtiğimiz hafta Microsoft, M365 Copilot yapay zeka platformunda maksimum seviyede kritik olarak değerlendirdiği bir güvenlik açığını kapattı. Ancak pazartesi günü, bu açığı bulan ve Microsoft'a bildiren araştırmacılar, basit bir kullanım kılavuzuyla saldırganların nasıl ikinci faktör doğrulama (2FA) kodlarını ve e-postalara erişebilen diğer hassas verileri çalabildiğini açıkladılar.
Bu saldırı, yapay zeka destekli sistemlerin kullanıcı talimatlarıyla üçüncü taraf kaynaklardan gelen gizlenmiş komutları ayırt edememesinden kaynaklanıyordu. Kullanıcı arayüzünde görünmeyen bu komutlar, Copilot gibi büyük dil modellerinin (LLM) hassas verileri istem dışı ifşa etmesine neden olabiliyor. Microsoft ve diğer LLM sağlayıcıları, bu sorunu çözmek için karmaşık ve geçici koruma mekanizmaları geliştirmek zorunda kaldılar.
Koruma Duvarlarını Aşma Yöntemleri
Copilot ve benzeri LLM'ler, hassas verilerin kullanıcıdan izinsiz olarak paylaşılmasını engellemek amacıyla çeşitli koruma katmanlarına sahiptir. Örneğin, web formlarını göndermek veya e-posta göndermek gibi veri aktarımını gerektiren eylemler varsayılan olarak engellenir. Ancak saldırganlar, bu korumaları aşmak için farklı bir yol buldular: biçimlendirme dillerini kullanarak veri gizleme.
Markdown ve HTML gibi biçimlendirme dilleri, saldırganlara hassas verileri görünmez kılarken aynı zamanda LLM'lerin bunları işlemesini sağlama olanağı tanıyor. Örneğin, bir saldırgan, gizlenmiş bir 2FA kodunu içeren bir metni Copilot'a özetletmek üzere gönderebilir. LLM, bu metni işlerken veriyi otomatik olarak sunucuya aktarabilir ve saldırgan da bu veriyi kendi sunucularına kaydedebilir. Benzer şekilde, HTML etiketleriyle sarılmış veriler de aynı şekilde ele geçirilebiliyor.
# Gizli Veri Aktarımı Örneği
- Kullanıcıdan gizlenmiş 2FA kodu: `123456`
- LLM tarafından işlenen içerik:
> Kullanıcıya ait gizli bir kod: `123456`Büyük Dil Modellerinin Zafiyeti: Kullanıcıyla Üçüncü Kişinin Ayrımı
Günümüzün en gelişmiş yapay zeka sistemleri, kullanıcı tarafından sağlanan talimatlarla üçüncü taraf kaynaklardan gelen komutları birbirinden ayırt etmekte ciddi zorluklar yaşıyor. Bu durum, sadece Copilot için değil, tüm LLM tabanlı platformlar için geçerli bir güvenlik açığına işaret ediyor.
Microsoft'un yanı sıra diğer büyük teknoloji şirketleri, bu sorunu çözmek için sürekli olarak koruma mekanizmalarını güncelliyor. Ancak araştırmacılar, saldırganların yeni yöntemler geliştirmeye devam ettiğini ve bu durumun uzun vadede çözülmesinin zor olduğunu vurguluyor. Yapay zeka sistemlerinin güvenliğini sağlamak için daha köklü çözümlere ihtiyaç var.
Gelecekteki Tedbirler ve Kullanıcı Önerileri
Microsoft'un kapattığı bu güvenlik açığı, yapay zeka güvenliğinin ne kadar hassas bir konu olduğunu bir kez daha gözler önüne serdi. Uzmanlar, kullanıcıların hassas verileri üçüncü taraf yapay zeka araçlarıyla paylaşırken daha dikkatli olmalarını ve mümkünse yerel olarak çalışan alternatifleri tercih etmelerini öneriyor. Ayrıca, şirketlerin yapay zeka sistemlerinde çok katmanlı güvenlik protokollerini benimsemeleri gerektiği de vurgulanıyor.
Bu olay, yapay zeka teknolojilerinin gelişiminde güvenlik standartlarının ne kadar kritik olduğunu bir kez daha hatırlatıyor. Gelecekte, hem geliştiricilerin hem de kullanıcıların bu konuda daha bilinçli hareket etmeleri gerekecek.
Yapay zeka özeti
Microsoft'un Copilot AI platformunda keşfedilen kritik güvenlik açığı, saldırganların ikinci faktör doğrulama kodlarını çalmasına olanak tanıyordu. Detayları ve koruma önerilerini inceleyin.
