Çocuk istismarı riskini tespit etmede davranışsal desenler neden önemli?

Çocuk istismarına yönelik algılama sistemlerinde en büyük hatalardan biri, tehdidi tek bir mesajın içeriğinde aramaktır. Oysa gerçek istismar senaryoları, haftalar boyunca yavaş yavaş inşa edilen güven ilişkilerinde gizlidir. Bu nedenle, tehditleri doğru şekilde tanımlamak için davranışsal desenleri zamansal olarak analiz etmek şarttır.

Tek bir mesaja odaklanan sistemlerin sınırları

Geleneksel istismar tespit sistemleri genellikle şu gibi bir akışa sahiptir:

[mesaj] → [sınıflandırıcı] → uyarı / onay

Bu yaklaşım, spam tespitinde oldukça etkili olsa da çocuk istismarı gibi karmaşık davranışların anlaşılmasında yetersiz kalır. Çünkü istismar, bireysel mesajların içeriğinden değil, haftalar boyunca süren etkileşimlerin zaman içindeki evriminden anlaşılabilir.

2025 yılında yayınlanan bir araştırma, literatürdeki çalışmaların büyük çoğunluğunun dilbilimsel özelliklere odaklandığını, oysa davranışsal ve zamansal sinyallerin çok daha güçlü ayırt edici özellikler sunduğunu ortaya koydu. Bu durum, veri setlerinin çoğunun tek tek mesajlardan oluşmasından kaynaklanıyor; oysa gerçek dünya senaryolarında tehditler, etkileşimlerin zaman içindeki seyriyle tanımlanıyor.

İstismar davranışını anlamada zamansal desenler

Belgelenmiş istismar vakalarına yönelik araştırmalar, tehditlerin genellikle şu evrimsel desenleri izlediğini gösteriyor:

• İlerleme hızı: İlk temasın ardından ilişkinin hızla yakınlaşması, ardından kişisel bilgi taleplerine doğru kayma görülür. Haftalar içinde hızla gelişen bir ilişki, yıllar süren dostluklardan farklı bir sinyal oluşturur.

• İletişim sıklığı değişimi: Başlangıçta düzensiz ve rastgele olan iletişim, zamanla düzenli hale gelir. Haftada birden, günde birkaç kez görüşmeye kadar evrimleşen bir desen, riskin arttığını gösterir.

• Oturumlar arası süreklilik: Tehdit unsurları, görüşmeleri birbirine bağlayan unsurlar ekleyerek (örneğin gelecek görüşmeye dair ipuçları vermek) sürekli bir ilişki hissi yaratmaya çalışır. Bu, tek bir oturumda değil, haftalar boyunca gözlemlenebilir.

• Platform dışına yönlendirme girişimleri: Güven ilişkisi kurulduktan sonra, sohbeti gizli kanallara (WhatsApp, Signal gibi) yönlendirme talepleri ortaya çıkar. Bu talebin zamanlaması, tehdidin evrimindeki kritik bir aşamayı işaret eder.

Bu desenlerin hiçbiri tek bir mesajda görülmez; hepsi, haftalar boyunca süren etkileşimlerin bütünsel bir resmi içinde anlam kazanır.

SENTINEL’in zamansal analiz katmanı nasıl çalışıyor?

SENTINEL, kullanıcı davranışlarını dört farklı sinyal katmanında analiz eder: dilbilimsel, grafik, zamansal ve adalet. Zamansal katman, özellikle haftalar boyunca süren etkileşim desenlerini yakalamak üzere tasarlanmıştır.

Sistem, davranışsal profil adını verdiği bir yaklaşımla çalışır. Bu profil, belirli bir kullanıcı çifti arasındaki etkileşimlerin veya bir kullanıcının platformdaki genel davranışının, zamana yayılmış sinyallerini içeren kayan bir penceredir. Her yeni etkileşimle birlikte güncellenen bu profil, zamansal özelliklerin hesaplanmasında kullanılır.

SENTINEL’in takip ettiği temel zamansal sinyaller şunlardır:

• İlerleme hızı: Kullanıcının risk puanının zaman içinde ne kadar hızlı arttığı. Örneğin, üç haftada 15’ten 60’a çıkan bir puan, tek bir oturumda 60’a ulaşan bir puandan çok farklı bir davranış biçimini gösterir.

• İletişim sıklığı eğimi: İki kullanıcı arasındaki iletişim sıklığının zamanla nasıl değiştiği. İlk hafta düzensiz olan temaslar, dördüncü haftada günde birkaç görüşmeye dönüşüyorsa, bu eğim önemli bir sinyaldir.

• Oturum sınırı davranışları: Oturumların nasıl başladığı ve sonlandığı. Konuşmalar, nerede kalındıysa oradan devam ediyor mu? Oturum sonlandırmaları, gelecek oturumlara yönelik ipuçları içeriyor mu?

• Gün içi temas saatlerindeki kaymalar: Gece geç saatlerde veya sabah erken saatlerde artan temaslar, riskin arttığını gösterebilir. SENTINEL, temas zamanlarının dağılımındaki değişimleri izler.

Bu sinyaller, sistemin genel risk puanına zamansal risk katkısı olarak eklenir ve dilbilimsel ve grafik sinyallerle birlikte değerlendirilir.

Zamansal analiz neden eşik değerlerine dayalı sistemlerden farklı?

Geleneksel sınıflandırma sistemleri, genellikle belirli bir eşik değerinin aşılıp aşılmadığına odaklanır. Örneğin, bir mesajın kötü niyetli olup olmadığına karar vermek için kullanılan güven puanı, eğer X’in üzerindeyse uyarı verilir. Ancak zamansal analizde bu yaklaşım geçerli değildir.

SENTINEL gibi sistemlerde önemli olan, bugünkü mesajın puanının X’in üzerinde olup olmadığı değil, haftalar boyunca süren davranışın, bilinen istismar desenlerine ne kadar uyduğudur. Bu nedenle sistemler, mesajları değil, kullanıcıları puanlamalıdır.

Bu yaklaşımın en büyük avantajı, yanlış pozitifleri önemli ölçüde azaltmasıdır. Örneğin, yoğun bir proje nedeniyle günde onlarca mesaj gönderen bir kullanıcı, normalde riskli bulunabilir. Ancak zamansal analiz, bu yoğunluğun haftalar boyunca süren istikrarlı bir desen olmadığını ortaya koyarsa, risk puanı düşürülebilir.

Gelecekteki adımlar: yapay zekanın rolü

Çocuk istismarını tespit etmek için kullanılan yapay zeka sistemleri, giderek daha fazla davranışsal ve zamansal veriye odaklanıyor. Gelecekte, bu sistemlerin performansını artırmak için şu alanlarda ilerlemeler bekleniyor:

• Daha geniş veri setleri: Farklı kültürler ve platformlardaki etkileşimlerin analiz edilmesi.

• Çok modlu analiz: Metin verilerinin yanı sıra ses, video ve diğer medya türlerinin değerlendirilmesi.

• Gerçek zamanlı adaptasyon: Sistemlerin, yeni istismar taktiklerine hızla uyum sağlayabilmesi için sürekli öğrenme yeteneklerinin geliştirilmesi.

Bu gelişmeler, çocukları koruma konusunda daha etkili araçların ortaya çıkmasını sağlayacak. Ancak en önemli nokta, sistemlerin sadece mesajları değil, insan davranışlarının karmaşıklığını ve zamansal evrimini anlamaya odaklanması gerektiğidir.