Dünyanın en tanınan anlık iletileşme uygulamalarından biri olan Telegram, dün Apple’ın dijital mağazası App Store’dan kısa müddetliğine kaldırıldı. Apple tarafından yapılan açıklamada, uygulamanın çocuk istismarı ile ilgili içerikleri barındıran kuralları ihlal ettiği gerekçesiyle mağazadan çıkarıldığı belirtildi. Platformun geliştiricileri, kelam konusu uygunsuz içerikleri süratle kaldırıp paylaşımı yapan kullanıcıyı sistemden yasakladıktan sonra uygulama kısa müddette markete geri döndü. Lakin Telegram CEO’su Pavel Durov, yaşanan bu durumun arkasında berbat niyetli bir şantaj teşebbüsünün yattığını açıkladı.

Saldırganlar Yapay Zekayı Bir Silah Olarak Kullanıyor

Telegram CEO’su Pavel Durov, yaşanan olayın teknik ayrıntılarını kamuoyu ile paylaştı. Durov’a nazaran saldırganlar, platformun moderasyon araçlarını aşmak için epeyce karmaşık ve hileli bir sistem izledi. Bilhassa herkese açık küme sohbetlerinde, geçmişe dönük bildirileri düzenleyen berbat niyetli bireyler, yapay zeka tarafından oluşturulan yasa dışı görselleri bu eski gönderilere yerleştirdi.

Yapay zeka ile üretilen bu yasa dışı içerikler, küme üyelerinin fark etmesini engellemek maksadıyla bilinmeyen bir formda sisteme dahil edildi.

Bu metodun temel gayesi, üyelerin içerikleri görerek süratlice bildirimde bulunmasını zorlaştırmak ve Telegram’ın otomatik moderasyon sistemlerini yanıltmaktı. Durov, bu şahısların küme sahiplerinden fidye talep ettiklerini ve toplulukları gaye alarak tehdit ettiklerini belirtti. Misal hücumların, otomatik botlar ve uydurma hesaplar aracılığıyla birçok halka açık grubu gaye aldığı tabir ediliyor.

Güvenlik Önlemleri Gözden Geçiriliyor

Telegram tarafında yaşanan bu kriz, dijital platformların moderasyon süreçlerinin ne kadar hassas olduğunu bir sefer daha gözler önüne serdi. Apple’ın güvenlik siyasetleri gereği sıfır tolerans gösterdiği bu tıp içerikler, her ne kadar sistem dışı formüllerle sokulmaya çalışılsa da, platformların üzerindeki baskıyı artırıyor. Durov, Telegram’ın bu tıp istismarcılara karşı tüm araçlarını seferber ettiğini vurgularken, kullanıcıların da kuşkulu durumları bildirmesinin hayati değer taşıdığını hatırlattı.

Kötü niyetli şahısların dijital platformları fidye aracı olarak kullanmaya çalışması, siber güvenlik dünyasında yeni bir tehdit modeli oluşturuyor.

Platform, gelecekte emsal atakları engellemek ismine moderasyon algoritmalarını güncellemeyi planlıyor. Bilhassa yapay zeka dayanaklı içeriklerin tespit edilmesi konusunda daha sıkı bir filtreleme sisteminin devreye alınması bekleniyor. Kullanıcıların güvenliğini ön planda tutan Telegram idaresi, şantajcılara karşı taviz vermeyeceklerinin altını çizdi.

Sizce dijital platformlar, yapay zeka ile üretilen ve moderasyonu yanıltmayı amaçlayan bu çeşit şantaj içeriklerine karşı nasıl daha tesirli tedbirler alabilir? Görüşlerinizi yorum kısmında bizimle paylaşmayı unutmayın.

Kaynak: Shiftdelete