Anthropic, Claude tarafından oluşturulan içeriklere eklenecek görünmez filigran sisteminin nasıl çalışacağına ait yeni detaylar paylaştı. Avrupa Birliği Yapay Zeka Yasası kapsamındaki şeffaflık gerekliliklerine ahenk gayesiyle geliştirilen sistem, yapay zeka tarafından oluşturulan metinlerin sonradan tespit edilebilmesini amaçlıyor.

Ancak burada klasik manada bir filigrandan kelam edilmiyor. Claude tarafından oluşturulan metinlere bilinmeyen karakterler yahut kullanıcı tarafından fark edilebilecek rastgele bir işaret eklenmeyecek.

Claude’un görünmez filigranı nasıl çalışıyor?

Anthropic’in açıklamasına nazaran sistem direkt metin oluşturma sürecinde çalışıyor. Claude bir sonraki kelimeyi seçerken kullanabileceği çok sayıda mümkün seçenek arasından seçim yapıyor. Yeni sistem, belli seçeneklerin tercih edilme mümkünlüğünü küçük ölçülerde değiştirerek metin içerisinde istatistiksel bir desen oluşturuyor.

Bu değişikliklerin metnin manasını, kalitesini yahut okunabilirliğini etkilememesi hedefleniyor. Kullanıcılar da olağan bir Claude karşılığıyla filigran taşıyan metin arasındaki farkı direkt göremeyecek.

Filigran metnin kendisine işlendiği için kopyala-yapıştır süreçlerinden sonra da korunabilecek ve birtakım düzenlemelere karşı dayanıklılık gösterebilecek.

Anthropic ayrıyeten filigranın rastgele bir ferdî bilgi taşımadığının altını çiziyor. Sistem üzerinden içeriğin makul bir kullanıcıya, kuruluşa yahut Claude sohbetine bağlanması mümkün olmayacak.

Kısa metinlerde tespit daha güç olacak

Sistemin değerli sınırlamalarından biri metnin uzunluğu. Anthropic, kısa metinlerde filigranın sağlam biçimde tespit edilmesinin daha güç olduğunu belirtiyor.

Bunun sebebi sistemin tek bir söze yahut karaktere değil, metin boyunca ortaya çıkan istatistiksel bir desene dayanması. Metin uzadıkça sistemin Claude tarafından oluşturulduğunu belirleme konusunda daha fazla data elde ediliyor.

Filigranlama sürecinin ekstra token gerektirmeyeceği ve kullanıcılar açısından ek bir maliyet oluşturmayacağı da belirtiliyor.

Anthropic’in yaklaşımı, yapay zeka içeriklerinin kaynağını belirleme konusunda değerli bir adım olabilir. Fakat şirket sistemin kusursuz olmadığını da kabul ediyor. Yoğun biçimde tekrar yazılan yahut farklı yollarla değiştirilen içeriklerde filigranın tespit edilmesi zorlaşabilir.

Peki sizce yapay zeka tarafından oluşturulan metinlerin bu formda tespit edilebilir olması gerçek bir yaklaşım mı? Görüşlerinizi yorumlarda paylaşabilirsiniz.

Kaynak: Shiftdelete