OpenAI, Avrupa Birliği’nin yeni şeffaflık kurallarına ahenk sağlamak ismine OpenAI dijital filigran teknolojisini kullanıma sunmaya hazırlanıyor. Bu adım, üretken yapay zeka modelleri tarafından oluşturulan metin ve kodların tanımlanabilir hale getirilmesini hedefliyor.

Şirket, bu süreçte textGrain ismini verdiği özel bir sistemden yararlanacağını duyurdu. Bu teknoloji, modellerin söz seçimlerine görünmez istatistiksel sinyaller ekleyerek içeriğin kaynağını belirlemeye yardımcı oluyor.

textGrain Teknolojisi ve Çalışma Prensibi

OpenAI tarafından geliştirilen textGrain sistemi, yapay zeka tarafından oluşturulan içeriklerin tespit edilmesini sağlayan bir usul olarak öne çıkıyor. Sistem, modelin söz tercihlerine görünmez bir istatistiksel sinyal yerleştirerek bu içeriğin yapay zeka eseri olduğunu kanıtlıyor.

Bu sinyal, özel bir dedektör aracılığıyla taranabiliyor ve içeriğin filigranlı olup olmadığı anlaşılabiliyor. OpenAI, bu sistemin SynthID üzere başka yaklaşımların performansını yakaladığını yahut geçtiğini belirtiyor.

Ancak şirket, ülkü şartlardaki güçlü performansın günlük kullanımda her vakit emniyetli sonuçlar garantilemediği konusunda ikazda bulunuyor. Bilhassa kısa metinler ve matematiksel içerikler, tespit edilme konusunda daha güçlü bir yapı sergiliyor.

OpenAI datalarına nazaran, bu tıp içeriklerde muvaffakiyet oranı yaklaşık yüzde 80 düzeyinde kalıyor. Metin üzerinde yapılan düzenlemeler de filigranın tespit edilme muvaffakiyetini düşüren faktörler arasında yer alıyor.

AB Yapay Zeka Yasası ve Uygulama Süreci

Avrupa Birliği’nin Yapay Zeka Yasası’nın 50. maddesi, üretken yapay zeka sağlayıcılarının metin çıktılarını makine tarafından okunabilir bir biçimde tanımlanabilir kılmasını mecburî tutuyor. Bu düzenleme, pazara yeni giren şirketlerin yanı sıra mevcut tüm kuruluşları da kapsıyor.

OpenAI ve Anthropic üzere şirketlerin yanı sıra Microsoft, Google ve Meta üzere devlerin de bu kurallara uyması gerekiyor. Mevcut kuruluşlar için belirlenen son ahenk tarihi ise 2 Aralık olarak açıklandı.

Filigran özelliği, Avrupa Birliği’ndeki uygun ChatGPT ve Codex çıktıları için varsayılan olarak etkin hale getirilecek. Öteki bölgelerdeki kullanıcılar ise makul modeller için bu özelliği isteğe bağlı olarak tercih edebilecek.

OpenAI, tespit yazılımına erişim konusunda başlangıçta daha temkinli bir yaklaşım sergiliyor. Yazılımın kullanımı, birinci kademede sadece onaylı araştırmacılar ve uzman kuruluşlarla sonlandırılacak.

Şirket, bu dedektörün kullanıcıyı tanımlamadığını yahut rastgele bir istemi ya da konuşmayı ifşa etmediğini vurguluyor. Ayrıyeten, geliştirilen teknolojinin açık kaynaklı hale getirilerek oburlarının da üzerinde çalışma yapmasına imkan tanınması planlanıyor.

OpenAI, hangi modellerin genel kullanıma sunulacağı konusunda şimdi net bir ayrıntı paylaşmadı. Bu teknolojik gelişme, yapay zeka içeriklerinin şeffaflığı konusunda değerli bir dönüm noktası olarak bedellendiriliyor.

Sizce yapay zeka tarafından üretilen içeriklere eklenen bu cins görünmez filigranlar, dijital dünyada güvenliği sağlamak için kâfi olacak mı?

Kaynak: Shiftdelete