OpenAI, yapay zeka tarafından oluşturulan içeriklerin tespit edilmesini kolaylaştırmak gayesiyle değerli güncellemeler duyurdu. Şirket, içeriklerin yapay zeka eseri olduğunu belirtmek için çok katmanlı bir doğrulama yaklaşımına geçiş yapıyor.

Bu kapsamda OpenAI, mevcut C2PA içerik kimlik bilgilerine ek olarak Google’ın SynthID filigran teknolojisini kullanmaya başlayacağını açıkladı. İki sistemin birbirini tamamlayıcı bir yapıda olduğu ve daha güçlü bir doğrulama süreci sunduğu belirtiliyor.

Çok katmanlı doğrulama ve yeni portal

C2PA standardı içeriklerin nasıl oluşturulduğuna dair ayrıntılı bağlam sağlarken, SynthID filigranları ekran imgesi üzere dönüşümlerde bile varlığını koruyabiliyor. OpenAI, bu iki prosedürün bir ortada kullanılmasının, meta dataların silindiği durumlarda bile içeriklerin kökenini doğrulamaya yardımcı olacağını tabir ediyor. SynthID filigranları başlangıç etabında ChatGPT, Codex ve OpenAI API üzerinden üretilen görsellere uygulanacak.

Şirket ayrıyeten kullanıcıların görsellerin yapay zeka tarafından oluşturulup oluşturulmadığını denetim edebileceği yeni bir halka açık doğrulama portalını ön izlemeye açtı. Kullanıcılar bu portala bir görsel yüklediklerinde, sistem C2PA ve SynthID sinyallerini tarayarak içeriğin OpenAI araçlarıyla üretilip üretilmediğini tespit etmeye çalışıyor. Şirket, bu portalın şimdilik yalnızca kendi araçlarıyla üretilen görselleri desteklediğini lakin ilerleyen periyotta başka doğrulama sistemlerini de kapsayacak biçimde genişleyeceğini belirtiyor.

Güvenlik ve sınırlamalar

OpenAI, hiçbir tespit sisteminin kusursuz olmadığını vurgulayarak, doğrulama süreçlerinde temkinli bir yaklaşım sergiliyor. Şayet bir görselde meta bilgi yahut filigran bulunamazsa, araç görselin mutlaka OpenAI araçlarıyla üretilmediğine dair bir yargıda bulunmuyor.

Bu durum, köken sinyallerinin birtakım durumlarda basitçe silinebilmesi yahut platformlar tarafından kaldırılabilmesi nedeniyle bir mecburilik olarak görülüyor.

Buna ek olarak OpenAI, C2PA Uyumluluk Programı’na katıldığını da duyurdu. Bu program, eserlerin içerik kimlik bilgileri spesifikasyonlarına uygunluğunu ve güvenlik ihtiyaçlarını karşıladığını garanti altına almayı amaçlıyor.

Şirket daha evvel de görsellerine C2PA dataları ekliyordu lakin bu bilgilerin platformlar ortası geçişlerde kaybolması, tespit süreçlerini zorlaştırıyordu. Yeni çok katmanlı yapının bu cins bilgi kayıplarına karşı daha dirençli olması hedefleniyor.

Sizce bu yeni doğrulama metotları, yapay zeka kaynaklı içeriklerin takibinde gereğince tesirli olacak mı?

Kaynak: Shiftdelete