OpenAI firmasına ilişkin Sora 2’nin bilhassa kamuoyunda tanınmış kişi ve fenomenlere yönelik manipülatif içerikler üretmesi, platformun etik sonlarını ve güvenlik tedbirlerini tartışmaların odağına taşıdı.

Konu, OpenAI CEO’su Sam Altman, yatırımcı Mark Cuban ve YouTuber Jake Paul üzere şahısların, hiçbir gerçek kaynağı olmadan “ırkçı söylemler” kullanmış üzere gösterildiği görüntülerle başladı. Bu içerikler, toplumsal medyada süratle yayılarak kullanıcıların yansısını çekti.

Cameo Özelliği Nasıl Suistimal Ediliyor?

Sora 2, kullanıcıların kendi kısa görüntülerini uygulamaya yükleyip “cameo” özelliğiyle bunları manipüle edilmiş görüntülere entegre etmelerine müsaade veriyor. Bu özellik, son devirde berbata kullanımla öne çıktı. Copyleaks’in yaptığı incelemeye nazaran kullanıcılar, 2020’de bir uçakta meydana gelen ırkçı bir olayı yine kurgulamak için uygulamayı kullanıyor. Bunun temeli, benzeri fonetikli sözlerle (homofonlar) filtreleri atlatma yaklaşımı. Örneğin;

• Altman’ın dijital versiyonu, görüntülerde “I hate knitters” üzere tabirler kullanıyor.
• Jake Paul’un görüntülerinde kullanılan “neck hurts” kelamı, aşikâr kümelere yönelik ima içeriyor.

Bu şekil içerikler birinci etapta Sora 2 içinde hudutlu erişime sahip olsa da toplumsal medya platformlarında geniş kitlelere ulaşıyor. TikTok’ta milyonlarca görüntüleme alması bunun göstergesi.

Güvenlik Filtreleri Kâfi Mi?

Sora 2, açık halde hakaret ve nefret telaffuzlarını bastırmak için özel filtrelerle donatılmış durumda. Lakin kullanıcılar, küçük değişikliklerle ve söz oyunlarıyla bu filtreleri kolaylıkla atlatabiliyor. Böylelikle sistemin güvenlik tedbirleri önemli biçimde sorgulanıyor.

Uzmanlara nazaran, teknik filtreler sırf birinci savunma sınırını oluşturur; platformların kullanıcı davranışlarını tespit eden, makine öğrenmesi dayanaklı doğrulama düzenekleri geliştirmesi koşul.

Ünlülerin Prestij Riski Oluşuyor

Deepfake içeriklerin yayılması yalnızca ferdi prestijleri zedelemekle kalmıyor, toplumsal algı ve itimadı de sarsıyor. Bilhassa kamuoyuna mal olmuş şahıslar amaç alındığında, toplumsal kutuplaşmayı körükleme riski artıyor. Ayrıyeten, bu cins içeriklerin tüzel boyutu da büyük soru işaretleri doğuruyor. Ünlülerin müsaadesi olmadan dijital kopyalarının kullanılması, kişilik hakları ve fikri mülkiyet açısından önemli yasal açmazlara neden olabilir.

Aşağıdaki haberden de göreceğiniz üzere birtakım tedbirler alınıp açıklamalar yapılsa da Cameo özelliği hala suistimal ediliyor.

Platformdan Beklenen Çözümler

Bu krizin gölgesinde uzmanlar, teknoloji platformlarına önemli vazifeler yüklüyor:

1. Denetim düzeneklerinin güçlendirilmesi: Yalnızca filtrelerle yetinmeyip, yapay zekâ tabanlı içerik doğrulama sistemleri geliştirilmeli.
2. Kullanıcı müsaadesi ve kimlik doğrulama: Ünlü bireylerin simülasyonlarına müsaade verilmeden evvel kimlik ve müsaade doğrulaması istenmeli.
3. Şeffaflık raporlaması: Üretilen içerik afişleri, algoritma kararları ve ihlal geçmişi kamuoyu ile paylaşılmalı.
4. Yasal düzenlemeler: Devletler ve kurumlar, derin uydurma içeriklerin denetimli kullanımına dair türel yeri netleştirmeli.

Sora 2, yapay zekayla üretilmiş içeriklerin sonlarını zorlarken tıpkı vakitte bir testi de temsil ediyor: Teknoloji, etik ve güvenlik nasıl dengelenmeli? Bu olay, dijital çağda görmek her vakit gerçek midir? sorusunun ehemmiyetini tekrar ortaya koyuyor. Uygulamalar, etik ve türel sonları göz arkası etmeksizin ilerlemeli. Aksi halde toplumsal itimat, en büyük kayıp olacak.