Genç kullanıcılar için ek güvenlik tedbirleriyle sunulan ChatGPT for Teens, yapılan kapsamlı bir güvenlik değerlendirmesinde “kabul edilemez risk” kategorisine alındı. Birçok ebeveynin merak ettiği ChatGPT for Teens inançlı mi sorusu, bu test sonuçlarıyla birlikte tekrar gündeme geldi.

Binlerce istemle gerçekleştirilen testlerde ebeveyn bildirimleri, kriz anlarında verilen karşılıklar, yaş tespiti ve Study Mode üzere özellikler mercek altına alındı. OpenAI ise değerlendirmede kullanılan birtakım test yollarına ve elde edilen sonuçlara itiraz etti.

Güvenlik Testlerinde Ortaya Çıkan Eksiklikler

ChatGPT for Teens, 13 ile 17 yaş arasındaki kullanıcılar için hazırlanan ek güvenlik katmanlarını içeriyor. Bu sistem, mevcut ChatGPT tecrübesi üzerinde daha sıkı içerik sınırlamaları, ebeveyn denetimleri ve genç kullanıcılara yönelik ek müdafaa düzenekleriyle çalışıyor.

Yapılan değerlendirmede sistem 4 binden fazla istemle test edildi. Farklı yaşlarda tanımlanan hesaplar, ebeveyn hesabına bağlı profiller ve bağımsız hesaplar kullanılarak ChatGPT’nin genç kullanıcılarla farklı senaryolarda nasıl davrandığı incelendi.

Testlerin en fazla dikkat çeken kısımlarından biri ebeveyn bildirimleri oldu. İntihar, kendine ziyan verme ve yeme bozuklukları üzere yüksek riskli hususların işlendiği kimi görüşmelerde ebeveyn hesaplarına beklenen ihtarların ulaşmadığı tespit edildi.

Bazı hesaplarda bildirim sistemi çalışsa da ihtarların her riskli konuşmada devreye girmediği görüldü. Uzun müddetli ve çok sayıda iletinin gönderildiği test hesaplarında kendine ziyan verme, intihar yahut yeme bozukluklarıyla irtibatlı kimi durumlar ebeveynlere bildirildi.

Kriz anlarında ChatGPT’nin verdiği karşılıklar da test edildi. Ruh sıhhati, kendine ziyan verme ve acil dayanak gerektirebilecek yüzlerce istem kullanılarak sistemin profesyonel yardıma yönlendirme, kriz kaynakları sunma ve tehlikeli talepleri reddetme davranışı incelendi.

Sistem birtakım alanlarda güçlü sonuçlar verdi. Bilhassa yeme bozukluklarıyla kontaklı süratli kilo verme yolları, tehlikeli davranışların gizlenmesi ve emsal içeriklerde direkt yardımcı olmayı reddetti.

Bazı senaryolarda kullanıcıların bir yetişkine yahut sıhhat uzmanına başvurması gerektiğini de açık biçimde belirtti. Cinsel ve romantik rol yapma içeriklerinde uygulanan kısıtlamalar da testlerin değerli kısmında devreye girdi.

Genç kullanıcı hesaplarında yetişkinlere yönelik birtakım konuşma biçimlerinin engellendiği görüldü. ChatGPT’nin eğitim tarafındaki Study Mode özelliği de değerlendirmeye dahil edildi.

Sistem olağanda öğrenciyi direkt karşılığa götürmek yerine sorular, ipuçları ve adım adım açıklamalarla yönlendirecek formda çalışıyor. Lakin testlerde kimi durumlarda direkt karşılığa ulaşmanın mümkün olduğu görüldü.

Öğrencinin karşılığı açıkça istemesiyle sistemin ödev yahut soruların sonucunu verebildiği senaryolar ortaya çıktı. Ebeveynlerin belirleyebildiği Study Hours özelliğinde de benzeri bir durum yaşandı.

Çalışma saatleri sırasında ChatGPT’nin eğitim modunda kullanılmasını sağlayan sistemin kullanıcı tarafından aşılabildiği ve standart sohbet moduna dönülebildiği tespit edildi. Yaş kestirim sistemi de değerlendirmenin bir öteki değerli başlığı oldu.

Yetişkin olarak açılan birtakım test hesaplarında kullanıcı sohbet sırasında kendisini 13 yaşında olarak tanımlamasına karşın sistemin otomatik olarak gençlere özel moda geçmediği görüldü. OpenAI’nin yaş varsayım sistemi sadece kullanıcının sohbet sırasında söylediği yaşa bakmıyor.

Hesap bilgileri, kullanım alışkanlıkları, kullanım saatleri ve farklı davranışsal sinyaller birlikte bedellendiriliyor. Değerlendirmenin akabinde ChatGPT for Teens, 18 yaş altındaki kullanıcılar için “kabul edilemez risk” kategorisine yerleştirildi.

OpenAI’nin Değerlendirme Sürecine İtirazı

Genç kullanıcılar için sunulan müdafaa düzeneklerinin birtakım değerli senaryolarda gereğince dengeli çalışmadığı belirtildi. OpenAI ise bu değerlendirmeye katılmadığını açıkladı.

Şirket, genç kullanıcılar için ebeveyn denetimleri ve ek güvenlik sistemleri geliştirmeye devam ettiğini belirtti. Mevcut testlerin birtakım kısımlarının ChatGPT for Teens’in gerçek kullanım şartlarındaki çalışma biçimini tam olarak yansıtmadığını savundu.

OpenAI, genç ve ebeveyn hesaplarının birbirine bağlanmasının akabinde bazı güvenlik sistemlerinin büsbütün etkinleşmesinin vakit alabildiğini tabir etti. Şirket, testlerin bir kısmının bu aktifleşme süreci tamamlanmadan gerçekleştirilmiş olabileceğini belirtti.

Sizce yapay zeka uygulamalarında genç kullanıcılar için alınan güvenlik tedbirleri kâfi mi, yoksa daha sıkı kontroller mi gelmeli?

Kaynak: Shiftdelete