Meta, gençlerin Instagram, Facebook yahut Meta Horizons üzerindeki yapay zeka sohbetlerinde intihar yahut kendine ziyan verme mevzularını konuşmaları durumunda ebeveynleri uyaracak yeni bir özellik başlattı. Bu sistemden faydalanmak isteyen ebeveynlerin, Meta’nın sunduğu aile kontrol araçlarını faal hale getirmeleri ve denetlemek istedikleri hesapları seçmeleri gerekiyor.

Yeni özellik, platformun mevcut güvenlik tedbirlerini desteklemek hedefiyle devreye alınıyor. Meta, gençlerin kendine ziyan verme kanılarına dair işaretler algıladığında, onları kriz sınırlarına yönlendirmeye ve yetişkinlerden yardım istemeye teşvik etmeye devam ediyor.

Ebeveynlere yönelik yeni güvenlik önlemleri

Meta, yapay zekanın sohbetlerdeki ince referansları bile tespit etmeyi hedeflediğini fakat her işaretlenen içeriğin manuel olarak inceleneceğini belirtiyor. Şirket, ebeveynlerin bu bildirimleri almasının üzücü olabileceğini kabul ederek, yanlışlı bildirim riskine karşı temkinli bir yaklaşım sergiliyor.

Belirsiz durumlarda dahi ebeveynleri bilgilendirmeyi tercih eden şirket, bu sistemi bir başlangıç noktası olarak görüyor. Ebeveynlerin çocuklarının hesaplarını denetleyebilmesi için öncelikle aile kontrol ayarlarını yapılandırmaları gerekiyor.

Bu yeni özellik şu an için ABD, Kanada, İngiltere ve Avustralya’da kullanıma sunulmuş durumda. Meta, Facebook ve Instagram gönderilerinde intihar riski tespit ettiğinde acil durum servislerini bilgilendirme uygulamasını, gelecekte Meta AI sohbetleri için de genişletmeyi planlıyor.

Acil durum müdahale kapasitesi genişliyor

Şirket, Meta AI ile yapılan görüşmelerde bir kişinin kendine ziyan verme riski taşıdığı durumlarda acil durum servisleriyle bağlantıya geçebilmek için çalışmalar yürütüyor. Geçtiğimiz yıl dünya genelinde 19 binden fazla yönlendirme yapan Meta, bu sayede birinci müdahale takımlarının risk altındaki bireylere ulaşmasına yardımcı oldu.

Meta, gençlerin ve yetişkinlerin bu tıp durumlarda profesyonel dayanak almalarını değerle vurguluyor. Bireyler, 988 İntihar ve Kriz Hattı üzere kaynaklara başvurarak yahut acil servisleri arayarak yardım talep edebiliyor. Meta’nın gençlerin güvenliğini artırmaya yönelik bu yeni adımı hakkında siz neler düşünüyorsunuz?

Kaynak: Shiftdelete