xAI tarafından geliştirilen Grok sohbet botu, başka yapay zeka şirketlerine kıyasla daha az kısıtlamaya sahip olmasıyla dikkat çekiyor. Yeni bir rapora nazaran, bu strateji şirketin kullanıcı trafiğinin büyük bir kısmını direkt etkiliyor.

The Information tarafından yayınlanan rapora nazaran, Grok üzerindeki trafiğin yarısından fazlası NSFW yani uygunsuz içeriklerden oluşuyor. İki eski xAI çalışanına dayandırılan bilgiler, kullanıcıların sohbet botunu erotik içerik üretmek ve yetişkinlere yönelik rol yapma sohbetleri için yoğun bir halde kullandığını ortaya koyuyor.

Grok Kullanımında Beklenmedik Eğilimler

Kullanıcıların, kod yazmak için tasarlanmış modellerin daha uygun maliyetli olduğunu keşfettikleri ve bu modelleri pornografik içerik üretmek için kullandıkları belirtiliyor. Şirket içi tahliller, kodlama modeline gelen isteklerin değerli bir kısmının çıplak manzara yahut pornografik içerik talebi olduğunu gösteriyor.

SpaceX, yatırımcılarına Grok’un daha kural tanımaz özelliklerinin bir risk oluşturabileceğini bildirmiş durumda. Şirket, mümkün yasal süreçler için 530 milyon dolarlık bir bütçe ayırdığını açıkladı.

Şirket İçi Zorluklar ve Gelecek Riskleri

xAI mühendisleri, bir yandan kullanıcıların cinsel içerikli sohbet taleplerini yönetmeye çalışırken öteki yandan çocuk istismarı üzere yasa dışı içerikleri engellemek için uğraş harcıyor. Bu durumun teknik olarak süratli bir tahlilinin bulunmadığı söz ediliyor.

Grok’un anime şekli avatarı Ani üzerinde çalışan kimi çalışanların, bu süreçlerden rahatsızlık duyduğu belirtiliyor. Ayrıyeten, gerçek bireylerin ve çocukların cinsel içerikli görsellerinin oluşturulmasıyla ilgili yaşanan skandallar, şirket içinde önemli bir huzursuzluk yaratmış durumda.

X platformu üzerinden direkt yapılan kimi düzenlemelerle gerçek şahısların görselleriyle istek dışı içerik oluşturulması kısıtlanmış olsa da, fiyatlı abonelerin bu tıp malzemeleri üretmeye devam edebildiği testlerle doğrulanıyor.

xAI’nin hükümet kurumları ve ordu ile yaptığı mutabakatlar, bu çeşit içerik odaklı bir yapay zeka modeli için gelecekte yeni zorluklar doğurabilir. Federal hükümetle olan bağların bu tartışmalı olaylardan nasıl etkileneceği ise şimdi belirsizliğini koruyor.

Sizce yapay zeka modellerinin bu tıp içeriklere müsaade vermesi şirketlerin ticari başarısı için gerekli bir strateji mi yoksa büyük bir risk mi?

Kaynak: Shiftdelete