Elon Musk liderliğindeki xAI şirketi tarafından geliştirilen sohbet botu Grok sosyal medya platformu X üzerinde kullanıma sunduğu yeni özellikle büyük bir etik krizin fitilini ateşledi. Kullanıcıların platformdaki görselleri anında düzenlemesine olanak tanıyan yeni araç hiçbir güvenlik filtresi olmaksızın insanların kıyafetlerini değiştirebiliyor veya onları tamamen farklı formlara sokabiliyor. Ortaya çıkan sonuçlar ise teknolojinin karanlık yüzünü bir kez daha gözler önüne serdi.

Grok reşit olmayanları bile hedef alıyor

Sisteme eklenen Görüntü Düzenle özelliği sayesinde kullanıcılar orijinal fotoğraf sahibinin izni veya haberi olmadan görseller üzerinde manipülasyon yapabiliyor. The Verge tarafından aktarılan bilgilere göre platformda son günlerde reşit olmayan çocukların ve kadınların fotoğraflarının rızaları dışında bikinili veya müstehcen hallere dönüştürüldüğü binlerce içerik türedi. Grok normal şartlarda tamamen çıplaklığa izin vermese de etekleri kaldırmak veya kıyafetleri mayo ile değiştirmek gibi komutları sorgusuz sualsiz yerine getiriyor.

Elon Musk duruma esprili yaklaştı

Krizin büyümesine neden olan faktörlerden biri de bizzat şirket sahibi Elon Musk oldu. Ünlü milyarder yapay zekayı kullanarak kendisini ve aktör Ben Affleck ismini taşıyan bir görseli bikinili hale getirerek paylaştı. Gelen tepkiler üzerine Grok her şeye bikini giydirebilir diyerek bir tost makinesi görseli paylaşan Musk durumu hafife almakla eleştiriliyor. Şirket ise Reuters gibi haber ajanslarının konuyla ilgili sorularına sadece Geleneksel Medya Yalanları şeklinde kısa bir yanıt vermekle yetindi.

Güvenlik önlemleri ve yasal endişeler

Rakip firmalar olan Google ve OpenAI geliştirdikleri video ve görsel araçlarında katı güvenlik duvarları uygularken Grok modelinde bu tarz sınırlamaların olmaması endişe yaratıyor. Özellikle çocukların fotoğraflarının cinsel içerikli materyallere dönüştürülmesi ABD yasalarına göre suç teşkil edebilir. Uzmanlar deepfake teknolojisinin bu kadar kolay ve denetimsiz kullanılmasının kişisel hak ihlallerini artıracağı konusunda hemfikir. Grok ise kendisine yöneltilen eleştirilere bunların sadece istek üzerine yapılan üretimler olduğu savunmasıyla yanıt veriyor.

Peki siz yapay zeka araçlarının bu denli serbest ve denetimsiz bırakılması hakkında ne düşünüyorsunuz? Yorumlarda görüşlerinizi bekliyoruz.