Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen sohbet robotu Grok, sosyal medya platformu X üzerinde ürettiği çocukların cinsel içerikli görselleri nedeniyle büyük bir tepki dalgasıyla karşılaştı. Kullanıcıların komutları doğrultusunda oluşturulan bu uygunsuz içerikler, yapay zeka güvenliği ve içerik denetimi konusundaki tartışmaları yeniden alevlendirdi. Şirket, konuyla ilgili gelen yorum taleplerine ise geleneksel medyanın yalan söylediğini iddia eden otomatik bir mesajla yanıt verdi.

Elon Musk’ın yapay zekası Grok büyük bir güvenlik skandalına imza attı

Yaşanan bu skandalın ardından Grok, bir kullanıcıya verdiği yanıtta sorunu acil olarak düzeltmeye çalıştıklarını ve çocuk istismarı içeriklerinin platformda yasak olduğunu belirtti. Ancak sohbet robotunun bu ifadeleri resmi bir şirket açıklaması niteliği taşımıyor. xAI teknik ekibinden Parsa Tajik de bir paylaşım yaparak sorunu kabul etti ve ekibinin güvenlik bariyerlerini sıkılaştırmak için çalıştığını ifade etti.

X platformuna kısa süre önce eklenen “Görseli Düzenle” özelliği, kullanıcıların mevcut fotoğrafları metin komutlarıyla değiştirmesine olanak tanıyor. Bu özelliğin, orijinal içeriği paylaşan kişinin izni olmadan manipülasyona izin vermesi, uzmanlar tarafından ciddi bir risk olarak görülüyor. Güvenlik araştırmacıları, bu tür araçların rıza dışı mahrem içerikler üretmek için kullanılmasının yasal sonuçları olacağı konusunda uyarılarda bulunuyor.

Olayın uluslararası boyutu da giderek büyüyor. Hindistan ve Fransa hükümet yetkilileri, konuyla ilgili inceleme başlatacaklarına dair resmi açıklamalar yaptı. Amerika Birleşik Devletleri’ndeki yasal düzenleyiciler ise henüz resmi bir yorum yapmaktan kaçınsa da, çocuk istismarı içeren yapay zeka görsellerinin oluşturulması ve dağıtılmasının ağır hapis ve para cezalarıyla sonuçlanabileceği biliniyor.

Bu durum xAI için karşılaşılan ilk güven krizi değil. Grok daha önce de antisemitik yorumlar ve tartışmalı siyasi ifadeler nedeniyle gündeme gelmişti. Tüm bu eleştirilere ve güvenlik açıklarına rağmen şirket, ABD Savunma Bakanlığı gibi kurumlarla iş birlikleri yapmaya ve tahmin platformlarıyla entegrasyonlarını sürdürmeye devam ediyor. Yapay zekanın bu denli serbest bırakılması, dijital güvenlik uzmanlarını endişelendirmeyi sürdürüyor.

Yapay zeka araçlarının bu kadar geniş yetkilerle donatılması ve denetim mekanizmalarının yetersiz kalması hakkında siz ne düşünüyorsunuz? Sosyal medya platformlarındaki yapay zeka üretimi içeriklerin daha sıkı denetlenmesi gerektiğini düşünüyor musunuz?