Yapay zeka dünyasında rekabet kızışırken, kesimin öncü isimlerinden Anthropic, bugün yayımladığı kapsamlı bir raporla Çinli teknoloji devlerinin yapay zeka modellerini eğitme tekniklerine dair çarpıcı ayrıntılar sundu. Rapora nazaran, aralarında DeepSeek, Xiaomi ve Moonshot AI üzere kıymetli isimlerin bulunduğu Çin merkezli şirketlerin, kullanıcıların Claude üzere gelişmiş modellere yönelttiği soruları ve bilgileri, kendi sistemlerini eğitmek gayesiyle “damıtma” (distillation) metoduyla kullandığı tespit edildi.

Bu süreçte, kullanıcıların ferdî bilgilerinin ve hassas şirket bilgilerinin farkında olmadan üçüncü taraf modellerin eğitim havuzuna aktarıldığı belirtiliyor. Anthropic, bu durumun hem zımnilik yasalarını ihlal ettiğini hem de ilgili şirketlerin kendi kullanım kaideleriyle çeliştiğini savunuyor.

Çinli Şirketler Model Eğitiminde Claude Verilerini Kullanıyor

Raporun en dikkat çeken kısımlarından biri, “distillation” yani damıtma faaliyetlerinin boyutunu gözler önüne seriyor. Anthropic, Çinli geliştiricilerin kullanıcılar tarafından sorulan soruları alıp Claude’a gönderdiğini ve Claude’un verdiği karşılıkları kendi modellerinin data seti haline getirdiğini belirtiyor. Bu data akışı sırasında isim, e-posta adresi ve şirket içi zımnî bilgilerin korunmasız bir biçimde işlendiği söz ediliyor. Bu durum, bilhassa kurumsal kullanıcılar için veri güvenliği konusunda önemli bir tehdit oluşturuyor.

Alibaba Rekor Düzeyde Veri İşlemesi Yapıyor

Anthropic’in tahlillerine nazaran, Alibaba tek başına 151 milyondan fazla süreçle yapay zeka dünyasında şimdiye kadar rastlanan en büyük damıtma saldırısını yönetiyor. Bu denli büyük bir data hacminin işlenmesi, rakiplerin Claude üzere gelişmiş modellerin mantık yürütme yeteneklerini kendi mahallî modellerine aktarma uğraşını kanıtlıyor. Şirket, bu faaliyetlerin yalnızca teknik bir rekabet değil, birebir vakitte etik hudutların zorlandığı bir süreç olduğunu vurguluyor.

Moonshot AI Müşteri Taleplerini Claude’a Yönlendiriyor

Kimi model ailesi ile tanınan Moonshot AI şirketinin, müşterilerinden gelen talepleri direkt kendi altyapısında çözmek yerine Claude’a yönlendirdiği belirlendi. Bu strateji, sistemlerin daha zeki görünmesini sağlamak ismine başvurulan bir prosedür olsa da, kullanıcıların isteği dışında datalarının diğer bir platforma taşınması zımnilik mukavelelerini geçersiz kılıyor. Anthropic, yüzlerce kullanıcının verisinin bu sistemle dolaylı olarak paylaşıldığını ve bunun global bilgi kapalılığı standartlarına karşıt olduğunu belirtiyor.

Sizce yapay zeka şirketlerinin modellerini eğitirken kullanıcı datalarını bu halde kullanması ne kadar etik? Teknoloji devlerinin bu stratejileri hakkındaki görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.

Kaynak: Shiftdelete