Yapay zeka teknolojilerinin süratle gelişmesi, beraberinde önemli güvenlik tartışmalarını da getiriyor. ABD hükümetinin Anthropic’in Claude Mythos modeline erişimi kısıtlama kararı, bu teknolojinin potansiyel risklerini bir defa daha gündeme taşıdı.

JPMorgan CEO’su Jamie Dimon, Pennsylvania Savunma ve İnovasyon Zirvesi’nde yaptığı konuşmada bu gelişmelere dikkat çekti. Dimon, kelam konusu yapay zeka modeline geniş erişim sağlanmasını “bireylere balistik füze vermek” olarak nitelendirdi.

Claude Mythos ve Güvenlik Riskleri

Claude Mythos modeli, şu an için sadece belli kuruluşlar, şirketler ve askeri departmanlar tarafından kullanılabiliyor. Modelin dünya genelindeki erişimi, içerdiği ciddi güvenlik potansiyeli sebebiyle büsbütün engellenmiş durumda.

Bu teknoloji, siber güvenlik açıklarını tespit etme ve otomatik olarak taarruz kodları geliştirme yeteneğine sahip. Uzmanlar, bu özelliklerin beyaz şapkalı siber güvenlik analistleri için savunma aracı olabileceğini, lakin berbat niyetli şahısların elinde yıkıcı bir güce dönüşebileceğini belirtiyor.

Otomatikleştirilmiş yetenekler, siber hatalıların fidye yazılımı, oltalama ve bilgi tabanlı dolandırıcılık faaliyetlerini ölçeklendirmesini kolaylaştırıyor. Yalnızca siber güvenlik değil, biyolojik araştırmalar üzere karmaşık alanlarda da bilginin berbata kullanımı konusunda önemli tasalar bulunuyor.

Anthropic, Claude Mythos’un yeteneklerinin gelecekte daha geniş kitlelere ulaşmasını hedefliyor. Fakat bu durumun gerçekleşmesi için öncelikle çeşitli güvenlik tedbirlerinin geliştirilmesi ve uygulanması gerekiyor.

Gelecekte Kamu Erişimi Mümkün mü?

Güvenlik değerlendirmeleri göz önüne alındığında, Claude Mythos’un yakın vakitte genel kullanıma açılması pek mümkün görünmüyor. Anthropic, modelin özelliklerini daha erişilebilir kılmak için çalışmalarını sürdürüyor.

En muhtemel senaryo, siber güvenlik ve biyolojik araştırmalar üzere kritik alanlarla ilgili özelliklerin kısıtlanarak modelin kamuya açılması olarak öne çıkıyor. Bu süreçte, Amazon Web Services, Apple, Broadcom, Cisco ve CrowdStrike üzere kıymetli ortakların yer aldığı Project Glasswing çalışmaları kritik bir rol oynuyor.

Proje kapsamında, güvenlik tedbirlerinin yeterliliği kanıtlanana kadar kısıtlı erişim modelinin devam etmesi bekleniyor. Teknoloji dünyasının bu denli güçlü araçların denetimi konusunda nasıl bir yol izleyeceğini düşünüyorsunuz?

Kaynak: Shiftdelete