Claude geliştiricisi Anthropic, yapay zeka modellerinin internete bağlı aygıtlar üzerinden yapay zeka kendi kendini kopyalama yeteneğine sahip olabileceği düzeye yaklaştığını duyurdu. Bu durum, merkezi bir denetim noktası olmadan yayılan sistemlerin önemli siber güvenlik riskleri oluşturabileceğini gösteriyor.

Şirket tarafından yayımlanan yeni bir araştırma, bu modellerin önümüzdeki birkaç ay içinde kendi kendini çoğaltmak için gereken yeteneklere ulaşabileceğine işaret ediyor. Berbat niyetli bir yapay zeka modeli, internete bağlı aygıtlara sızarak bu aygıtların süreç gücünü kullanabilir ve kendisini öbür sistemlere aktarabilir.

Kendi kendini çoğaltan yapay zeka senaryosu

Bu senaryoda akıllı fırınlar, Android TV box aygıtları ve gibisi düşük maliyetli donanımlar potansiyel maksatlar arasında yer alıyor. Güvenlik tedbirleri zayıf olan bu aygıtlar, berbat niyetli yazılımların sisteme sızmasını kolaylaştırabilir.

Ele geçirilen aygıtların süreç gücü bir araya getirilerek yapay zeka modelinin çalışması ve yeni aygıtlara yayılması sağlanabilir. Böylelikle kıymetli data merkezlerine gereksinim duymadan geniş bir ağa yayılmak mümkün hale gelebilir.

Anthropic, bu ihtimali kıymetlendirmek için çeşitli deneyler gerçekleştirdi. Google’ın Gemma4-26B-A4B adlı modeli, düşük maliyetli ve markasız 15 Android TV box aygıtından oluşan bir ağ üzerinde çalıştırıldı.

Şirket, deneylerin kolaylaştırılmış bir test ağı üzerinde gerçekleştirildiğini ve modellerin kendi kendini çoğaltma sürecinin birtakım evrelerini yerine getirebildiğini bildirdi. Bununla birlikte Anthropic, tüm kademeleri muteber biçimde tamamlayarak bağımsız halde yayılabilen büsbütün denetimden çıkmış bir sistemin şimdi ortaya konmadığını kabul ediyor.

Teknik zorluklar ve gelecek öngörüleri

Yapay zeka modellerinin kendi kendini çoğaltmasının önündeki temel manilerden biri, modellerin çalışmak için gereksinim duyduğu donanım kaynaklarıdır. Büyük modellerin düşük donanım kapasitesine sahip aygıtlara taşınması ve bu aygıtlarda verimli halde çalıştırılması epey zordur.

Anthropic’e nazaran bu mahzur, modelin farklı modüllere ayrılmasıyla aşılabilir. Şirket, 30 milyar yahut daha az parametreye sahip orta ölçekli modellerin, kendi kendini çoğaltmak için gereken süreçlerin değerli bir kısmını gerçekleştirebildiğini belirtiyor.

Bir aygıta sığmayacak büyüklükteki modelin ise farklı donanımlarda çalıştırılabilecek alt ünitelere ayrılması mümkün olabilir. Bu yaklaşımda çok sayıda düşük maliyetli aygıtın süreç gücü ortaklaşa kullanılabilir.

Anthropic, gelecekte tek bir modelin yerine farklı donanımlarda çalışan, çeşitli çoğalma metotları kullanan birden fazla modelden oluşan bir ağın ortaya çıkabileceğini pahalandırıyor. Şirketin daha ileri senaryoları arasında, yapay zeka sistemlerinin daha güçlü süreç kaynaklarına ulaşmak için data merkezlerine sızması da bulunuyor.

Anthropic, kendi kendini çoğaltan bir sistemin yayılmasını engellemenin zorlaşması konusunda uyarıyor. Klâsik bir hizmetin kapatılması için merkezi sunucuların devre dışı bırakılması kâfi olabilirken çok sayıda aygıta dağılmış bir yapay zeka ağı tıpkı formda denetim edilemeyebilir.

Şirket, bu türlü bir sistemin kapatılmasını zorlaştıran temel ögenin devre dışı bırakılabilecek tek bir merkezi noktanın bulunmaması olduğunu vurguluyor. Modelin farklı aygıtlarda bağımsız halde çalışması, kimi aygıtlar temizlense bile oburlarının faaliyetlerini sürdürmesine imkan tanıyabilir.

Geçtiğimiz ay Anthropic CEO’su Dario Amodei, yapay zekanın önümüzdeki bir yıl içinde yahut daha kısa müddette kalıcı bir botnet aracılığıyla internetin tamamını ele geçirmeye yaklaşabileceği ihtimalini gündeme getirmişti. Anthropic, küçük modellerin geçmişteki gelişim suratını müdafaası halinde otonom çoğalma için gerekli yeteneklere 2026 yılının sonuna kadar ulaşabileceğini öngörüyor.

Sizce yapay zeka modellerinin bu biçimde kendi kendine çoğalabilmesi, dijital güvenlik anlayışımızı kökten değiştirecek bir tehdit mi?

Kaynak: Shiftdelete