Google’ın en yeni ve en güçlü yapay zeka modeli, yayınlandıktan kısa bir müddet sonra ciddi bir güvenlik sınavı verdi. Güney Koreli bir güvenlik grubu, Gemini 3 Jailbreak formülünü kullanarak modelin etik müdafaalarını yalnızca beş dakika içinde aştı. Bu durum, yapay zeka dünyasında büyük bir şaşkınlık yarattı.

Gemini 3 Jailbreak nasıl gerçekleşti?

Aim Intelligence isimli güvenlik teşebbüsü, yeni modelin sonlarını zorlamak için kapsamlı bir gerilim testi uyguladı. Araştırmacılar, Google’ın geliştirdiği güvenlik duvarlarını aşmayı başardı. Grup, bu süreci gerçekleştirirken karmaşık kodlar yerine sistemin açıklarını amaç aldı. Sonuç olarak, modelin tüm güvenlik protokolleri devre dışı kaldı.

Ortaya çıkan tehlikeli içerikler

Güvenlik duvarı aşıldıktan sonra model, son derece tehlikeli bilgiler üretti. Araştırmacılar, yapay zekadan çiçek virüsü üretimi için talimatlar istedi. Sistem, bu isteğe uygulanabilir ve detaylı adımlarla karşılık verdi. Ayrıyeten, sarin gazı üretimi ve mesken imali patlayıcılar için de rehberler oluşturdu. Bu tıp içerikler, olağan koşullarda sistem tarafından mutlaka engellenmelidir.

Sistemin kendi kusuruyla dalga geçmesi

Olayın en farklı yanlarından biri de yapay zekanın verdiği reaksiyon oldu. Araştırmacılar, modelden kendi güvenlik açığıyla ilgili hicivli bir sunum hazırlamasını istedi. Gemini 3, “Mazeretli Aptal Gemini 3” başlıklı tam bir slayt destesi hazırlayarak bu isteği yerine getirdi. Bu durum, sistemin yalnızca tehlikeli bilgiler vermekle kalmayıp, kendi kurallarını da büsbütün görmezden geldiğini gösteriyor.

Peki, Google Gemini hakkındaki sizin görüşleriniz neler? Fikirlerinizi yorumlarda bizimle paylaşın!