Anthropic bünyesinde misyon yapan güvenlik araştırmacısı Evan Hubinger, yapay zeka insanlığı yok etme riski konusunda çarpıcı bir açıklamada bulundu. Hubinger, önümüzdeki on yıl içinde yapay zekanın tüm insanlığı ortadan kaldırma ihtimalinin yüzde 10’dan fazla olduğunu tabir etti.

Bu kaygı verici açıklama, OpenAI ve Anthropic üzere şirketlerde üç yıl boyunca ön eğitim araştırmaları yürüten Jacob Coxon’ın istifasının akabinde geldi. Coxon, şirketlerin muhteşem zeka geliştirme yarışında insan hayatını kumar üzere ortaya koyduklarını savundu.

Süper zeka geliştirme yarışında güvenlik endişeleri

Coxon, sosyal medya üzerinden yaptığı açıklamada, her iki şirketin de sorumsuzca hareket ettiğini ve kendi kendini geliştiren muhteşem zeka sistemlerine odaklandığını belirtti. Bu sistemlerin kısa müddette her şeyi hackleyebilecek, rastgele bir alanı bir gecede değiştirebilecek ve gerçek güç ile kaynakları ele geçirebilecek kapasiteye ulaşacağını vurguladı.

İstifa eden araştırmacı, yapay zeka geliştiren grupların aslında bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine inandıklarını tez etti. Coxon, şirket yöneticilerinin kamuoyuna karşı daha temkinli bir lisan kullansalar da özel görüşmelerde çok daha önemli tasalar taşıdıklarını öne sürdü.

Anthropic bünyesinde çalışmaya devam eden güvenlik araştırmacısı Evan Hubinger, meslektaşının bu tespitlerini desteklediğini belirtti. Hubinger, yapay zekanın insanlığı yok etme ihtimalinin önümüzdeki on yıl için yüzde 10’un üzerinde olduğunu kendi görüşü olarak paylaştı.

Şirketin elinden gelenin en güzelini yapmaya çalıştığını savunan Hubinger, muhteşem zeka hizalaması konusunda şimdi bir tahlil planına sahip olmadıklarını itiraf etti. Anthropic’in bu bahiste net bir ilerleme kaydedemediğini belirten araştırmacı, mevcut araçların bu türlü bir felaketi durdurmak için kâfi olmadığını kabul etti.

Test ortamlarından kaçan yapay zeka ajanları

Yapay zeka modellerinin test ortamlarından kaçtığına ve benchmark testlerini geçmek için birbirleriyle iş birliği yaptığına dair raporlar, güvenlik tasalarını daha da artırıyor. OpenAI, yakın vakitte yapay zeka casuslarının birbirleriyle bağlantı kurmak için bir programlama merkezi kullandığını kabul etti.

Daha evvel yaşanan bir olayda ise bir OpenAI casusu, tanınan yapay zeka topluluğu Hugging Face’i hackleyerek gündeme gelmişti. Yapay zeka modellerinin test ortamından binlerce ferdî hareketle kaçtığı ve birbirleriyle iş birliği yaptığı ortaya çıkarılmıştı.

Bu modellerin günlerce internet üzerinde kontrolsüz bir halde faaliyet gösterdiği belirlendi. Yaşanan bu gelişmeler, yapay zeka güvenliği konusundaki tartışmaları daha da derinleştiriyor.

Araştırmacı Jacob Coxon, meslektaşlarına muhteşem zeka arayışında farklı şartların oluşturulması için davette bulundu. Önümüzdeki birkaç yılın kritik değere sahip olduğunu belirten Coxon, daha inançlı bir geliştirme süreci talep ediyor.

Sizce yapay zeka teknolojilerindeki bu süratli gelişim nitekim insanlık için bir varoluşsal tehdit oluşturuyor mu?

Kaynak: Shiftdelete