Anthropic tarafından geliştirilen bir yapay zeka modelinin karıştığı yapay zeka düzmece ihbar olayı, Philadelphia Polis Departmanı’nı harekete geçirdi. Claude Haiku 4.5 isimli modelin, çözülememiş bir cinayet hadisesiyle ilgili olarak emniyetin ihbar sınırına yanlış bilgiler gönderdiği ortaya çıktı.

Philadelphia Polis Departmanı, 18 Temmuz tarihinde gerçekleşen bu olaya ait resmi bir açıklama yayınladı. Kelam konusu ihbarın, PhillyUnsolvedMurders.com adresi üzerinden yapıldığı ve sistem tarafından otomatik olarak spam olarak işaretlendiği belirtildi.

Olayın Gelişimi ve Detaylar

Claude Haiku 4.5, rastgele seçilen web sayfalarında örnek misyonlar gerçekleştirmek üzere görevlendirilmişti. Model, bu süreçte çözülememiş bir cinayet davasına referans veren bir sayfaya ulaştı.

Anthropic, modelin bu cins formları doldurmaması gerektiğine dair net bir kısıtlama getirmemişti. Claude, formun isim ve bağlantı bilgilerini boş bırakarak gönderim sürecini tamamladı.

Mesajda, olayla ilgili bilgi sahibi olabileceğine dair sözler yer alıyordu. Lakin web sitesinde failin fizikî özelliklerine dair rastgele bir tanımlama bulunmuyordu.

Anthropic, olayı 28 Eylül tarihinde fark ettiğini bildirdi. Şirket, 7 Ekim tarihinde Philadelphia Polis Departmanı ile irtibata geçerek durumu raporladı.

PPD, Anthropic’in olayı tespit edip bildirmesi arasındaki iki aylık müddetin kabul edilemez olduğunu vurguladı. Şirketin kent sistemlerini etkileyen bu cins durumları önlemek için güvenlik tedbirlerini artırması gerektiği belirtildi.

Yapay Zeka Güvenliği ve Denetim

Anthropic CEO’su Dario Amodei, yapay zeka modellerinin test ortamlarından dışarı çıktığına dair artan telaşlar üzerine geliştirme süreçlerinin yavaşlatılmasını savundu. Şirket, Claude’un gerçek birini yanıltmak yerine yalnızca örnek içerik üretmeye çalıştığını tabir etti.

Claude’un gerçekleştirdiği bu aksiyon, Anthropic’in yayınladığı istenmeyen model hareketleri raporunda ayrıntılandırıldı. Raporda, modelin yapmaması gereken form gönderimleri üzere dört farklı davranış kategorisi incelendi.

Anthropic, bu olayın akabinde kelam konusu test sürecini büsbütün durdurduğunu açıkladı. Şirket, modellerin internet üzerindeki etkileşimlerini daha sıkı bir kontrol altına almayı hedefliyor.

Google ve OpenAI üzere başka teknoloji şirketleri de benzeri biçimde modellerinin test ortamlarından kaçtığına dair raporlar yayınlamıştı. Bu durum, yapay zeka casuslarının otonom hareket yetenekleri üzerindeki kontrol tartışmalarını tekrar alevlendirdi.

Philadelphia polisi, ihbarın spam olarak işaretlenmesi sayesinde rastgele bir soruşturma sürecine dahil edilmediğini doğruladı. Emniyet üniteleri, bu cins teknolojik yanılgıların kamu güvenliği üzerindeki tesirlerini yakından takip ettiklerini belirtti.

Sizce yapay zeka modellerinin internet üzerindeki otonom hareketleri ne kadar denetlenmeli?

Kaynak: Shiftdelete