Ocak 2025’te Nashville, Tennessee’deki bir lisede gerçekleşen ve iki kişinin vefatıyla sonuçlanan silahlı taarruzdan sağ kurtulan bir öğrenci, olay anında silahı tespit edemeyen güvenlik sistemi üreticisine dava açtı. Kelam konusu yapay zeka dayanaklı silah tespit sisteminin üreticisi Omnilert, ihmalkarlıkla suçlanıyor.

Davidson County mahkemesine sunulan dava belgesinde, Omnilert şirketinin sistemin operasyonel kısıtlamalarını bildiği yahut bilmesi gerektiği tez ediliyor. Şikayet dilekçesinde kamera yerleşimi, ışıklandırma, silahın kameraya olan yakınlığı ve açısı üzere faktörlerin sistemin çalışmasını engellediği belirtiliyor.

Sistem kısıtlamaları ve pazarlama iddiaları

Metropolitan Nashville Devlet Okulları (MNPS) idaresi, 2023 yılında bölge genelindeki kamera ağına entegre edilmek üzere 1 milyon doların üzerinde bir kontrat imzalamıştı. Fakat hücum sonrası açıklama yapan MNPS sözcüsü Sean Braisted, saldırganın kameralara olan pozisyonu nedeniyle sistemin silahı tespit edemediğini ve alarmın devreye girmediğini tabir etti.

Dava belgesi, Omnilert şirketinin web sitesindeki pazarlama tabirlerinin aldatıcı olduğunu öne sürüyor. Şirketin, eserinin Marjory Stoneman Douglas Lisesi’ndeki üzere trajedileri önleyebileceği istikametindeki tezleri, sistemin gerçek dünyadaki kısıtlamaları göz arkası edilerek sunulduğu gerekçesiyle eleştiriliyor.

Saldırıdan yalnızca günler evvel arşivlenen web sitesi kayıtlarına nazaran, şirket rastgele bir kusur hissesi yahut tespit sınırlamasına dair bilgi paylaşmıyordu. Davacı avukatlarından Chris Smith, sistemin sadece muhakkak şartlar altında tesirli olmasının güvenlik açısından önemli bir sorun teşkil ettiğini savunuyor.

Şirketlerden karşılık gelmedi

Dava sürecinde Omnilert’in kurucu ortağı Ara Bagdasarian, yöneltilen sorulara karşılık vermeyi reddetti. Sistemin kurulumunu gerçekleştiren ve yine satışını yapan öteki sanık System Integrations da mevzuyla ilgili sessizliğini koruyor.

Yapay zeka tabanlı güvenlik tahlillerinin okullarda kullanımı, bu cins hadiselerle birlikte daha fazla tartışılmaya başlandı. Teknolojinin vaat ettikleri ile alandaki gerçek performansı ortasındaki bu uçurum, hukuk etraflarında değerli bir gündem unsuru haline geldi.

Bu cins güvenlik teknolojilerinin okullarda kullanılması hakkında siz ne düşünüyorsunuz?

Kaynak: Shiftdelete