New Mexico Yüksek Mahkemesi, bir cinayet davası temyiz evrakında yapay zeka kaynaklı geçersiz tanıklar ve gerçek dışı polis tabirleri kullanan avukat Stephen Aarons hakkında yaptırım kararı aldı. Mahkeme, avukatın sunduğu dokümanların doğruluğunu teyit etmediği gerekçesiyle kendisine 5 bin dolar para cezası verdi.

Söz konusu dava belgesinin, büsbütün uydurma şahit sözleri ile saldırganın kıyafetleri ve dış görünüşü hakkında yanlış bilgiler içerdiği tespit edildi. Avukat Aarons, mahkeme sürecinde ChatGPT kullanarak hazırladığı özetin yanılgısız olacağını düşündüğünü itiraf etti.

Mahkeme, avukatın mahkeme huzurunda kurşun geçirmez bir özet sunma beklentisiyle hareket ettiğini lakin bu süreçte temel yasal sorumluluklarını ihmal ettiğini belirtti. Bu durum, hukuk dünyasında yapay zeka araçlarının denetimsiz kullanımına dair epeyce dikkat cazibeli bir örnek oluşturdu.

Mahkeme Sürecinde Yaşananlar

Ağustos ayında gerçekleştirilen duruşmada Yargıç C. Shannon Bacon, avukatın yapay zeka kullanımının getirdiği risklerden nasıl habersiz olabildiğini sorguladı. Yargıç Bacon, avukata dünyada olup bitenleri takip edip etmediğini sorarak, yapay zeka halüsinasyonlarının artık her gün haberlere mevzu olduğunu hatırlattı.

Mahkeme kayıtlarına nazaran, avukatın kurşun geçirmez bir özet oluşturacağını umduğu ChatGPT, aslında büsbütün hayali bilgiler üretmişti. Bu durum, hukuk dünyasında yapay zeka araçlarının denetimsiz kullanımına dair önemli bir örnek teşkil etti.

Avukat Stephen Aarons, Reuters’a yaptığı açıklamada pişman olduğunu ve disiplin heyetinin bunun dürüst bir kusur olduğunu dikkate almasını umduğunu söz etti. Aarons, yapay zekanın sunduğu bilgileri doğrulamadan mahkemeye sunmanın sonuçlarıyla yüzleşmek zorunda kaldı.

Hukuk Dünyasında Yapay Zeka Tartışmaları

Hukuk alanında yapay zeka araçlarını kullanan avukatların sayısı artarken, mahkemeler tarafından tespit edilen yanılgılı yahut uydurma alıntıların sayısı da yükseliyor. Geçtiğimiz yıl, iki hukuk firması, yanlış ve aldatıcı yasal alıntılar içeren bir evrak sundukları için bir yargıç tarafından sert bir biçimde eleştirilmişti.

Ayrıca, Mike Lindell’in avukatları da yapay zeka tarafından oluşturulan yanılgılı alıntılar ve düzmece referanslar sebebiyle para cezasına çarptırılmıştı. Bu cins olaylar, yapay zeka teknolojisinin tüzel dokümanlarda kullanımı konusunda ciddi güvenlik telaşlarını beraberinde getiriyor.

Hukuk profesyonelleri, yapay zeka tarafından üretilen içeriklerin doğruluğunu teyit etmenin artık mecburî bir sorumluluk haline geldiğini vurguluyor. Mahkemeler, avukatların teknolojik araçlara olan inancının, profesyonel sorumluluklarını gölgelememesi gerektiği konusunda ikazlarını sürdürüyor.

Yapay zeka halüsinasyonları, bilhassa hukuk üzere hassas alanlarda önemli sonuçlar doğurabiliyor ve bu durum avukatların teknolojiye olan bağımlılığını sorgulatıyor. Yaşanan bu olay, yapay zeka dayanaklı araçların hukuk sistemindeki yerini ve güvenilirliğini bir sefer daha tartışmaya açıyor.

Sizce avukatların yapay zeka araçlarını kullanırken tüzel sorumlulukları nasıl sonlandırılmalı?

Kaynak: Shiftdelete