New Mexico Yüksek Mahkemesi, yapay zeka araçlarını kullanarak sahte tanık beyanları ve uydurma ifadeler oluşturan avukat Stephen Aarons'a 5 bin dolar para cezası verdi. Karar, bir avukatın mahkemeye sunduğu belgelerde yapay zeka tarafından üretilmiş hayali deliller kullanması nedeniyle verilen nadir disiplin cezalarından biri olarak kayda geçti. Yüksek Mahkeme, Aarons'un mesleki etik kurallarını ihlal ettiğini ve mahkemeyi yanıltmaya teşebbüs ettiğini belirtti.
Olayın Gelişimi
Stephen Aarons, bir dava sürecinde yapay zeka tabanlı bir metin üretim aracı kullanarak gerçekte var olmayan tanıkların ifadelerini oluşturdu ve bu ifadeleri mahkemeye delil olarak sundu. New Mexico Yüksek Mahkemesi'nin incelediği dosyaya göre, Aarons'un sunduğu belgelerde yer alan tanık isimleri, adresleri ve beyanları tamamen kurgusaldı. Mahkeme, bu sahte delillerin karşı tarafın avukatları tarafından fark edilmesi üzerine soruşturma başlattı.
Yapılan incelemede, Aarons'un yapay zeka aracına belirli senaryolar yükleyerek istediği yönde ifadeler ürettirdiği tespit edildi. Mahkeme heyeti, avukatın bu eyleminin sadece etik ihlali değil, aynı zamanda adaletin işleyişine doğrudan müdahale anlamına geldiğini vurguladı. Kararda, yapay zekanın hukuki süreçlerde bilinçsizce veya kötü niyetle kullanılmasının ciddi sonuçlar doğurabileceğine dikkat çekildi.
Yapay Zeka ve Hukuk Etiği
Bu karar, dünya genelinde hukuk profesyonelleri arasında yapay zeka kullanımına ilişkin tartışmaları yeniden alevlendirdi. Özellikle avukatların dilekçe hazırlama, içtihat araştırması ve delil analizi gibi alanlarda yapay zeka araçlarından yararlanması yaygınlaşırken, bu araçların ürettiği bilgilerin doğruluğu konusunda ciddi endişeler bulunuyor. Uzmanlar, yapay zekanın "halüsinasyon" olarak adlandırılan, gerçekte var olmayan bilgileri kendinden emin bir şekilde sunma eğiliminin, hukuki metinlerde yıkıcı sonuçlar doğurabileceğini belirtiyor.
New Mexico Yüksek Mahkemesi'nin kararı, yapay zeka kaynaklı sahte delil üretimine karşı verilen ilk ağır cezalardan biri olarak emsal teşkil edebilir. Hukuk etiği uzmanları, avukatların yapay zeka çıktılarını mutlaka bağımsız kaynaklarla doğrulaması gerektiğini, aksi halde mesleki lisanslarını kaybetme riskiyle karşılaşabileceklerini ifade ediyor. Baroların da bu tür ihlallere karşı disiplin yönetmeliklerini güncellemesi bekleniyor.
Yapay Zeka Araçlarının Yükselişi ve Riskler
Son yıllarda ChatGPT, Gemini ve Claude gibi büyük dil modelleri, hukuk alanında giderek daha fazla kullanılıyor. Avukatlar bu araçlardan dava stratejisi geliştirmek, sözleşme taslağı hazırlamak ve emsal karar taraması yapmak için yararlanıyor. Ancak bu araçların eğitildiği veri setlerindeki eksiklikler veya algoritmik önyargılar, üretilen içeriğin güvenilirliğini sorgulatıyor. Özellikle sahte içtihat ve uydurma tanık beyanları, mahkemelerin en sık karşılaştığı sorunlar arasında yer alıyor.
ABD'de daha önce de benzer vakalar yaşandı. 2023 yılında New York'ta bir avukat, yapay zeka tarafından üretilen sahte içtihatları mahkemeye sunması nedeniyle para cezasına çarptırılmıştı. Ancak bu yeni karar, sahte tanık ifadeleri üretilmesi nedeniyle verilen ilk ceza olması bakımından farklılık taşıyor. Uzmanlar, yapay zekanın hukuk sistemine entegrasyonunun kaçınılmaz olduğunu, ancak bunun sıkı denetim ve etik kurallar çerçevesinde yapılması gerektiğini vurguluyor.
Gelecekte Ne Bekleniyor?
New Mexico Yüksek Mahkemesi'nin kararı, diğer eyaletlerdeki barolar ve mahkemeler için de yol gösterici olabilir. Hukuk fakültelerinin müfredatına yapay zeka etiği derslerinin eklenmesi, avukatların bu konuda eğitilmesi ve mahkemelerin yapay zeka kaynaklı delilleri tespit edecek mekanizmalar geliştirmesi bekleniyor. Ayrıca, yapay zeka şirketlerinin hukuki kullanım için özel olarak eğitilmiş, daha güvenilir modeller geliştirmesi yönünde baskı artıyor.
Stephen Aarons'a verilen 5 bin dolarlık ceza, maddi olarak küçük görünse de mesleki itibar açısından ağır bir yaptırım. Karar, yapay zekanın sınırsız ve denetimsiz kullanımının hukuk dünyasında kabul edilemez olduğunu gösteriyor. Önümüzdeki dönemde benzer vakaların artmasıyla birlikte, yapay zeka ve hukuk arasındaki ilişkinin daha katı kurallarla çerçevelenmesi muhtemel. Bu gelişme, teknolojinin her alanda olduğu gibi hukukta da sorumluluk bilinciyle kullanılması gerektiğini bir kez daha ortaya koyuyor.
