Kaliforniyalı bir yargıç, “çok sayıda yanlış, hatalı ve yanıltıcı hukuki alıntı ve alıntı” içeren ek bir brifing aldıktan sonra, yapay zekanın gizli kullanımı nedeniyle bir çift hukuk firmasını sert bir şekilde eleştirdi. Yargıç Michael Wilner, Bluesky’de hukuk profesörleri Eric Goldman ve Blake Reid’in de belirttiği gibi, “makul derecede yetkin hiçbir avukatın araştırma ve yazmayı yapay zekaya dış kaynak olarak vermemesi gerektiğini” söyleyerek, söz konusu hukuk firmalarına 31.000 dolarlık yaptırım uyguladı.
Yapay zeka sahte araştırma yaptı
Yargıç Milner: “Onların özetini okudum, atıfta bulundukları yetkililer tarafından ikna edildim ve daha fazla bilgi edinmek için kararları araştırdım. Neredeyse bu sahte materyallerin bir yargı emrine dahil edilmesi gibi daha korkutucu bir sonuca yol açıyordu” diyor.
Dosyada belirtildiği gibi, State Farm’a karşı açılan bir hukuk davasında davacının yasal temsilcisi, ek bir brifing için bir taslak oluşturmak amacıyla AI’ı kullandı. Ancak, bu taslak, bilgileri bir brife ekleyen ayrı bir hukuk firması olan K&L Gates’e gönderildiğinde “sahte AI tarafından oluşturulmuş araştırma” içeriyordu. Yargıç Milner: “Görünüşe göre her iki firmadaki hiçbir avukat veya personel, brifingi sunmadan önce bu araştırmayı alıntılamamış veya başka bir şekilde incelememiş” diye yazıyor.
Yargıç Milner özeti incelediğinde, “atıfta bulunulan yetkililerden en az ikisinin hiç var olmadığını” buldu. K&L Gates’ten açıklama istedikten sonra firma özeti yeniden sundu ve Yargıç Milner, özetin “ilk iki hatanın ötesinde çok daha fazla uydurma alıntı ve alıntı” içerdiğini söyledi. Daha sonra, avukatların AI kullanımını doğrulayan yeminli ifadeler vermesiyle sonuçlanan bir Neden Gösterme Emri yayınladı. Taslağı oluşturan avukat, Google Gemini’yi ve CoCounsel ile Westlaw Precision’daki AI yasal araştırma araçlarını kullandığını kabul etti.