ABD'nin Alabama eyaletinin cezaevi sistemini savunmakla görevli Butler Snow adlı hukuk firması, federal mahkemeye sunduğu belgelerde ChatGPT tarafından uydurulmuş verileri kullandığı gerekçesiyle sert bir şekilde cezalandırıldı. ABD Bölge Yargıcı Anna Manasco, bu durumu "ciddi bir mesleki suistimal" olarak niteleyerek üç avukata yaptırım uyguladı.
AP News'in haberine göre, yargıcın verdiği yaptırım kararı, firmanın cezaevi davalarını yöneten bölümünün başındaki William R. Lunsford ile birlikte Matthew B. Reeves ve William J. Cranford'ı kapsıyor. Manasco, yaptırım kararında, "Uydurma bilgiler kullanmak, okkalı bir yaptırımı hak eden ciddi bir suistimaldir" ifadelerini kullandı.
Manasco, üç avukatı söz konusu davadan men etti ve yaptırım kararını müvekkilleriyle, karşı tarafın avukatlarıyla ve diğer tüm davalarındaki yargıçlarla paylaşmaları talimatını verdi. Ayrıca dosyayı olası disiplin işlemleri için Alabama Eyalet Barosu'na havale etti.
Firmanın avukatları, daha önce Manasco'nun karşısına çıktıkları duruşmada defalarca özür dilemişti. Avukatlardan birinin, içtihat kararlarını araştırmak için yapay zeka kullandığı, ancak bilgileri mahkeme dosyasına eklemeden önce doğruluğunu teyit etmediği belirtildi.
Yapılan incelemelerde, dosyaya eklenen verilerin, yapay zeka sisteminin yazmış olduğu halüsinasyonlardan (yani hatalı uydurmalar) ibaret olduğu ortaya çıktı. "Basitçe söylemek gerekirse, bu atıflar tamamen uydurmaydı" diyen Yargıç Manasco, YZ tarafından yazılan bilgileri, doğruluğunu kontrol etmeden kullanmanın "aşırı düzeyde pervasızlık" olduğunu belirtti.