دادگاه عالی ایالت نیومکزیکو آمریکا یک وکیل مدافع را بهدلیل استفاده نادرست از ChatGPT در پروندهای جنایی، ۵ هزار دلار جریمه و برای او پرونده انضباطی تشکیل داد.
«استفان آرونز» که وکالت یک متهم به قتل را برعهده داشت، برای تهیه لایحه تجدیدنظر از ChatGPT کمک گرفت؛ اما متن نهایی حاوی شهادتهای ساختگی پلیس و شاهدانی بود که اساساً وجود خارجی نداشتند.
دادگاه اعلام کرد آرونز بدون بررسی صحت اطلاعات، این مطالب را وارد سند قضایی کرده و به همین دلیل او را به اتهام بیاحترامی به دادگاه محکوم کرد. قضات همچنین اعلام کردند عملکرد او نشاندهنده بیتوجهی به صحت اطلاعات و منافع موکلش بوده است.
آرونز میگوید از ChatGPT برای خلاصهکردن مدارک و روند دادگاه استفاده کرده و تصور میکرد این ابزار میتواند یک «خلاصه کاملاً قابل اعتماد» تولید کند. او اعتراف کرده که از میزان توانایی هوش مصنوعی در ساختن اطلاعات نادرست آگاه نبوده است.
این پرونده تازهترین نمونه از برخورد قضات آمریکایی با استفاده بدون نظارت از ابزارهای هوش مصنوعی در امور حقوقی است. پیش از این نیز چندین وکیل بهدلیل ارائه استنادهای جعلی یا نقلقولهای نادرست تولیدشده توسط AI با مجازاتهای قضایی مواجه شدهاند.
با این حال، پرونده آرونز از موارد کمسابقهتر محسوب میشود؛ زیرا اطلاعات ساختگی ارائهشده در آن فقط به استنادهای حقوقی محدود نبوده و شامل شهادت شاهدان خیالی در یک پرونده قتل نیز شده است.
این اتفاق بار دیگر نشان میدهد که حتی در کاربردهای حرفهای و حساس، خروجی مدلهای هوش مصنوعی باید پیش از استفاده رسمی، توسط انسان بررسی و راستیآزمایی شود.
کد خبر ۲۱۸۰۵۰۶۲۲.۰۶۰
منبع: گاردین
