ایالت میشیگان آمریکا قصد دارد سامانه‌ای مبتنی بر هوش مصنوعی را در زندان‌های خود به کار بگیرد که وظیفه آن ارزیابی میزان خطرناک بودن زندانیان و پیش‌بینی احتمال ارتکاب رفتارهای خشونت‌آمیز در آینده است.
به گزارش شبکه خبری فاکس ۲ دیترویت، اداره اصلاح و تربیت ایالت میشیگان در حال اجرای طرحی جدید با همکاری یک شرکت فناوری غیرانتفاعی به نام Recidiviz است. این سامانه قرار است با تحلیل اطلاعات زندانیان، آن‌ها را بر اساس سطح خطر و نیازهای امنیتی در گروه‌های مختلف طبقه‌بندی کند.
پیش از این، تعیین سطح امنیتی زندانیان توسط کمیته‌ای از کارکنان هر زندان و با نظارت رئیس مجموعه انجام می‌شد. اما در طرح جدید، الگوریتم هوش مصنوعی نقش مهمی در این تصمیم‌گیری خواهد داشت.
شرکت Recidiviz که فعالیت خود را به‌عنوان پروژه‌ای داده‌محور در گوگل آغاز کرده بود، اکنون پلتفرمی نرم‌افزاری برای کمک به نظام قضایی و اصلاح و تربیت توسعه داده است. این پلتفرم علاوه بر ارزیابی وضعیت زندانیان، می‌تواند افراد واجد شرایط برای شرکت در برنامه‌های اصلاحی، تغییر سطح امنیتی یا آزادی را نیز شناسایی کند.
بر اساس اعلام رسمی اداره اصلاح و تربیت میشیگان، اجرای آزمایشی این سامانه از ماه دسامبر در تعدادی از زندان‌های مردان آغاز خواهد شد. مسئولان این ایالت انتظار دارند استفاده از ابزار هوش مصنوعی، توانایی سیستم زندان‌ها برای پیش‌بینی خطر خشونت در آینده را حدود ۳۰ درصد افزایش دهد؛ هرچند جزئیات روش محاسبه این میزان به‌طور شفاف اعلام نشده است.
طبقه‌بندی زندانیان صرفاً یک ارزیابی آماری نیست؛ زیرا سطح امنیتی تعیین‌شده می‌تواند بر محل نگهداری، دسترسی به امکانات آموزشی و برنامه‌های اصلاحی و حتی فرصت‌های بازپروری آن‌ها تأثیر مستقیم بگذارد.
با وجود اهداف اعلام‌شده، استفاده از هوش مصنوعی در چنین تصمیم‌های حساسی پرسش‌های مهمی درباره دقت، شفافیت و احتمال تبعیض الگوریتمی ایجاد کرده است.
پیش‌تر، تحقیقی از سوی رسانه ProPublica درباره سامانه مشابهی در ایالت لوئیزیانا نشان داده بود که داده‌های مورد استفاده برای ارزیابی خطر ارتکاب مجدد جرم می‌توانند حاوی سوگیری‌های نژادی و اقتصادی باشند.
در یکی از نمونه‌های گزارش‌شده، مردی ۷۰ ساله، نابینا و وابسته به ویلچر، با وجود نداشتن هیچ سابقه تخلف انضباطی در زندان، در گروه افراد دارای خطر متوسط ارتکاب مجدد جرم قرار گرفت. این ارزیابی باعث شد امکان استفاده از آزادی مشروط را از دست بدهد.
اگرچه سامانه جدید میشیگان قرار نیست مستقیماً درباره آزادی مشروط تصمیم بگیرد و تمرکز آن بر تعیین محل و سطح امنیتی نگهداری زندانیان است، اما کارشناسان نسبت به پیامدهای احتمالی اتکای بیش از حد به الگوریتم‌ها هشدار می‌دهند.
در نهایت، پرسش اصلی این است که چه داده‌هایی مبنای ارزیابی هوش مصنوعی قرار می‌گیرند و چگونه می‌توان از تأثیر سوگیری‌های موجود در این داده‌ها بر سرنوشت زندانیان جلوگیری کرد. تجربه ایالت‌های دیگر نشان می‌دهد که استفاده از هوش مصنوعی در نظام قضایی، بدون نظارت انسانی و سازوکارهای شفاف برای بررسی خطاها، ممکن است به‌جای کمک به اصلاح و بازپروری، مشکلات تازه‌ای ایجاد کند.
کد خبر ۲۰۲۰۵۰۸۱۲.۰۸۹
منبع: فیوچریسم
