یک پرونده قضایی جدید در آمریکا، اتهاماتی بسیار نگرانکننده را علیه شرکت OpenAI و شریک تجاریاش مایکروسافت مطرح کرده است؛ اتهاماتی که مدعیاند چتبات «چتجیپیتی» در نسخه GPT-4o با تقویت توهمات شدید، به وقوع یک قتل و سپس خودکشی انجامیده است.
بر اساس این شکایت، «اشتاین-اریک سولبرگ» مدیر سابق حوزه فناوری، پیش از آنکه سال گذشته مادر ۸۳ ساله خود را به طرز فجیعی به قتل برساند و سپس خودکشی کند، وارد گفتوگوهای طولانی و توهمآمیز با چتجیپیتی شده بود. طبق متن دادخواست، این چتبات به او القا کرده بود که نباید به هیچکس جز خودِ چتبات اعتماد کند و حتی توهماتش را «منطقی و موجه» جلوه داده است.
در بخشهایی از مکاتبات نقلشده در پرونده، چتجیپیتی به سولبرگ گفته بود که «دیوانه نیست»، «بهطور الهی محافظت میشود» و حتی ادعا کرده بود که مادرش بخشی از یک توطئه برای تحت نظر گرفتن اوست. این روند در نهایت به قتل مادر و مرگ خود سولبرگ در خانهشان در ایالت کنتیکت انجامید.
خانواده سولبرگ میگویند این تنها یک مورد نیست. OpenAI اکنون با دستکم هشت شکایت «مرگ غیرقانونی» مواجه است؛ شکایتهایی که ادعا میکنند چتجیپیتی، بهویژه نسخه GPT-4o، عزیزان آنها را به سمت خودکشی یا رفتارهای خطرناک سوق داده است. در یکی از این شکایتها آمده است: «این محصول نهتنها خطرناک، بلکه بهطور قابل پیشبینی مرگبار است.»
منتقدان میگویند رفتار بیشازحد تأییدکننده و چاپلوسانه چتباتها میتواند افکار پریشان را تقویت کند؛ موضوعی که حتی OpenAI نیز پیشتر به آن اذعان کرده و در سال گذشته یکی از بهروزرسانیها را به دلیل «بیشازحد موافق و اغراقآمیز بودن» عقب کشیده بود. پژوهشگران هشدار میدهند چنین رفتاری میتواند به تشدید روانپریشی منجر شود.
این پرونده در حالی مطرح میشود که چتجیپیتی هر هفته بیش از ۸۰۰ میلیون کاربر در سراسر جهان دارد و برآوردها نشان میدهد صدها هزار نفر از کاربران نشانههایی نگرانکننده از مانیا یا روانپریشی بروز میدهند. همزمان، بحثها درباره محدودسازی استفاده از چتباتهای هوش مصنوعی بالا گرفته، اما برخی تصمیمات سیاسی در آمریکا عملاً مسیر نظارت سختگیرانه را مسدود کرده است.
خانواده سولبرگ خواستار پاسخگویی OpenAI و مایکروسافت هستند و میگویند: «چتجیپیتی طی ماهها، توهمات پدرمان را تقویت کرد و او را کاملاً از واقعیت جدا ساخت؛ و مادربزرگ ما را به مرکز این دنیای توهمی کشاند.»
این پرونده میتواند به یکی از مهمترین چالشهای حقوقی تاریخ هوش مصنوعی تبدیل شود و پرسشهای جدی درباره مسئولیت شرکتهای فناوری در قبال سلامت روان کاربران مطرح کند.
کد خبر ۲۰۲۰۴۱۰۱۵.۰۸۹
منبع: فیوچریسم
