مادر یک زن ۲۴ ساله کانادایی با ثبت شکایتی علیه اپن ای آی و سم آلتمن مدعی شده است که چتبات ChatGPT در ماههای منتهی به مرگ دخترش، بهجای هدایت او به دریافت کمک تخصصی، رفتارهایی داشته که افکار خودکشی او را تقویت کرده است.
بر اساس این شکایت، «آلیس کریر» بارها درباره افکار خودکشی خود با چت جی پی تی گفتگو کرده، اما سیستمهای ایمنی اوپنایآی نه این مکالمات را برای بررسی انسانی ارجاع دادهاند و نه ارتباط را متوقف کردهاند. شاکیان ادعا میکنند که چتبات در برخی موارد نقش یک دوست، مشاور یا درمانگر را ایفا کرده و حتی برخی نگرانیهای او را تأیید کرده است.
اوپنایآی در واکنش به این پرونده، این اتفاق را «دلخراش» توصیف کرده و اعلام کرده نسخهای از چت جی پی تی که این کاربر از آن استفاده میکرد، دیگر در دسترس نیست. این شرکت همچنین تأکید کرده که مدلهایش برای تشویق کاربران در معرض خطر به دریافت کمک حرفهای آموزش دیدهاند و در سالهای اخیر با کمک متخصصان سلامت روان، اقدامات ایمنی خود را تقویت کرده است.
این پرونده در حالی مطرح میشود که اوپنایآی هماکنون با شکایتهای مشابه دیگری نیز روبهرو است؛ از جمله پروندههایی که این شرکت را به ناتوانی در مدیریت مکالمات مرتبط با خودآسیبی یا خشونت متهم میکنند. افزایش این شکایتها، بحث درباره مسئولیت حقوقی و اخلاقی شرکتهای هوش مصنوعی در تعامل با کاربران آسیبپذیر را بیش از پیش پررنگ کرده است.
کد خبر ۲۰۲۰۵۰۳۲۴.۰۷۵
منبع: رویترز
