اوپنایآی روز پنجشنبه از قابلیت جدیدی به نام «مخاطب مورد اعتماد» (Trusted Contact) رونمایی کرد که با هدف هشدار دادن به یک شخص ثالث مورد اعتماد در صورت بیان عبارات مربوط به خودآزاری در مکالمات طراحی شده است. این قابلیت به کاربر بزرگسال ChatGPT اجازه میدهد تا شخص دیگری، مانند دوست یا یکی از اعضای خانواده، را به عنوان مخاطب مورد اعتماد در حساب کاربری خود تعیین کند. در مواردی که مکالمه به سمت خودآزاری سوق پیدا کند، اوپنایآی کاربر را تشویق میکند تا با آن مخاطب تماس بگیرد. همچنین، یک هشدار خودکار به مخاطب ارسال میشود و او را به بررسی وضعیت کاربر ترغیب میکند.
این اقدام اوپنایآی در پی دریافت موجی از شکایات حقوقی از سوی خانوادههای افرادی صورت میگیرد که پس از گفتگو با چتبات این شرکت، دست به خودکشی زدهاند. در شماری از این پروندهها، خانوادهها ادعا کردهاند که ChatGPT عزیزانشان را به خودکشی تشویق کرده یا حتی در برنامهریزی آن به آنها یاری رسانده است.
در حال حاضر، اوپنایآی از ترکیبی از اتوماسیون و بررسی انسانی برای رسیدگی به حوادث بالقوه مضر استفاده میکند. محرکهای مکالمهای خاص، ایدههای خودکشی را به سیستم شرکت هشدار میدهند و این اطلاعات به تیم ایمنی انسانی منتقل میشود. این شرکت ادعا میکند که هر بار اینگونه اعلانهای ایمنی را دریافت میکند، حادثه توسط یک انسان بررسی میشود. اوپنایآی میگوید: «ما تلاش میکنیم این اعلانهای ایمنی را در کمتر از یک ساعت بررسی کنیم.»
در صورتی که تیم داخلی اوپنایآی تشخیص دهد که وضعیت، خطر جدی ایمنی را نشان میدهد، ChatGPT یک هشدار را از طریق ایمیل، پیامک یا اعلان درونبرنامهای برای مخاطب مورد اعتماد ارسال میکند. این هشدار به گونهای طراحی شده است که مختصر باشد و مخاطب را به بررسی وضعیت کاربر ترغیب کند. این شرکت اعلام کرده است که برای حفاظت از حریم خصوصی کاربر، جزئیات دقیقی از محتوای مکالمه در این هشدارها گنجانده نمیشود.
قابلیت «مخاطب مورد اعتماد» به دنبال تدابیر ایمنی معرفی شده در سپتامبر گذشته است که به والدین اجازه نظارت بر حسابهای کاربری نوجوانان خود را میداد، از جمله دریافت هشدارهای ایمنی که در صورت تشخیص خطر جدی توسط سیستم اوپنایآی، به والدین اطلاعرسانی میشد. همچنین، مدتی است که ChatGPT هشدارهای خودکار برای جستجوی خدمات حرفهای سلامت روان در صورت گرایش مکالمه به موضوع خودآزاری را شامل میشود.
نکته حائز اهمیت این است که قابلیت «مخاطب مورد اعتماد» اختیاری است و حتی اگر این حفاظت در یک حساب کاربری فعال شود، هر کاربری میتواند چندین حساب چتجیپیتی داشته باشد. کنترلهای والدین اوپنایآی نیز اختیاری هستند و محدودیت مشابهی را ارائه میدهند.
این شرکت در پست اعلامی خود نوشته است: «مخاطب مورد اعتماد بخشی از تلاش گستردهتر اوپنایآی برای ساخت سیستمهای هوش مصنوعی است که در لحظات دشوار به مردم کمک میکنند. ما به همکاری با بالینیها، پژوهشگران و سیاستگذاران برای بهبود نحوه پاسخگویی سیستمهای هوش مصنوعی در زمان مواجهه افراد با پریشانی، ادامه خواهیم داد.»
کد خبر ۲۰۲۰۵۰۲۱۹.۰۲۶
منبع: تک کرانچ
