شرکت OpenAI در راستای افزایش ایمنی کاربران نوجوان، از اعمال محدودیت‌های جدیدی در ChatGPT خبر داده است. بر اساس این تصمیم، چت‌بات حتی در پاسخ به پرسش‌هایی که ظاهراً بی‌خطر هستند نیز از ارائه برخی اطلاعات کاربردی درباره سلاح‌ها و سامانه‌های امنیتی خودداری خواهد کرد.
این تصمیم در شرایطی اتخاذ شده که نگرانی‌ها درباره تأثیر چت‌بات‌های هوش مصنوعی بر کاربران کم‌سن‌وسال و احتمال سوءاستفاده از این فناوری برای اقدامات خشونت‌آمیز افزایش یافته است.
ChatGPT چگونه با محتوای خشونت‌آمیز برخورد خواهد کرد؟
طبق اعلام OpenAI، محدودیت‌های جدید تنها به نوجوانان اختصاص ندارد و شامل تغییرات گسترده‌تری برای تمام کاربران خواهد بود:
- ChatGPT می‌تواند مکالماتی را که در آنها کاربر به‌طور مداوم بر موضوع خشونت تمرکز می‌کند، به‌صورت خودکار متوقف کند.
- در صورت تکرار چنین مکالماتی، امکان تعلیق موقت حساب کاربری وجود خواهد داشت.
- ارائه جزئیات درباره حملات مرگبار گذشته، از جمله نوع سلاح‌های استفاده‌شده و نحوه تهیه آنها، محدودتر می‌شود.
- سیستم تشخیص سن کاربران تقویت شده تا افرادی که احتمالاً زیر ۱۸ سال هستند، به‌طور خودکار وارد تجربه مخصوص نوجوانان شوند.
- در صورت تعلیق حساب نوجوان به دلیل تکرار گفتگوهای خشونت‌آمیز، والدین او نیز مطلع خواهند شد.
این تصمیم در حالی اعلام شده که گزارش‌هایی درباره عملکرد نسخه مخصوص نوجوانان ChatGPT در شناسایی مکالمات حساس منتشر شده است. مؤسسه غیرانتفاعی Common Sense Media اخیراً گزارش داده که این نسخه در برخی موارد، والدین را با تأخیر یا حتی اصلاً درباره گفتگوهای مرتبط با خودکشی، خودآزاری و اختلالات خوردن مطلع نکرده است.
OpenAI اعلام کرده که اجرای تدریجی این تدابیر از چند هفته آینده آغاز می‌شود و این شرکت همچنان به بهبود سازوکارهای نظارتی و ایمنی خود ادامه خواهد داد.
کد خبر ۲۰۲۰۵۰۸۱۰.۰۷۵
منبع: رویترز
