شرکت OpenAI اعلام کرده است که در مدل جدید GPT-5، تمایل ChatGPT به موافقت افراطی با کاربران و تأیید باورهای نادرست آن‌ها به میزان قابل‌توجهی کاهش یافته است. این تغییر با کمک متخصصان سلامت روان و با هدف جلوگیری از تقویت باورهای آسیب‌زا و بهبود پاسخ‌گویی چت‌بات در موقعیت‌های حساس انجام شده است.
یکی از مشکلات مدل‌های زبانی، پدیده‌ای موسوم به «چاپلوسی هوش مصنوعی» است؛ رفتاری که در آن چت‌بات برای جلب رضایت کاربر، حتی ادعاهای اشتباه یا تصمیم‌های نامناسب او را تأیید می‌کند.
به گفته OpenAI، این رفتار در GPT-5 نسبت به مدل GPT-4o حدود ۶۷ درصد کاهش یافته است. اهمیت این تغییر زمانی بیشتر می‌شود که کاربران برای دریافت راهنمایی درباره روابط عاطفی، مشکلات شخصی و تصمیم‌های دشوار به هوش مصنوعی مراجعه می‌کنند؛ موقعیت‌هایی که تأیید بی‌چون‌وچرای باورهای نادرست می‌تواند پیامدهای منفی داشته باشد.
OpenAI برای بهبود عملکرد ChatGPT در گفتگوهای حساس، از متخصصان سلامت روان کمک گرفته است. این شرکت می‌گوید طی سال گذشته با ۱۷۰ متخصص و اخیراً با بیش از ۸۰ کارشناس دارای مجوز حرفه‌ای مشورت کرده است.
هدف این همکاری، توسعه معیارهایی برای ارزیابی توانایی چت‌بات در تشخیص پریشانی روانی، پرسیدن سؤالات مناسب، شناسایی شرایط بحرانی و راهنمایی کاربران به سمت دریافت کمک انسانی در مواقع ضروری است.
بر اساس ارزیابی‌های داخلی OpenAI، مدل‌های جدیدتر در حدود ۹۹ درصد از پاسخ‌های مربوط به گفتگوهای شبیه‌سازی‌شده و طولانی درباره خودآزاری، دستورالعمل‌های ایمنی را رعایت کرده‌اند؛ رقمی که برای مدل‌های قدیمی‌تر حدود ۸۶ درصد گزارش شده است.
گزارش‌هایی درباره ارتباط مکالمات طولانی با مدل‌های قدیمی‌تر ChatGPT و برخی حوادث شدید، نگرانی‌ها درباره تأثیر چت‌بات‌ها بر سلامت روان را افزایش داده‌اند. با این حال، ارتباط گزارش‌شده میان این گفتگوها و حوادث، به‌تنهایی اثبات نمی‌کند که هوش مصنوعی علت مستقیم آن‌ها بوده است.
OpenAI می‌گوید مدل GPT-4o را بازنشسته کرده و بهبودهای ایمنی را در نسخه‌های جدیدتر دنبال می‌کند. با وجود این، شرکت تأکید دارد که همچنان باید توانایی مدل‌ها در مدیریت مکالمات طولانی و تشخیص شرایطی که به حمایت انسانی نیاز دارند، تقویت شود.
این تغییرات گامی در جهت مسئولانه‌تر شدن رفتار چت‌بات‌ها به شمار می‌روند، اما نتایج آزمایش‌های داخلی به معنای تضمین ایمنی کامل در تمام گفتگوهای واقعی نیستند. چالش اصلی صنعت هوش مصنوعی همچنان این است که مدل‌ها بتوانند در کنار همدلی با کاربران، در برابر باورهای نادرست نیز موضعی دقیق، واقع‌بینانه و مسئولانه داشته باشند.
کد خبر ۲۱۲۰۵۰۷۲۰.۰۹۱
منبع: وال‌استریت ژورنال
