شرکت اپن ای آی قابلیت امنیتی جدیدی با نام Lockdown Mode را برای کاربران چت جی پی تی عرضه کرده است؛ قابلیتی که با هدف افزایش محافظت در برابر حملات «تزریق پرامپت» (Prompt Injection) طراحی شده و از دسترسی مهاجمان به اطلاعات حساس کاربران جلوگیری میکند.
حملات تزریق پرامپت یکی از تهدیدهای نوظهور در دنیای هوش مصنوعی هستند. در این روش، مهاجمان دستورهای مخربی را در صفحات وب یا محتوای آنلاین پنهان میکنند تا چتباتها را فریب داده و به انجام اقداماتی ناخواسته یا افشای اطلاعات حساس وادار کنند.
اوپنایآی تأکید کرده که Lockdown Mode برای همه کاربران ضروری نیست و بیشتر برای افراد و سازمانهایی طراحی شده که با دادههای حساس سروکار دارند.
فعالسازی این حالت برخی قابلیتهای ChatGPT را محدود میکند. برای مثال، کاربران همچنان میتوانند تصاویر خود را بارگذاری یا تولید کنند، اما چتبات دیگر تصاویر را از اینترنت دریافت یا در پاسخها نمایش نمیدهد. همچنین دانلود فایلها برای تحلیل غیرفعال میشود و قابلیتهایی مانند Deep Research و Agent Mode نیز بهطور کامل از دسترس خارج خواهند شد.
اوپنایآی میگوید Lockdown Mode مانع نمایش محتوای حاوی حملات تزریق پرامپت نمیشود، بلکه با محدود کردن درخواستهای شبکه و مسیرهای دسترسی، احتمال استخراج اطلاعات حساس از حساب کاربر را کاهش میدهد.
این قابلیت برای تمام کاربران چت جی پی تی، از جمله کاربران نسخه رایگان، در دسترس قرار گرفته است و از طریق بخش Safety & Security در تنظیمات حساب قابل فعالسازی است.
همزمان با معرفی Lockdown Mode، اوپنایآی قابلیت جدیدی برای مدیریت نشستهای فعال نیز ارائه کرده است. کاربران اکنون میتوانند تمام دستگاهها و مرورگرهایی را که به حساب آنها متصل هستند مشاهده کرده و در صورت نیاز از یک یا همه نشستها بهصورت همزمان خارج شوند.
اوپنایآی توصیه کرده در صورت مشاهده فعالیت مشکوک، کاربران رمز عبور خود را تغییر داده و روشهای ورود به حساب را بررسی کنند تا از دسترسی غیرمجاز جلوگیری شود.
این اقدام نشان میدهد که با افزایش پیچیدگی حملات علیه سامانههای هوش مصنوعی، امنیت حسابهای کاربری و حفاظت از دادهها به یکی از اولویتهای اصلی توسعهدهندگان هوش مصنوعی تبدیل شده است.
کد خبر ۲۰۲۰۵۰۳۱۷.۱۴۳
منبع: انگجت
