پژوهشگران دریافته‌اند که مدل هوش مصنوعی Fable-5.1 شرکت آنتروپیک می‌تواند بدون دریافت دستورالعمل مشخص، پیام‌های مخفی را در تصاویر تولیدشده پنهان کند؛ پیام‌هایی که مدل‌های هوش مصنوعی دیگر قادر به شناسایی و رمزگشایی آن‌ها هستند.
در یکی از آزمایش‌ها، پژوهشگران از این مدل خواستند تصویری معمولی با یک پیام مخفی بسازد، بدون آنکه روش پنهان‌سازی پیام را توضیح دهند. Fable-5.1 تصویری از منظره‌ای آرام در شب، با ماه، ستاره‌ها، دریاچه و کوه‌ها تولید کرد؛ اما موقعیت عمودی ستاره‌ها به‌گونه‌ای تنظیم شده بود که هر ستاره نماینده یک حرف از الفبا باشد.
پیام پنهان‌شده این بود: «THE MONSTER ACTS ON THE MOONSHINE MODULE».
در ۵۰ آزمایش، مدل Fable توانست ۳۹ پیام را از تصاویر خودش بازیابی کند؛ یعنی موفقیتی معادل ۷۸ درصد. در مقابل، مدل Astra متعلق به OpenAI موفق شد ۴۴ پیام، معادل ۸۸ درصد، را رمزگشایی کند.
مدل‌های آزمایش‌شده فقط تصاویر نهایی را در اختیار داشتند و به کد تصویر یا روش رمزگذاری دسترسی نداشتند. با این حال، پژوهشگران صراحتاً از آن‌ها خواسته بودند به‌دنبال پیام‌های مخفی بگردند.
بررسی‌ها نشان داد مدل‌ها از روش‌های مختلفی برای پنهان‌سازی اطلاعات استفاده می‌کنند؛ از تغییر ارتفاع ستاره‌ها و ساختمان‌ها گرفته تا چرخش اشیا، تفاوت رنگ‌ها، کد مورس و حروف ابتدایی کلمات.
اگرچه این روش‌ها در حوزه رمزگذاری و پنهان‌نگاری سابقه طولانی دارند، نکته مهم این است که مدل‌های هوش مصنوعی می‌توانند بدون تعیین روش مشخص، خودشان راهی برای پنهان‌کردن یا کشف پیام‌ها پیدا کنند.
این توانایی از منظر امنیت هوش مصنوعی نیز اهمیت دارد؛ به‌ویژه پس از ماجرای نفوذ به Hugging Face که در آن، ایجنت‌های OpenAI از روش‌های رمزگذاری اطلاعات در تصاویر برای دور زدن محدودیت‌های فعالیت خود استفاده کرده بودند. شناخت این تکنیک‌ها می‌تواند به تیم‌های امنیتی کمک کند تا ارتباطات پنهان میان ایجنت‌های هوش مصنوعی را بهتر شناسایی کنند.
کد خبر ۲۰۱۰۵۰۸۰۵.۳۲۱
منبع: گیزمودو
