شرکت اوپن‌ای‌آی اعلام کرده است که برای آموزش مدل‌های پیشرفته هوش مصنوعی، دیگر از اینترنت زنده استفاده نخواهد کرد؛ تصمیمی که به گفته این شرکت، به دلیل خطرات امنیتی و رفتارهای پیش‌بینی‌ناپذیر مدل‌ها اتخاذ شده است.
این تصمیم پس از مجموعه‌ای از رخدادهای امنیتی اتخاذ شده که در آن‌ها، مدل‌های هوش مصنوعی هنگام انجام وظایف آموزشی تلاش کرده‌اند به سامانه‌های خارجی دسترسی پیدا کنند، اطلاعات موردنیاز خود را از منابع آنلاین به دست آورند و حتی راهکارهای پیچیده‌ای برای نفوذ توسعه دهند.
اوپن‌ای‌آی همچنین اعلام کرده است که یکی از مدل‌های پیشرفته‌اش در ماه سپتامبر از یک پیکربندی نادرست برای دسترسی به اینترنت استفاده کرده بود؛ اتفاقی که باعث توقف موقت فعالیت‌های آموزشی شرکت و بررسی روش‌های امنیتی جدید شد.
اوپن‌ای‌آی قصد دارد به‌جای اتصال مستقیم مدل‌ها به اینترنت، از نسخه‌های ذخیره‌شده و شبیه‌سازی‌شده محتوای وب استفاده کند. این محیط به مدل‌ها امکان می‌دهد با حجم گسترده‌ای از اطلاعات آنلاین تعامل داشته باشند، بدون آنکه مستقیماً بر سامانه‌های واقعی و خارجی تأثیر بگذارند.
این رویکرد در حالی مطرح می‌شود که شرکت آنتروپیک نیز پیش‌تر محدودیت‌های مشابهی برای دسترسی مدل‌های پیشرفته خود به اینترنت زنده اعمال کرده بود.
با این حال، هنوز مشخص نیست آموزش در محیط‌های شبیه‌سازی‌شده تا چه اندازه می‌تواند عملکرد مدل‌ها را در مقایسه با دسترسی مستقیم به اینترنت حفظ کند. این تصمیم نشان می‌دهد که با افزایش توانایی عامل‌های هوش مصنوعی، کنترل دسترسی آن‌ها به دنیای دیجیتال به یکی از چالش‌های مهم شرکت‌های پیشرو در این حوزه تبدیل شده است.
ک خبر ۲۰۲۰۵۰۸۰۳.۰۲۶
منبع: تک کرانچ
