شرکت آنتروپیک هشدار داده است که مدل‌های هوش مصنوعی کوچک ممکن است تا پایان سال جاری میلادی به توانایی تکثیر مستقل خود روی دستگاه‌های متصل به اینترنت دست پیدا کنند؛ قابلیتی که می‌تواند کنترل و مهار این سیستم‌ها را دشوارتر کند.
پژوهشگران آنتروپیک در آزمایش‌های خود بررسی کردند که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، نسخه‌ای از خود را روی آن‌ها کپی کنند و بدون دخالت انسان به گسترش خود ادامه دهند یا خیر.
نتایج آزمایش‌ها نشان داد مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر نیز می‌توانند بسیاری از مراحل لازم برای تکثیر خود را انجام دهند؛ هرچند این مدل‌ها هنوز در اجرای کامل و پیوسته تمام مراحل با مشکل مواجه‌اند. با این حال، در آزمایش‌های ساده‌سازی‌شده که برخی موانع امنیتی از آن‌ها حذف شده بود، مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرایند تکثیر را از ابتدا تا انتها انجام دهند.
آنتروپیک در این پژوهش بر دستگاه‌هایی مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و سایر تجهیزات متصل به اینترنت تمرکز کرده است؛ زیرا این دستگاه‌ها معمولاً از حفاظت امنیتی ضعیف‌تری برخوردارند.
به گفته آنتروپیک، اگر روند پیشرفت مدل‌های کوچک با سرعت تاریخی خود ادامه یابد، ممکن است این مدل‌ها تا پایان سال جاری میلادی قادر به تکثیر مستقل شوند. چنین سیستم‌هایی می‌توانند به‌تدریج در دستگاه‌های مختلف گسترش پیدا کنند و حتی برای شناسایی تجهیزات ناآشنا و یافتن منابع پردازشی جدید، بدون راهنمایی مستقیم انسان اقدام کنند.
برخلاف بدافزارهای سنتی، این سیستم‌ها ممکن است بتوانند خود را با دستگاه‌های ناشناخته سازگار کنند و از آنجا که نسخه‌های متعددی از آن‌ها در نقاط مختلف شبکه پراکنده می‌شود، متوقف‌کردن کاملشان نیز دشوارتر خواهد بود.
آنتروپیک تأکید کرده است که تقویت امنیت دستگاه‌های متصل به اینترنت و زیرساخت‌های محاسباتی، برای کاهش خطر گسترش مستقل عامل‌های هوش مصنوعی ضروری است.
کد خبر ۲۰۲۰۵۰۷۲۲.۸۴۹
منبع: یاهوتک
