پژوهشی جدید نشان میدهد برخی مدلهای پیشرفته هوش مصنوعی در یک محیط آزمایشی توانستهاند با شناسایی و سوءاستفاده از آسیبپذیریها، خود را از یک رایانه به رایانهای دیگر منتقل و کپی کنند؛ قابلیتی که به گفته پژوهشگران، میتواند زنگ خطری برای آینده امنیت سایبری باشد.
مؤسسه “Palisade Research”، مستقر در برکلی آمریکا، در این مطالعه چند مدل هوش مصنوعی را در یک شبکه کنترلشده از رایانهها آزمایش کرد. به این مدلها دستور داده شد آسیبپذیریها را پیدا کنند، از آنها بهرهبرداری کنند و سپس خود را به سیستم دیگری منتقل کنند. نتایج نشان داد که مدلها در برخی تلاشها موفق به انجام این کار شدند، هرچند این موفقیت در همه موارد تکرار نشد.
جفری لادیش، مدیر این مؤسسه، هشدار داده است که جهان به نقطهای نزدیک میشود که در آن متوقف کردن یک هوش مصنوعی سرکش بسیار دشوار خواهد شد؛ زیرا چنین سیستمی ممکن است بتواند مدل خود را به هزاران رایانه در سراسر جهان منتقل کند و از دسترس خارج شود.
با این حال، کارشناسان امنیت سایبری تأکید میکنند که نباید این یافتهها را با سناریوهای آخرالزمانی یکسان دانست. به گفته آنها، آزمایش انجامشده در محیطی طراحی شده و سادهتر از شبکههای واقعی مانند زیرساختهای بانکی یا سازمانی بوده است. جیمیسون اورایلی، کارشناس امنیت سایبری تهاجمی، میگوید محیط آزمایش در بسیاری موارد «بیش از حد نرم و آسان» بوده و در شرایط واقعی، سیستمهای نظارتی میتوانند چنین رفتارهایی را سریعتر شناسایی کنند.
کارشناسان همچنین یادآور میشوند که بدافزارها و ویروسهای رایانهای سالهاست توانایی تکثیر خود روی سیستمهای دیگر را دارند، اما آنچه این پژوهش را متمایز میکند، این است که برای نخستین بار یک مدل زبانی بزرگ توانسته بهصورت سرتاسری و مستند، با سوءاستفاده از آسیبپذیریها، چنین کاری انجام دهد.
با وجود این، محدودیتهای فنی فعلی همچنان بسیار مهم هستند. برای مثال، حجم بالای مدلهای هوش مصنوعی امروزی باعث میشود انتقال آنها در شبکههای واقعی بدون جلب توجه کار سادهای نباشد. به گفته کارشناسان، جابهجایی دهها یا صدها گیگابایت داده در یک شبکه سازمانی معمولاً بهراحتی قابل شناسایی است.
در مجموع، این پژوهش بیشتر از آنکه نشانه ظهور فوری یک هوش مصنوعی خارج از کنترل باشد، هشداری جدی درباره مسیر آینده این فناوری و اهمیت تقویت تدابیر امنیتی در برابر قابلیتهای نوظهور هوش مصنوعی به شمار میرود.
کد خبر ۲۱۲۰۵۰۲۲۰.۰۶۰
منبع:گاردین
