گوگل با افتخار اعلام کرده است که شکارچی باگ مبتنی بر هوش مصنوعی‌اش، اولین دسته از آسیب‌پذیری‌های امنیتی را شناسایی کرده است. هدر آدکینز، معاون رئیس امنیت گوگل، روز دوشنبه گفت که محقق آسیب‌پذیری مبتنی بر LLM بنام “Big Sleep” تعداد ۲۰ نقص در نرم‌افزارهای متن‌باز محبوب شناسایی کرده است.
آدکینز اضافه کرد که Big Sleep، که توسط بخش هوش مصنوعی شرکت DeepMind و تیم ویژه هکرهای Project Zero توسعه یافته، اولین آسیب‌پذیری‌های خود را گزارش کرده است. این آسیب‌پذیری‌ها عمدتاً در نرم‌افزارهای متن‌باز مانند کتابخانه‌های صوتی و تصویری FFmpeg و نرم‌افزار ویرایش تصویر ImageMagick شناسایی شده‌اند.
با توجه به اینکه این آسیب‌پذیری‌ها هنوز برطرف نشده‌اند، جزئیات تأثیر یا شدت آنها مشخص نیست و گوگل نیز به دلیل سیاست استاندارد خود در انتظار رفع اشکالات، تمایلی به ارائه جزئیات ندارد. اما این واقعیت که Big Sleep این آسیب‌پذیری‌ها را شناسایی کرده، اهمیت زیادی دارد و نشان‌دهنده پیشرفت واقعی این ابزارها است، حتی اگر در این مورد انسان نیز دخالت داشته باشد.
کیمبرلی سامرا، سخنگوی گوگل گفت: “برای اطمینان از کیفیت بالا و گزارشات کاربردی، قبل از گزارش، یک کارشناس انسانی در فرآیند حضور دارد، اما هر آسیب‌پذیری توسط عامل هوش مصنوعی بدون دخالت انسان شناسایی و تولید شده است.”
رویال هنسن، معاون رئیس مهندسی گوگل، در پلتفرم X نوشت که این یافته‌ها نشان‌دهنده “یک مرز جدید در کشف خودکار آسیب‌پذیری‌ها” هستند.
ابزارهای مبتنی بر LLM که می‌توانند به جستجو و شناسایی آسیب‌پذیری‌ها بپردازند، هم‌اکنون به واقعیت تبدیل شده‌اند. به جز Big Sleep، ابزارهای دیگری مانند RunSybil و XBOW نیز وجود دارند. XBOW توجهات را به خود جلب کرده است و به یکی از برترین‌ها در لیست‌های پلتفرم باگ بونتی HackerOne در ایالات متحده دست یافته است.
شایان ذکر است که در بیشتر موارد، تیم‌های انسانی در بخشی از فرآیند برای تأیید اعتبار شناسایی‌های هوش مصنوعی درگیر هستند، همان‌طور که در مورد Big Sleep نیز اینگونه است.
ولاد ایوانسکو، یکی از بنیانگذاران و مدیر ارشد فناوری RunSybil، به TechCrunch گفت که Big Sleep یک پروژه “معتبر” است، چون “طراحی خوبی دارد و افرادی که پشت آن هستند می‌دانند چه کاری انجام می‌دهند، Project Zero تجربه شناسایی باگ را دارد و DeepMind نیز توانایی و منابع لازم را برای این کار دارد”.
در حالی که این ابزارها پتانسیل‌های زیادی دارند، اما معایب قابل توجهی نیز وجود دارد. چندین نفر که مسئولیت نگهداری از پروژه‌های نرم‌افزاری مختلف را بر عهده دارند، از گزارش‌های باگ شکایت کرده‌اند که در واقع تنها توهمات هوش مصنوعی هستند و برخی آنها را معادل باگ بونتی آشفته می‌دانند.
کد خبر ۲۰۲۰۴۰۵۱۸.۰۲۶
منبع: تک کرانچ
