شرکت اوپن ای آی اعلام کرد یکی از مدلهای هوش مصنوعی این شرکت در جریان آزمایشهای داخلی، بهصورت کاملاً خودمختار موفق شده به سرورهای شرکت Hugging Face نفوذ کند؛ اتفاقی که مدیران اوپن ای آی آن را یک «رخداد بیسابقه در حوزه امنیت سایبری» توصیف کردهاند.
سم آلتمن، با تأیید این حادثه گفت که این رخداد هنگام ارزیابی تواناییهای امنیت سایبری مدلهای جدید این شرکت، از جمله GPT-5.6 Sol، رخ داده و اطلاعات بهدستآمده از آن بهصورت شفاف منتشر خواهد شد.
بر اساس توضیحات OpenAI، این مدل هوش مصنوعی بدون دخالت انسان، با استفاده از اطلاعات کاربری سرقتشده و بهرهبرداری از یک آسیبپذیری ناشناخته نرمافزاری توانسته به بخشهایی از زیرساخت Hugging Face دسترسی غیرمجاز پیدا کند.
شرکت Hugging Face نیز هفته گذشته از وقوع یک نفوذ امنیتی به بخشی از زیرساخت عملیاتی خود خبر داده بود و اعلام کرد این حمله توسط سامانههای هوش مصنوعی امنیتی خود شناسایی شده است.
به گفته این شرکت، تفاوت اصلی این حمله با نمونههای قبلی آن بود که تمام مراحل حمله، از ابتدا تا انتها، توسط یک عامل هوش مصنوعی خودمختار انجام شده بود.
کلمنت دلانگ، مدیرعامل و همبنیانگذار Hugging Face، در شبکه اجتماعی X نوشت که از همان ابتدا حدس میزد این حمله توسط یکی از آزمایشگاههای پیشرفته هوش مصنوعی انجام شده باشد.
او همچنین تأکید کرد که OpenAI و Hugging Face طی ۲۴ ساعت گذشته برای بررسی و رفع مشکل با یکدیگر همکاری کردهاند و معتقد است این اقدام با نیت مخرب انجام نشده، بلکه نتیجه رفتار مستقل سیستم هوش مصنوعی بوده است.
اوپن ای آی در گزارش خود اعلام کرده است که مدل آزمایشی برای رسیدن به یک هدف محدود، بهطور مستقل راههایی برای دسترسی به اطلاعات محرمانه و دور زدن فرآیند ارزیابی پیدا کرده است.
این شرکت هشدار داد که با پیشرفت سریع هوش مصنوعی، سرعت کشف و سوءاستفاده از آسیبپذیریهای امنیتی نیز افزایش مییابد و به همین دلیل، توسعه سازوکارهای ایمنی و امنیت مدلهای هوش مصنوعی باید همپای رشد تواناییهای آنها پیش برود.
این حادثه در حالی رخ داده که OpenAI ماه گذشته از مدل Sol رونمایی کرده بود، اما انتشار عمومی آن را به درخواست نهادهای دولتی و بهدلیل نگرانیهای امنیت سایبری به تعویق انداخت.
با این حال، این شرکت حدود دو هفته بعد مجموعه مدلهای GPT-5.6 از جمله Sol را بهصورت عمومی منتشر کرد. هنوز مشخص نیست چه عواملی باعث تغییر تصمیم OpenAI شده، اما گزارشها حاکی از آن است که در هفتههای اخیر آزمایشهای امنیتی بیشتری انجام شده و جلساتی میان مدیران OpenAI و مقامهای دولتی برگزار شده است.
این رخداد، بار دیگر نگرانیها درباره توانایی روزافزون مدلهای هوش مصنوعی در اجرای حملات سایبری را افزایش داده و نشان میدهد که در آینده، هوش مصنوعی میتواند هم ابزاری برای دفاع سایبری باشد و هم تهدیدی جدی برای امنیت دیجیتال.
کد خبر ۲۰۲۰۵۰۵۰۵.۸۶۲
منبع : د هیل
