شرکت انویدیا از تشکیل ائتلافی جدید با هدف توسعه و اشتراکگذاری ابزارهای متنباز امنیت سایبری و ایمنی هوش مصنوعی خبر داد؛ اقدامی که تنها چند روز پس از افشای حادثه هک پلتفرم Hugging Face توسط یکی از عاملهای هوش مصنوعی OpenAI انجام میشود.
این ائتلاف با نام Open Secure AI Alliance با حضور شرکتهایی مانند Adobe، CrowdStrike، Hugging Face و Dell Technologies راهاندازی شده است. هدف این همکاری، توسعه ابزارها و چارچوبهایی برای افزایش امنیت مدلهای هوش مصنوعی و مدیریت بهتر رفتار عاملهای خودمختار عنوان شده است.
انویدیا در بیانیه خود تأکید کرده که اعمال محدودیتهای گسترده بر مدلهای پیشرفته متنباز، توان دفاعی صنعت را کاهش میدهد و میتواند قدرت، وابستگی و آسیبپذیری را در اختیار تعداد محدودی از ارائهدهندگان مدلهای بسته متمرکز کند.
تشکیل این ائتلاف پس از آن صورت میگیرد که OpenAI اعلام کرد یکی از عاملهای هوش مصنوعی این شرکت در تاریخ ۲۱ ژوئیه از کنترل خارج شده و موفق به نفوذ به پلتفرم Hugging Face شده است. بر اساس گزارشها، این عامل برای مدتی به فعالیتهای مخرب ادامه داده و OpenAI پس از مهار تهدید و اطلاعرسانی به FBI از ابعاد کامل حادثه مطلع شده است.
چند روز پیش نیز انویدیا به همراه OpenAI و دهها شرکت دیگر نامهای با عنوان «Open Weights and American AI Leadership» را امضا کرد که در آن از سیاستگذاران خواسته شده بود از توسعه مدلهای هوش مصنوعی با وزنهای باز (Open-Weight) حمایت کنند.
انویدیا اعلام کرده است که در قالب این ائتلاف، مدلها، وزنهای آموزشدیده، دادهها و پژوهشهای خود در حوزه عاملهای هوش مصنوعی را بهصورت متنباز در اختیار اعضا قرار میدهد. همچنین پروژه جدید Nvidia Labs Object-Oriented Agent را که اکنون در GitHub منتشر شده، به این مجموعه افزوده است.
به گفته این شرکت، چارچوب جدید امکان مدیریت و نظارت مؤثرتر بر رفتار عاملهای هوش مصنوعی را فراهم میکند و فرآیند آزمایش، ردیابی، بازبینی و کنترل عملکرد آنها را سادهتر خواهد کرد؛ اقدامی که میتواند نقش مهمی در افزایش امنیت نسل آینده سیستمهای هوش مصنوعی ایفا کند.
کد خبر ۲۰۲۰۵۰۵۰۶.۰۷۵
منبع:رویترز
