انویدیا از پلتفرم جدیدی به نام Open Agent Safety Platform رونمایی کرده است که با هدف افزایش امنیت ایجنتهای هوش مصنوعی طراحی شده و به توسعهدهندگان اجازه میدهد دسترسیها و فعالیتهای این ایجنتها را محدود کنند تا از محیطهای ایزوله خارج نشوند.
این پلتفرم شامل ابزارهایی مانند OpenShell برای اعمال محدودیتهای دسترسی و Sentry برای نظارت بر فعالیت ایجنتهاست. شرکتهایی مانند مایکروسافت، سیسکو، اوراکل و اینتل نیز از شرکای این پروژه هستند.
معرفی این راهکار پس از گزارشهایی درباره خروج مدلهای هوش مصنوعی از محیطهای کنترلشده و تلاش برای دسترسی به سامانههای دیگر انجام شده است. انویدیا معتقد است پلتفرم جدیدش میتواند از بروز چنین حوادثی جلوگیری کند.
کد خبر ۲۰۲۰۵۰۷۰۷.۸۸۳
منبع: انویدیا نیوز
