اوپنایآی مجموعهای از ابزارهای امنیتی جدید را با هدف مقابله با سوءاستفاده از کودکان در فضای آنلاین معرفی کرده است. این اقدامات شامل یک مدل هوش مصنوعی برای شناسایی تصاویر غیرقانونی، هشدارهای جدید در چتجیپیتی و ابزارهایی برای کمک به نیروهای مجری قانون است.
ابزار جدید تشخیص تصویر اوپنایآی میتواند تصاویر مرتبط با سوءاستفاده از کودکان (CSAM) را شناسایی کند؛ حتی اگر این تصاویر با هوش مصنوعی تولید شده باشند. این ابزار با همکاری مرکز ملی کودکان گمشده و مورد بهرهکشی آمریکا (NCMEC) توسعه یافته و دسترسی به آن از طریق API و بهصورت رایگان برای سازمانهای منتخب فراهم میشود.
بر اساس آزمایشهای اولیه، این ابزار با حفظ توانایی شناسایی همان تعداد تصاویر مخرب، تعداد تصاویر نیازمند بررسی را ۴۸ درصد کاهش داده است.
اوپنایآی همچنین هشدارهای جدیدی به چتجیپیتی اضافه میکند تا در صورت تلاش کاربران برای تولید یا دسترسی به محتوایی که کودکان را جنسیسازی میکند، پیام هشدار نمایش داده شود. در این شرایط، گفتوگوی مربوط حذف و دسترسی کاربر به مدت ۲۴ ساعت متوقف میشود. تکرار تخلف میتواند به مسدودسازی دائمی حساب منجر شود.
این شرکت همچنین راهنماییهای امنیتی جدیدی برای توسعهدهندگان منتشر کرده و ابزارهای مبتنی بر هوش مصنوعی را برای کمک به تحقیقات پلیس و شناسایی قربانیان در اختیار نهادهای مجری قانون قرار میدهد.
هدف این اقدامات، تقویت امنیت کودکان و جلوگیری از سوءاستفاده از فناوریهای هوش مصنوعی برای تولید و انتشار محتوای آسیبزا است.
کد خبر ۲۰۲۰۵۰۸۲۷.۰۲۶
منبع : تک کرانج