گزارش جدید OpenAI نشان می‌دهد که این شرکت با استفاده از چت‌بات هوش مصنوعی ChatGPT توانسته است از تولید بیش از ۲۵۰ هزار تصویر جعلی مرتبط با انتخابات ریاست‌جمهوری ۲۰۲۴ ایالات متحده جلوگیری کند. این تصاویر به طور عمده شامل تصاویری از نامزدهای مختلف انتخابات، از جمله رئیس‌جمهور منتخب دونالد ترامپ و کامالا هریس معاون جو بایدن، بوده است.
طبق این گزارش، OpenAI اعلام کرده که در آستانه روز انتخابات، بیش از ۲۵۰ هزار درخواست برای تولید تصاویر جعلی از نامزدهای انتخاباتی رد شده است. این درخواست‌ها به ویژه از طرف گروه‌های فریبکارانه که قصد سوءاستفاده از مدل‌های هوش مصنوعی این شرکت را داشتند، ارسال شده بود. OpenAI همچنین اعلام کرد که هیچ‌کدام از این تلاش‌ها نتوانستند با مخاطبان گسترده‌ای ارتباط برقرار کنند.
این اقدامات به دنبال نگرانی‌های فزاینده درباره افزایش استفاده از تکنیک‌های «دیپ‌فیک» و تصاویر جعلی در فضای انتخابات و دموکراسی‌ها انجام شده است. طبق داده‌های شرکت Clarity، تعداد دیپ‌فیک‌ها در سال گذشته ۹۰۰ درصد افزایش یافته است. در همین راستا، الکساندرا ریوز گیونز، مدیرعامل مرکز دموکراسی و فناوری، به CNBC گفت که رأی‌دهندگان نباید تنها به چت‌بات‌های هوش مصنوعی برای کسب اطلاعات دقیق درباره انتخابات تکیه کنند، زیرا هنوز نگرانی‌هایی درباره دقت و صحت اطلاعات این سیستم‌ها وجود دارد.
OpenAI در گزارشی ۵۴ صفحه‌ای که در اکتبر ۲۰۲۴ منتشر شد، اعلام کرد که موفق به شناسایی و جلوگیری از ۲۰ عملیات و شبکه فریبکارانه شده است که در تلاش بودند از مدل‌های این شرکت برای انتشار اطلاعات نادرست سوءاستفاده کنند.
کد خبر ۲۰۲۰۳۰۸۲۰.۵۶۹
