میدجرنی قصد دارد ابزاری پیشرفته را معرفی کند که به کاربران اجازه می‌دهد تصاویر بارگذاری‌شده از وب را با استفاده از هوش مصنوعی مولد ویرایش کنند. دیوید هولز، CEO میدجرنی، اعلام کرد که این ابزار جدید “اوایل هفته آینده” منتشر خواهد شد و به کاربران امکان می‌دهد تا بافت اشیاء موجود در تصاویر را تغییر دهند و رنگ‌ها و جزئیات آن‌ها را مطابق با توضیحات تغییر دهند.
ویرایش تصاویر موجود با هوش مصنوعی اخیراً به یک موضوع داغ تبدیل شده است. پلتفرم‌هایی مانند متا در تلاشند تا مشخص کنند که چگونه باید تصاویر ویرایش‌شده با ابزارهای هوش مصنوعی را برچسب‌گذاری کنند، در حالی که شرکت‌هایی مانند گوگل قابلیت‌های قدرتمند هوش مصنوعی را ارائه داده‌اند که هیچ نشانه بصری مبنی بر ویرایش تصویر با هوش مصنوعی نشان نمی‌دهد.
سال گذشته، میدجرنی به استفاده از استاندارد فنی IPTC برای مشخصات نوع منبع دیجیتال متعهد شد که متاداده‌هایی را در تصاویر قرار می‌دهد که نشان‌دهنده تولید آن‌ها با هوش مصنوعی است. با این حال، این شرکت یکی از معدود پلتفرم‌های بزرگ هوش مصنوعی است که فناوری C2PA، که منشأ کامل یک تصویر را ردیابی می‌کند، نپذیرفته است.
در یک پست در سرور رسمی دیسکورد میدجرنی، هولز گفت که ابزار ویرایش تصاویر در ابتدا محدود به “زیرمجموعه‌ای از جامعه فعلی” خواهد بود و با نظارت انسانی افزایش‌یافته و “مدیران هوش مصنوعی پیشرفته‌تر” تلاش خواهد شد تا از سوءاستفاده جلوگیری شود. او گفت: “صادقانه بگویم، ما دقیقاً مطمئن نیستیم که چگونه می‌توانیم استفاده از این ویژگی را محدود کنیم.” میدجرنی از طریق یک نظرسنجی بازخورد جامعه را جمع‌آوری می‌کند تا مشخص کند کدام کاربران ابتدا به این ویژگی دسترسی پیدا کنند.
آزادسازی چنین ابزارهای ویرایشی بدون حفاظ‌های کافی می‌تواند خطراتی را به همراه داشته باشد. این ابزارها می‌توانند نقض حق کپی را در مقیاس وسیع تسهیل کرده یا باعث انتشار اطلاعات نادرست شوند.
دروغ‌های عمیق (Deepfake) به سرعت در رسانه‌های اجتماعی در حال گسترش هستند و تشخیص حقیقت از اطلاعات نادرست را دشوار می‌سازند. به تازگی، تصاویری جعلی از تخریب و رنج انسانی در پی طوفان هلن در وب منتشر شد.
طبق داده‌های شرکت Clarity، که در زمینه تشخیص دروغ‌های عمیق فعالیت می‌کند، امسال ۹۰۰ درصد بیشتر از سال گذشته دروغ‌های عمیق ایجاد و منتشر شده است. این موضوع باعث نگرانی شده است. یک نظرسنجی اخیر از YouGov نشان داد که ۸۵ درصد آمریکایی‌ها نگران گسترش دروغ‌های عمیق نادرست در اینترنت هستند.
با عدم وجود قانونی در سطح فدرال ایالات متحده برای جرم‌انگاری دروغ‌های عمیق، بیش از ۱۰ ایالت قوانین ضد جعل را به تصویب رسانده‌اند. قانون کالیفرنیا — که در حال حاضر متوقف شده است — اولین قانونی خواهد بود که به قضات این امکان را می‌دهد تا از افرادی که دروغ‌های عمیق را منتشر می‌کنند بخواهند آن‌ها را حذف کنند یا با مجازات‌های مالی روبه‌رو شوند.
میدجرنی به عنوان یک نمونه عالی از به‌کارگیری مسئولانه هوش مصنوعی شناخته نشده است و به عنوان مثال، به دلیل استفاده ادعایی از محتوای دارای حق کپی برای آموزش مدل‌های هوش مصنوعی خود تحت تعقیب قانونی قرار دارد. اما در ماه‌های اخیر، این پلتفرم اقداماتی برای محدود کردن گسترش دروغ‌های عمیق انجام داده است، از جمله فیلترهای مربوط به شخصیت‌های سیاسی پیش از انتخابات ریاست‌جمهوری ایالات متحده.
کد خبر ۲۱۷۰۳۰۷۲۹.۰۲۶
