تحلیل جدید خبرگزاری رویترز نشان میدهد ابزار تازه متا برای تشخیص تصاویر تولیدشده با هوش مصنوعی، در برخی موارد حتی قادر به شناسایی تصاویر ساختهشده توسط مدل اختصاصی این شرکت نیز نیست؛ بهویژه زمانی که تصویر پس از تولید برش داده شود.
در این بررسی، ۴۰ تصویر تولیدشده با مدل Muse Image آزمایش شد. ابزار متا همه تصاویر اصلی را با موفقیت شناسایی کرد، اما پس از برش تصاویر به حدود یکسوم تا نصف اندازه اولیه، در ۵۵ درصد موارد نتوانست آنها را بهعنوان تصاویر تولیدشده با هوش مصنوعی تشخیص دهد.
متا اعلام کرده است که این سیستم از فناوری واترمارک نامرئی Content Seal استفاده میکند؛ قابلیتی که در تمام تصاویر تولیدشده توسط Muse Image قرار میگیرد و حتی پس از ویرایشهای معمول نیز باید قابل شناسایی باشد. با این حال، این شرکت تأیید کرده است که در صورت برش شدید تصویر، ممکن است سیگنال واترمارک از بین برود و ابزار دیگر قادر به تشخیص آن نباشد.
کارشناسان میگویند این موضوع نشان میدهد فناوریهای مبتنی بر واترمارک هنوز محدودیتهای مهمی دارند. به گفته پژوهشگران، اقداماتی مانند برش، تغییر اندازه، فشردهسازی یا ویرایش تصویر میتواند دقت این روشها را کاهش دهد.
این گزارش در حالی منتشر شده که نگرانیها درباره گسترش دیپفیکها و محتوای جعلی تولیدشده با هوش مصنوعی، بهویژه در آستانه انتخابات، افزایش یافته است. هیئت نظارت متا نیز پیشتر از این شرکت خواسته بود ابزارهای قدرتمندتری برای مقابله با محتوای فریبنده مبتنی بر هوش مصنوعی توسعه دهد.
در همین حال، شرکتهای OpenAI و Google نیز پیش از این اعلام کردهاند که ابزارهای تشخیص تصاویر هوش مصنوعی آنها نیز در برابر برخی روشهای ویرایش و دستکاری تصویر، مصونیت کامل ندارند.
کد خبر ۲۱۲۰۵۰۴۲۲.۰۷۵
منبع: رویترز
