پژوهشی جدید نشان میدهد خطاهای موجود در خلاصههای تولیدشده توسط هوش مصنوعی فقط باعث انتقال اطلاعات نادرست نمیشوند، بلکه ممکن است حافظه انسان از یک رویداد واقعی را نیز تغییر دهند.
پژوهشگران ابتدا خلاصههای تولیدشده توسط مدلهای زبانی را بررسی کردند و دریافتند این خلاصهها اغلب جزئیات مهم را حذف میکنند؛ در برخی موارد حتی مهمترین اتفاق ویدئو نیز از خلاصه جا افتاده بود.
در آزمایش انسانی، شرکتکنندگان ابتدا ویدئویی از یک تصادف خودرو و عابر پیاده دیدند و سپس خلاصهای از آن را دریافت کردند. افرادی که خلاصه نادرست را خوانده بودند، در آزمون حافظه کمتر توانستند رویداد اصلی را بهدرستی به یاد بیاورند.
این یافتهها اهمیت ویژهای در حوزههایی مانند پلیس و سایر موقعیتهای حساس دارد؛ زیرا نشان میدهد حتی وقتی انسان برای بررسی خروجی هوش مصنوعی حضور دارد، خطاهای AI ممکن است بهجای اصلاح شدن، بر حافظه خود انسان اثر بگذارند.
کد خبر ۲۱۲۰۵۰۷۰۶.۸۸۲
منبع: arxiv.org
