شبکه اجتماعی ردیت از بهکارگیری گسترده ابزارهای هوش مصنوعی برای شناسایی و حذف محتوای جعلی، هرزنامهها و فعالیتهای مشکوک خبر داد. این پلتفرم اعلام کرده است که مدلهای زبانی بزرگ (LLM) اکنون از همان لحظه ایجاد حساب کاربری، رفتارهای غیرعادی و الگوهای هماهنگشده مربوط به حسابهای جعلی و محتوای تولیدشده توسط هوش مصنوعی را رصد میکنند.
به گفته ردیت، این سیستمهای هوشمند روزانه از مشاهده ۲۳ میلیون هرزنامه جلوگیری میکنند، حدود ۲۵ هزار پست و نظر مشکوک را شناسایی کرده و نزدیک به ۲ میلیون رأی غیرواقعی را باطل میکنند. در نتیجه، میزان مواجهه کاربران با هرزنامهها در سهماهه نخست سال ۲۰۲۶ نسبت به سه ماه قبل از آن، ۲۰ درصد کاهش یافته است.
ردیت همچنین اعلام کرد حسابهایی که رفتار خودکار و مشکوک دارند، برای ادامه فعالیت باید هویت انسانی خود را تأیید کنند. علاوه بر مقابله با محتوای تولیدشده توسط هوش مصنوعی، این ابزارها برای شناسایی سریعتر محتوای حاوی نفرتپراکنی و خشونت نیز به کار گرفته شدهاند.
طبق اعلام این شرکت، زمان بین شناسایی تخلف و اجرای اقدامات نظارتی اکنون به کمتر از پنج ثانیه رسیده و همین موضوع باعث شده میزان مواجهه کاربران با محتوای مضر بیش از ۴۰ درصد کاهش یابد. در حال حاضر این سیستمها روی محتوای انگلیسیزبان فعال هستند و قرار است در آینده از زبانهای بیشتری نیز پشتیبانی کنند.
ردیت در سالهای اخیر رابطهای پیچیده با هوش مصنوعی داشته است. از یک سو با استفاده بدون مجوز شرکتهای هوش مصنوعی از دادههای خود مقابله کرده و برای دسترسی به محتوایش سیاستهای جدیدی وضع کرده است، اما از سوی دیگر، با توسعه ابزارهایی مانند Reddit Answers و اکنون سامانههای هوشمند نظارت بر محتوا، استفاده از هوش مصنوعی را به بخشی جداییناپذیر از خدمات خود تبدیل کرده است.
کد خبر ۲۰۲۰۵۰۴۱۷.۱۴۳
منبع: انگجت
