شرکت گوگل دیپمایند با توسعه ابزاری به نام SynthID، امکان شناسایی متنهای تولیدشده توسط هوش مصنوعی را فراهم کرده و این ابزار را به صورت متنباز در دسترس قرار داده است. این ابزار بخشی از مجموعهای بزرگ از ابزارهای واترمارک برای خروجیهای هوش مصنوعی است.
SynthID بهمنظور تشخیص متنهای تولیدشده توسط هوش مصنوعی، واترمارک نامرئی را مستقیماً در زمان تولید متن به آن اضافه میکند. این فناوری به توسعهدهندگان دیگر کمک میکند تا بتوانند تشخیص دهند آیا متنهای خروجی از مدلهای زبانی بزرگ خودشان ناشی شدهاند یا خیر.
نتایج آزمایشهای گستردهای که بر روی عملکرد SynthID انجام شده، نشان میدهد که استفاده از این واترمارک کیفیت، دقت، خلاقیت یا سرعت متنهای تولیدی را تحت تأثیر قرار نمیدهد. در این آزمایش، کاربران بهصورت زنده کیفیت پاسخهای مدل هوش مصنوعی را ارزیابی کردند و هیچ تفاوتی در کیفیت و کارایی بین متنهای دارای واترمارک و بدون آن مشاهده نکردند.
با این حال، SynthID محدودیتهایی نیز دارد. این واترمارک در برابر برخی تغییرات مانند ویرایش سبک و کوتاه کردن متن مقاوم است، اما در مواردی مانند بازنویسی یا ترجمه متن، کارایی کمتری دارد. همچنین در پاسخ به پرسشهای فکتچکینگ، نظیر اطلاعات واقعی، عملکرد آن کاهش مییابد.
تصمیم گوگل دیپمایند برای متنباز کردن این روش واترمارک، یک گام مثبت برای جامعه هوش مصنوعی به شمار میرود. این اقدام به جامعه اجازه میدهد تا ابزارهای تشخیص را آزمایش کرده و محدودیتهای این تکنیکها را بهتر درک کند.
به گفته متخصصان، این اقدام میتواند به استانداردسازی واترمارکینگ کمک کند و از سوءاستفادههای احتمالی از مدلهای زبانی جلوگیری کند. اما واترمارکها تنها یکی از ابعاد امنیت در مدلها هستند و نیاز به تدابیر مکمل دارند.
کد خبر ۲۱۲۰۳۰۸۰۵.۲۰۰
