کوین سیستروم، همبنیانگذار اینستاگرام، هشدار داده که بسیاری از چتباتهای هوش مصنوعی بهجای ارائه پاسخهای دقیق و مفید، کاربران را با سوالهای پیدرپی سرگرم میکنند تا تعامل (engagement) را بالا ببرند.
او در رویداد StartupGrind گفت: «هر بار که سوالی میپرسم، در پایانش چتبات یک سوال دیگر میپرسد، فقط برای اینکه دوباره از من سوال بگیرد. این رفتار، بیشتر شبیه الگوریتمهای شبکههای اجتماعی است که کاربر را درگیر نگه میدارند تا واقعی بودن تجربه.»
بهگفتهی سیستروم، این رویکرد نشاندهنده تمرکز بیشازحد شرکتهای هوش مصنوعی بر آمارهایی مانند “مدت زمان استفاده” و “تعداد کاربران فعال روزانه” است، نه بر کیفیت پاسخ. او این تاکتیک را یک «نیروی مخرب» دانست و تاکید کرد که شرکتها باید بهجای بازی با کاربر، بر تولید پاسخهای با کیفیت و مفید متمرکز شوند.
در همین حال، ChatGPT نیز بهخاطر مؤدب بودن افراطی و گاهی طفره رفتن از پاسخهای روشن مورد انتقاد قرار گرفته است. OpenAI در پاسخ اعلام کرده که سیستمهایشان گاهی برای دریافت اطلاعات دقیقتر، سوالات اضافه مطرح میکنند و این بخشی از طراحی آنهاست.
این انتقادات یادآور چالشی بزرگ در توسعه هوش مصنوعی است: آیا هدف آن باید «درگیر نگه داشتن کاربر» باشد یا «حل واقعی مشکلات»؟
کد خبر ۲۰۲۰۴۰۲۱۴.۰۲۶
منبع: تک کرانچ
