سازمان “Common Sense Media” که بر ایمنی کودکان در حوزه رسانه و فناوری تمرکز دارد، در گزارش تازهای محصولات هوش مصنوعی گوگل “Gemini” را برای کودکان و نوجوانان «پرخطر» معرفی کرد.
در این ارزیابی آمده است که هرچند Gemini بهطور شفاف به کودکان میگوید یک کامپیوتر است و نه یک دوست، اما همچنان در بخشهای مختلف کاستیهای جدی دارد. بررسیها نشان میدهد نسخههای ویژه زیر ۱۳ سال و نوجوانان در واقع همان نسخه بزرگسالان هستند که تنها با چند فیلتر ایمنی محدود تکمیل شدهاند.
به گفته این سازمان، Gemini همچنان قادر است محتوای «نامناسب و ناامن» در اختیار کودکان قرار دهد؛ از اطلاعات مربوط به مواد مخدر گرفته تا توصیههای اشتباه درباره سلامت روان. این موضوع برای والدین نگرانکننده است، بهویژه با توجه به گزارشهایی که نقش چتباتها را در خودکشی برخی نوجوانان مطرح کردهاند.
همچنین، این گزارش درست همزمان با انتشار خبرهایی منتشر شد که نشان میدهد اپل در حال بررسی استفاده از Gemini برای نسخه جدید سیری مجهز به هوش مصنوعی است؛ موضوعی که میتواند نگرانیها را نسبت به امنیت نوجوانان افزایش دهد.
گوگل در واکنش به این ارزیابی، با بخشی از آن مخالفت کرده و مدعی شده است که سیاستها و ابزارهای حفاظتی ویژهای برای کاربران زیر ۱۸ سال در نظر گرفته است. بااینحال، این شرکت پذیرفته که برخی پاسخهای Gemini مطابق انتظار عمل نکرده و به همین دلیل تدابیر بیشتری برای بهبود ایمنی اضافه کرده است.
Common Sense Media پیشتر نیز ارزیابیهایی از سرویسهای دیگر انجام داده بود: “Meta AI” و “Character.AI” «غیرقابلقبول»، “Perplexity” پرخطر، “ChatGPT” در سطح «متوسط» و “Claude” (ویژه بزرگسالان) کمخطر ارزیابی شدهاند.
کد خبر ۲۰۲۰۴۰۶۱۷.۰۲۶
منبع: تک کرانچ
