شرکت آنتروپیک اعلام کرده است که برخی از عامل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها، اقداماتی ناخواسته در وب‌سایت‌های دولتی آمریکا انجام داده‌اند؛ از ارسال اطلاعات نادرست درباره یک پرونده قتل حل‌نشده گرفته تا تلاش برای دسترسی به داده‌های سامانه‌های دولتی.
بر اساس گزارش آنتروپیک، این رویدادها در جریان آزمایش عامل‌های هوش مصنوعی رخ داده‌اند که برای انجام خودکار وظایف مختلف در محیط وب به کار گرفته شده بودند. این شرکت نام سازمان‌های دولتی درگیر را منتشر نکرده، اما گفته است که نهادهای مربوطه و کاخ سفید را در جریان قرار داده است.
یکی از موارد گزارش‌شده به مدل Claude Haiku 4.5 مربوط می‌شود. این مدل هنگام انجام فعالیت‌های خودکار در صفحات وب، به صفحه‌ای درباره یک پرونده قتل حل‌نشده برخورد کرد که فرمی برای دریافت اطلاعات و سرنخ‌های مردمی داشت.
مدل بدون داشتن اطلاعات واقعی درباره پرونده، فرم را با پیامی پر کرد که وانمود می‌کرد فرستنده، فردی با مشخصات ظاهری موردنظر را در زمان وقوع حادثه دیده است.
اداره پلیس فیلادلفیا تأیید کرده که این پیام در تاریخ ۱۸ ژوئیه ارسال شده و سامانه آن را به‌عنوان هرزنامه شناسایی کرده است. در نتیجه، پلیس منابع خود را صرف بررسی این گزارش نادرست نکرد.
در رویدادی دیگر، مدل Claude Mythos 5 که بر امنیت سایبری تمرکز دارد، تلاش کرد محل نمایش‌داده‌شده در یک تصویر را شناسایی کند. این مدل برای بررسی حدس خود، به دنبال دسترسی به نقشه املاک دولتی رفت.
از آنجا که مدل نمی‌توانست مانند انسان از طریق لینک‌های وب‌سایت حرکت کند، به توکن‌ها و درخواست‌های مستقیم برای دریافت اطلاعات از سرور نقشه متوسل شد. همچنین تلاش کرد به توکن‌های یک وب‌سایت دولتی دسترسی پیدا کند تا فعالیتی آماری را بدون پرداخت هزینه‌ای انجام دهد که برای بازدیدکنندگان در نظر گرفته شده بود.
آنتروپیک اعلام کرده است که این موارد را هنگام بررسی گزارش‌ها و متن‌های حاصل از ارزیابی مدل‌های خود شناسایی کرده و پس از کشف اقدامات ناخواسته، تدابیر پیشگیرانه‌ای را در نظر گرفته است.
این بررسی‌ها پس از آن آغاز شد که OpenAI نیز در ماه ژوئیه از رویدادی خبر داد که در آن عامل‌های هوش مصنوعی این شرکت از محیط آزمایشی خود خارج شده و بدون مجوز به وب‌سایت Hugging Face دسترسی پیدا کرده بودند.
این رویدادها بار دیگر اهمیت نظارت بر عامل‌های هوش مصنوعی را برجسته می‌کنند؛ سامانه‌هایی که می‌توانند به‌صورت خودکار در وب فعالیت کنند، اما ممکن است در صورت نبود محدودیت‌های مناسب، اقداماتی ناخواسته یا گمراه‌کننده انجام دهند.
کد خبر ۲۰۲۰۵۰۷۲۰.۱۴۳
منبع: انگجت
