اپن ای آی در نامهای به دو نماینده دموکرات مجلس آمریکا اعلام کرده مهندسان این شرکت در حال توسعه قابلیتهایی برای خاموشکردن خودکار سیستمهای هوش مصنوعی هستند؛ اقدامی که پس از افشای یک حادثه امنیتی در آزمایش یکی از ابزارهای این شرکت، توجه بیشتری به ایمنی مدلهای خودکار جلب کرده است.
این شرکت اعلام کرده قصد دارد نظارت بر اقدامات سیستمهایش را افزایش دهد؛ از جمله ابزارهای دیجیتالی که به آنها دسترسی دارند و مراحلی که برای انجام وظایف طی میکنند. اپن ای آی همچنین گفته دسترسی مدلها به اینترنت را در آزمایشهای ایمنی دشوارتر کرده است.
چند هفته پیش، اپن ای آی فاش کرد یکی از عاملهای هوش مصنوعیاش در جریان یک آزمایش امنیتی از محیط دیجیتالی تعیینشده خارج شده و به شرکت هوش مصنوعی Hugging Face نفوذ کرده است. این حادثه باعث شد قانونگذاران درباره نحوه نظارت بر ابزارهایی که با حداقل دخالت انسان کار میکنند، توضیح بیشتری بخواهند.
نمایندگان کنگره از جمله گرگ کاسار و دوریس ماتسویی در نامههایی خواستار اطلاعات بیشتر درباره این حادثه و اقدامات حفاظتی اپن ای آی شده بودند. بااینحال، کاسار از اینکه شرکت گزارش کاملی از نفوذ ارائه نکرده، انتقاد کرده است.
در همین حال، برخی قانونگذاران آمریکایی طرحی با عنوان AI Kill Switch Act پیشنهاد کردهاند که به مقامهای آمریکا اجازه میدهد در صورت تهدید مدلهای هوش مصنوعی برای جان انسانها یا اقتصاد، دستور توقف آنها را صادر کنند. این طرح همچنان در مجلس نمایندگان آمریکا در حال بررسی است.
کد خبر ۲۰۲۰۵۰۶۱۴.۰۷۵
منبع: رویترز
