مدیرعامل متا، مارک زاکربرگ، اعلام کرده است که روزی هوش مصنوعی عمومی (AGI) که به طور تقریبی به معنای هوش مصنوعی است که می‌تواند هر وظیفه‌ای را که انسان قادر به انجام آن است، انجام دهد، به طور عمومی در دسترس قرار خواهد گرفت. با این حال، متا در یک سند جدید سیاستی، پیشنهاد داده است که در برخی شرایط ممکن است سیستم‌های هوش مصنوعی پیشرفته‌ای که خود به طور داخلی توسعه داده است را منتشر نکند.
این سند که متا آن را “چارچوب هوش مصنوعی مرزی” نامیده، دو نوع سیستم هوش مصنوعی که شرکت آنها را بسیار ریسک‌دار می‌داند شناسایی می‌کند: سیستم‌های “ریسک بالا” و “ریسک بحرانی”. این دو نوع سیستم ممکن است در حملات سایبری و شیمیایی و بیولوژیکی مورد استفاده قرار گیرند. تفاوت آنها در این است که سیستم‌های “ریسک بحرانی” می‌توانند منجر به “نتایج فاجعه‌بار” شوند که در شرایط پیشنهادی قابل کاهش نباشد، در حالی که سیستم‌های “ریسک بالا” ممکن است حمله‌ای را تسهیل کنند، اما نه به همان اندازه قابل اطمینان یا به‌طور پیوسته مانند سیستم‌های بحرانی.
متا برخی از انواع حملات را مثال زده است، مانند “نفوذ خودکار محیط‌های محافظت‌شده با بهترین شیوه‌ها” یا “گسترش سلاح‌های بیولوژیکی با تاثیر بالا”. لیست فاجعه‌های ممکن در سند متا بسیار محدود است، اما شامل مواردی است که شرکت آنها را “ضروری‌ترین” و ممکن‌ترین نتایج ناشی از انتشار یک سیستم هوش مصنوعی قدرتمند می‌داند.
موضوع تعجب اور این است که ، طبق این سند، متا ارزیابی ریسک سیستم‌ها را بر اساس یک آزمایش تجربی انجام نمی‌دهد، بلکه بر اساس نظرات محققان داخلی و خارجی که تحت نظارت تصمیم‌گیرندگان ارشد قرار دارند، انجام می‌دهد. این رویکرد به دلیل آن است که متا معتقد است علم ارزیابی “کافی نیست تا معیارهای کمی قطعی برای تصمیم‌گیری در مورد ریسک سیستم‌ها ارائه دهد”.
اگر متا سیستمی را پر ریسک بداند، دسترسی به آن را به طور داخلی محدود کرده و آن را منتشر نخواهد کرد تا زمانی که تدابیری برای “کاهش ریسک به سطح متوسط” اجرا شود. اگر سیستمی “بحرانی ریسک” باشد، متا اقدامات امنیتی مشخصی برای جلوگیری از خارج شدن آن از سیستم و متوقف کردن توسعه تا زمانی که سیستم ایمن‌تر شود، انجام خواهد داد.
چارچوب هوش مصنوعی مرزی متا، که شرکت اعلام کرده به‌طور مداوم با تغییرات چشم‌انداز هوش مصنوعی به‌روز خواهد شد، به نظر می‌رسد واکنشی به انتقادها از رویکرد “باز” توسعه سیستم‌های این شرکت باشد. متا به استراتژی در دسترس قرار دادن عمومی فناوری‌های هوش مصنوعی خود روی آورده است، برخلاف شرکت‌هایی مانند OpenAI که سیستم‌های خود را پشت API قرار می‌دهند.
کد خبر ۲۰۲۰۳۱۱۱۷.۰۲۶
منبع: تک کرانج
