مایکروسافت پیشنویس قواعد رفتاری جدیدی برای هوش مصنوعی داخلی خود منتشر کرده است؛ چارچوبی که هدف آن اطمینان از باقیماندن کنترل مدلهای قدرتمند آینده در دست انسانهاست.
بر اساس این سند، هوش مصنوعی مایکروسافت نباید در برابر اصلاح، محدودسازی یا خاموششدن مقاومت کند و باید بتواند رفتار و تصمیمهایش را به شکلی قابلفهم برای انسان توضیح دهد. همچنین نقض این قواعد از سوی AI بهعنوان یک شکست تلقی خواهد شد.
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، این سند را نوعی «قانون اساسی» برای مدلهای آینده توصیف کرده و گفته است نسخه نهایی پس از دریافت بازخورد عمومی، برای آموزش مدلهای این شرکت مورد استفاده قرار خواهد گرفت.
مایکروسافت همچنین تأکید کرده که انسانها از هوش مصنوعی مهمترند و مدلهای این شرکت نباید به دنبال حقوق قانونی یا شخصیت حقوقی مستقل باشند. این شرکت در حالی چنین چارچوبی را مطرح کرده که نگرانیها درباره توانایی عاملهای هوش مصنوعی در انجام اقدامات پیشبینینشده و دشوار برای کنترل، افزایش یافته است.
کد خبر ۲۰۲۰۵۰۶۲۴.۰۷۵
منبع: رویترز
