مایکروسافت پیشنویس قواعد رفتاری جدیدی برای هوش مصنوعی داخلی خود منتشر کرده است؛ چارچوبی که هدف آن اطمینان از باقیماندن کنترل مدلهای قدرتمند آینده در دست انسانهاست.
بر اساس این سند، هوش مصنوعی مایکروسافت نباید در برابر اصلاح، محدودسازی یا خاموششدن مقاومت کند و باید بتواند رفتار و تصمیمهایش را به شکلی قابلفهم برای انسان توضیح دهد. همچنین نقض این قواعد از سوی AI بهعنوان یک شکست تلقی خواهد شد.
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، این سند را نوعی «قانون اساسی» برای مدلهای آینده توصیف کرده و گفته است نسخه نهایی پس از دریافت بازخورد عمومی، برای آموزش مدلهای این شرکت مورد استفاده قرار خواهد گرفت.
مایکروسافت همچنین تأکید کرده که انسانها از هوش مصنوعی مهمترند و مدلهای این شرکت نباید به دنبال حقوق قانونی یا شخصیت حقوقی مستقل باشند. این شرکت در حالی چنین چارچوبی را مطرح کرده که نگرانیها درباره توانایی عاملهای هوش مصنوعی در انجام اقدامات پیشبینینشده و دشوار برای کنترل، افزایش یافته است.
کد خبر ۲۰۲۰۵۰۶۲۴.۰۷۵
منبع: رویترز
3 دیدگاه در “مایکروسافت برای کنترل هوش مصنوعی خود، «قانون اساسی» تدوین میکند”
تدوین یک «قانون اساسی» برای هوش مصنوعی نشان میدهد مایکروسافت به چارچوبهای اخلاقی و نظارت انسانی، در کنار توسعه فنی، توجه جدی دارد. مهم است این اصول در عمل چگونه بر طراحی و استفاده از محصولاتش اعمال شوند.
تدوین یک «قانون اساسی» برای هوش مصنوعی نشان میدهد مایکروسافت بهدنبال چارچوبی فراتر از دستورالعملهای فنی روزمره است. مهم است این اصول در عمل هم به شفافیت، مسئولیتپذیری و کنترل انسانی واقعی منجر شوند.
تدوین یک «قانون اساسی» برای هوش مصنوعی نشان میدهد مایکروسافت بهدنبال چارچوبی روشن برای کنترل و استفاده مسئولانه از این فناوری است. مهم است که این اصول فقط روی کاغذ نمانند و در تصمیمگیریهای واقعی سامانهها هم اجرا شوند.