پژوهشگران KAIST با همکاری Microsoft Research Asia، فناوری جدیدی به نام Neural Value Alignment (NVA) توسعه داده‌اند که به هوش مصنوعی اجازه می‌دهد از روی امواج مغزی انسان متوجه شود دستور یا هدف کاربر را اشتباه فهمیده است.
این سیستم با استفاده از EEG، واکنش‌های مغز را هنگام مشاهده عملکرد هوش مصنوعی بررسی می‌کند. پژوهشگران روی دو نوع سیگنال تمرکز کرده‌اند: یکی زمانی که هوش مصنوعی هدف اشتباهی را دنبال می‌کند و دیگری زمانی که هدف درست است اما روش انجام کار با انتظار کاربر متفاوت است.
برای مثال، اگر از ربات بخواهید «چیزی برای نوشیدن» بیاورد و به‌جای آب قهوه بیاورد، مغز خطای هدف را نشان می‌دهد. اما اگر ربات آب بیاورد ولی از روشی غیرمنتظره استفاده کند، سیگنال متفاوتی ایجاد می‌شود.
محققان با استفاده از یادگیری عمیق، این سیگنال‌های EEG را طبقه‌بندی کرده‌اند تا سیستم بتواند تشخیص دهد مشکل از هدف بوده یا از نحوه انجام کار. سپس هوش مصنوعی می‌تواند بر اساس این بازخورد، تصمیم خود را در لحظه تغییر دهد.
این فناوری در آینده می‌تواند در ربات‌های خانگی، ربات‌های صنعتی، خودروهای خودران، ربات‌های پزشکی و توانبخشی و حتی سیستم‌های آموزشی کاربرد داشته باشد.
البته این فناوری هنوز در مرحله پژوهشی است و آزمایش‌ها در محیط شبیه‌سازی‌شده انجام شده‌اند. همچنین EEG به تجهیزات مخصوص نیاز دارد و امواج مغزی در شرایط واقعی می‌توانند بسیار نویزی‌تر باشند.
با این حال، ایده اصلی جذاب است: هوش مصنوعی در آینده شاید برای فهمیدن اینکه واقعاً چه می‌خواهیم، فقط به حرف‌ها و رفتارمان تکیه نکند و بتواند از خود مغز هم بازخورد بگیرد.
کد خبر ۲۱۲۰۵۰۷۱۳.۱۳۵
منبع: نیواطلس
