شرکت هوش مصنوعی آنتروپیک (Anthropic) هشدار داده است که ممکن است به‌زودی به مرحله‌ای برسد که مدل‌های هوش مصنوعی بتوانند با کمک خودشان، نسل‌های پیشرفته‌تری از این فناوری را توسعه دهند؛ قابلیتی که با عنوان «خودبهبودگری بازگشتی» (RSI) شناخته می‌شود.
این موضوع در اسناد مالی و گزارش اصلاح‌شده ثبت‌شده آنتروپیک نزد کمیسیون بورس و اوراق بهادار آمریکا (SEC) مطرح شده است. بر اساس این اسناد، استفاده روزافزون این شرکت از هوش مصنوعی در فرایند تحقیق و توسعه، می‌تواند سرعت پیشرفت مدل‌ها را از توانایی انسان برای ارزیابی و مدیریت خطرات آن‌ها فراتر ببرد.
خودبهبودگری بازگشتی زمانی اتفاق می‌افتد که یک سیستم هوش مصنوعی بتواند در بهبود و آموزش نسخه‌های بعدی خودش نقش مؤثری ایفا کند. در چنین شرایطی، هر نسل از مدل‌ها ممکن است به ساخت نسل قدرتمندتری کمک کند و در نتیجه، سرعت پیشرفت هوش مصنوعی به‌صورت چشمگیری افزایش یابد.
این سناریو از یک سو می‌تواند دستاوردهای بزرگی در بهره‌وری، تحقیقات علمی و کشف فناوری‌های جدید به همراه داشته باشد و از سوی دیگر، نگرانی‌هایی درباره دشوار شدن نظارت و کنترل انسانی بر سیستم‌های پیشرفته ایجاد کند.
آنتروپیک اعلام کرده است که تاکنون هیچ‌یک از مدل‌های فعلی این شرکت از آستانه تعریف‌شده برای خودبهبودگری بازگشتی عبور نکرده‌اند؛ اما برآوردهای داخلی نشان می‌دهد ممکن است این اتفاق در آینده‌ای نزدیک رخ دهد.
این شرکت همچنین تأکید کرده است که قصد ندارد توسعه نسل‌های بعدی مدل‌های پیشرفته را بدون نظارت و درک معنادار انسانی به هوش مصنوعی واگذار کند و حتی در حال بررسی اصلاح سیاست‌های ایمنی خود برای حفظ کنترل انسان بر فرایند توسعه است.
در عین حال، آنتروپیک هشدار داده که سرعت پیشرفت مدل‌هایش، به‌ویژه در حوزه‌های برنامه‌نویسی، ریاضیات و امنیت سایبری، به‌سرعت در حال افزایش است و ممکن است توانایی شناسایی خطرات از سرعت توسعه فناوری عقب بماند.
این اظهارات نشان می‌دهد رقابت برای ساخت هوش مصنوعی پیشرفته وارد مرحله تازه‌ای شده است؛ مرحله‌ای که در آن، هوش مصنوعی ممکن است نه‌تنها در انجام وظایف، بلکه در ساخت و ارتقای نسل‌های بعدی خودش نیز نقش محوری ایفا کند.
کد خبر ۲۰۲۰۵۰۸۱۲.۰۲۶
منبع: تک کرانچ
