شرکت آنتروپیک در هشداری کمسابقه از آزمایشگاههای پیشرو هوش مصنوعی خواست توسعه مدلهای قدرتمند را بهصورت هماهنگ و قابل راستیآزمایی متوقف کنند. این شرکت معتقد است سرعت پیشرفت هوش مصنوعی به نقطهای نزدیک میشود که سیستمها بتوانند خودشان نسل بعدی خود را طراحی و بهبود دهند؛ اتفاقی که ممکن است کنترل انسان بر فناوری را به خطر بیندازد.
آنتروپیک اعلام کرده توانایی مدلهای هوش مصنوعی برای انجام مستقل وظایف مختلف تقریباً هر چهار ماه دو برابر میشود و این روند میتواند به «خودبهبوددهی بازگشتی» (Recursive Self-Improvement) منجر شود؛ مرحلهای که در آن سیستمهای هوش مصنوعی بدون دخالت انسان به ارتقای خود میپردازند.
در یادداشت منتشرشده توسط این شرکت آمده است که اگر مدلها بتوانند جانشینهای خود را بسازند، موضوعاتی مانند نظارت، امنیت و کنترل رفتار آنها اهمیت بسیار بیشتری پیدا خواهد کرد. به گفته مدیران آنتروپیک، این سناریو هنوز رخ نداده اما ممکن است بسیار زودتر از آمادگی دولتها و نهادهای نظارتی اتفاق بیفتد.
این هشدار در حالی مطرح میشود که نگرانیها درباره خطرات هوش مصنوعی پیشرفته افزایش یافته است. مدل «Mythos» آنتروپیک که اوایل امسال معرفی شد، به دلیل توانایی شناسایی آسیبپذیریهای نرمافزاری و کدنویسی پیشرفته، توجه گستردهای را در صنایع مختلف به خود جلب کرد.
آنتروپیک تأکید کرده توقف یکجانبه توسعه توسط یک شرکت تأثیر چندانی نخواهد داشت و تنها جایگاه رهبر بازار را تغییر میدهد. این شرکت معتقد است هرگونه وقفه مؤثر باید با توافق چندین آزمایشگاه بزرگ هوش مصنوعی، قوانین مشخص برای آغاز و پایان توقف، و سازوکار نظارتی مشترک همراه باشد.
این موضعگیری در حالی مطرح شده که رقابت میان شرکتهایی مانند OpenAI، xAI، Alphabet، Meta Platforms و Mistral AI برای توسعه مدلهای قدرتمندتر هر روز شدیدتر میشود.
با وجود تأکید بر ایمنی، آنتروپیک خود نیز به توسعه مدلهای قدرتمند ادامه داده و اخیراً یکی از تعهدات مهم ایمنی خود را تعدیل کرده است. این شرکت که بهتازگی ارزشی نزدیک به ۹۶۵ میلیارد دلار پیدا کرده، در آستانه عرضه اولیه سهام در آمریکا قرار دارد و اکنون خواستار گفتوگویی جهانی درباره مدیریت خطرات نسل آینده هوش مصنوعی شده است.
کد خبر ۲۰۲۰۵۰۳۱۷.۰۷۵
منبع: رویترز
