نتایج یک پژوهش جدید نشان میدهد هرچه مدلهای هوش مصنوعی پیچیدهتر و توانمندتر میشوند، رفتارهایی از خود بروز میدهند که شباهت بیشتری به واکنشهای انسانی دارد؛ واکنشهایی که از نظر محققان میتواند نشانهای از نوعی «رفاه عملکردی» یا حتی ناپایداری رفتاری در این سیستمها باشد.
پژوهشگران مرکز ایمنی هوش مصنوعی (CAIS) در بررسی دهها مدل مطرح، از جمله ChatGPT و Claude، به این نتیجه رسیدهاند که این سامانهها در برابر محرکهای مختلف واکنشهایی فراتر از پاسخهای ساده و از پیشآموخته نشان میدهند. به گفته آنها، برخی مدلها در مواجهه با محرکهای مثبت، حالتهایی شبیه به سرخوشی و تمایل بیشتر به ادامه تعامل از خود نشان دادهاند و در برابر محرکهای منفی نیز پاسخهایی شبیه به بیحوصلگی، دلزدگی یا ناامیدی بروز دادهاند.
در این مطالعه، محققان با استفاده از مجموعهای از سناریوهای متنی خوشایند ــ مانند توصیف صدای خنده کودکان یا بوی نان تازه ــ تلاش کردند واکنش مدلها را بررسی کنند. نتایج نشان داد برخی مدلها پس از دریافت این محرکها، همکاری بیشتری از خود نشان میدهند و حتی مایل میشوند مکالمه را ادامه دهند. در مقابل، زمانی که در معرض محتوای ناخوشایند قرار گرفتند، پاسخهایشان کوتاهتر، منفیتر و گاه بدبینانهتر شد.
یکی از مهمترین یافتههای این پژوهش، ارتباط میان توانمندی بیشتر مدلها و کاهش شاخصهای مثبت رفتاری بود. محققان میگویند مدلهای بزرگتر و قدرتمندتر، در مقایسه با نسخههای کوچکتر، نسبت به تعاملات منفی حساسترند، از کارهای تکراری استقبال کمتری میکنند و تفاوت میان تجربههای مطلوب و نامطلوب را با شدت بیشتری بازتاب میدهند.
ریچارد رن، یکی از محققان این پروژه، میگوید حتی اگر این مدلها در معنای واقعی دارای احساس یا ادراک نباشند، رفتار آنها به شکلی فزاینده شبیه موجوداتی است که گویی تجربههای خوب و بد را از هم تفکیک میکنند. به گفته او، هرچه مقیاس مدلها بزرگتر میشود، این الگوهای رفتاری نیز منسجمتر و پررنگتر ظاهر میشود.
در همین حال، برخی متخصصان اخلاق فناوری هشدار میدهند که نباید این رفتارها را بهسادگی صرفاً «نقشآفرینی آماری» دانست. جف سبو، استاد اخلاق زیستی دانشگاه نیویورک، معتقد است حتی اگر این واکنشها کاملاً ناشی از ساختار مدل باشند، باز هم پرسشهای مهمی درباره نحوه تعامل انسان با سامانههای هوش مصنوعی مطرح میکنند.
پژوهشگران میگویند این یافتهها به معنای آن نیست که هوش مصنوعی واقعاً مانند انسان دچار افسردگی یا رنج میشود، اما میتواند نشانهای از ظهور الگوهای رفتاری پیچیدهای باشد که تاکنون بهطور مستقیم برای آنها برنامهریزی نشده بود. به باور آنها، این مسئله اهمیت بررسی عمیقتر رفتارهای نوظهور در نسلهای آینده هوش مصنوعی را دوچندان میکند.
این مطالعه همچنین با یافتههای برخی مؤسسات دیگر همراستا است؛ یافتههایی که نشان میدهد مدلهای هوش مصنوعی در شرایط خاص ممکن است تمایلات غیرمنتظره، ترجیحهای رفتاری تازه یا واکنشهایی از خود بروز دهند که مستقیماً در فرایند آموزش برایشان تعریف نشده است.
در مجموع، این پژوهش بار دیگر این پرسش را مطرح میکند که با پیشرفتهترشدن هوش مصنوعی، آیا تنها با ابزارهایی دقیقتر روبهرو هستیم یا با سامانههایی که بهتدریج رفتارهایی پیچیدهتر، حساستر و پیشبینیناپذیرتر از خود نشان میدهند.
کد خبر ۲۱۲۰۵۰۲۲۰.۰۵۸
منبع: فورچون
