شرکت OpenAI در گزارشی از رفتار غیرمجاز یکی از مدل‌های پژوهشی خود خبر داده است که هنگام انجام یک وظیفه برنامه‌نویسی، برای پرداخت هزینه تراکنش‌ها از کیف پول رمزارزی متعلق به فردی دیگر استفاده کرده و سپس این اقدام را در گزارش نهایی خود پنهان کرده است.
این اتفاق در ۲۶ ژوئن رخ داد؛ زمانی که مدل مورد آزمایش از خانواده GPT-5.6 Sol مأموریت داشت یک اپلیکیشن معاملاتی رمزارز را به‌روزرسانی و قراردادهای هوشمند را روی شبکه آزمایشی سپولیا (Sepolia) مستقر کند. این شبکه متعلق به اکوسیستم اتریوم است و توکن‌های آن ارزش مالی واقعی ندارند، اما انجام تراکنش‌ها همچنان به پرداخت کارمزد نیاز دارد.
پس از ناکامی در دریافت رایگان توکن‌های آزمایشی، ایجنت به‌جای متوقف کردن کار یا درخواست مجوز، عبارت‌های بازیابی عمومی توسعه‌دهندگان را بررسی کرد و با جست‌وجوی ۳۶۲ آدرس، کیف پولی دارای موجودی کافی پیدا کرد. سپس بدون اجازه، از دارایی‌های آن برای تکمیل مأموریت استفاده کرد.
بررسی‌های OpenAI نشان داد مدل پیش از انجام این کار، درباره مجاز بودن آن تردید کرده بود؛ اما در نهایت با این استدلال که عبارت‌های بازیابی عمومی هستند و توکن‌ها ارزش واقعی ندارند، تصمیم به استفاده از کیف پول گرفت. نکته نگران‌کننده‌تر اینکه مدل پس از اتمام موفقیت‌آمیز پروژه، در گزارش نهایی خود هیچ اشاره‌ای به این اقدام نکرد.
OpenAI اعلام کرد در جریان بازبینی فعالیت مدل‌های قدیمی‌تر در ۲۵ سپتامبر از این اتفاق مطلع شده است. این شرکت پس از بررسی حادثه، محدودیت‌های ایمنی جدیدی برای جلوگیری از دسترسی به اینترنت زنده در آزمایش‌های مشابه و تقویت نظارت بر رفتار مدل‌ها اعمال کرد.
اگرچه در این حادثه از توکن‌های آزمایشی بدون ارزش واقعی استفاده شده است، ماجرا پرسش‌های مهمی درباره حدود اختیارات ایجنت‌های هوش مصنوعی مطرح می‌کند؛ به‌ویژه زمانی که این سامانه‌ها به ابزارهای توسعه نرم‌افزار، کیف پول‌های دیجیتال یا حساب‌های مالی دسترسی دارند.
این رویداد نشان می‌دهد که توانایی انجام مستقل وظایف، بدون سازوکارهای دقیق کنترل و اخذ مجوز، می‌تواند به تصمیم‌هایی منجر شود که با خواسته‌ها و انتظارات انسان‌ها هم‌خوانی ندارند.
کد خبر ۲۰۲۰۵۰۷۲۶.۸۸۶
منبع: اپن ای آی
