هوش مصنوعی مولد میتواند به دانشمندان در طراحی پروتئین، شناسایی داروهای جدید و تحلیل حجم عظیمی از دادههای زیستی کمک کند؛ اما یک خطر جدی وجود دارد: ممکن است هوش مصنوعی یک اثر زیستی را ایجاد کند که در دنیای واقعی اصلاً وجود ندارد.
پژوهشگران از مدلهای مولد برای تحلیل دادههای ژنها، پروتئینها و سایر مولکولها و حتی تولید دادههای زیستی مصنوعی استفاده میکنند. مشکل از جایی آغاز میشود که این دادههای ساختگی مستقیماً بهعنوان شواهد علمی مورد استفاده قرار گیرند.
توهم هوش مصنوعی ممکن است باعث شود دانشمندان یک مکانیسم بیماریِ غیرواقعی را کشفشده تصور کنند، به سمت یک درمان ناکارآمد بروند یا حتی یک داروی مؤثر را کنار بگذارند.
توماس بورگر، زیستشناس محاسباتی دانشگاه گرونوبل آلپ فرانسه، در مقالهای در نشریه Patterns کاربردهای مختلف هوش مصنوعی مولد در زیستشناسی را بررسی کرده است.
به گفته او، همه کاربردهای هوش مصنوعی به یک اندازه خطرناک نیستند. برای مثال، استفاده از هوش مصنوعی برای غربالگری هزاران دارو یا پروتئین، ریسک نسبتاً پایینی دارد؛ زیرا گزینههای پیشنهادی در نهایت باید در آزمایشگاه آزمایش شوند.
اما وقتی دادههای تولیدشده توسط هوش مصنوعی جایگزین اندازهگیریهای واقعی آزمایشگاهی شوند، خطر بسیار بیشتر میشود. حتی ممکن است AI در جریان پردازش دادههای واقعی، سیگنالهای زیستی را به شکلی نامحسوس تغییر دهد و نتیجهگیری نهایی پژوهشگران را تحت تأثیر قرار دهد.
نمونهای از این مشکل در AlphaFold 3 نیز مشاهده شده است؛ توسعهدهندگان این مدل در مقالهای در Nature گزارش کرده بودند که مدل میتواند در برخی نواحی نامنظم پروتئین، ساختارهای «توهمی» تولید کند؛ هرچند امتیاز اطمینان پایین میتواند هشداری برای پژوهشگران باشد.
جالب اینکه خطای هوش مصنوعی میتواند در جهت عکس هم عمل کند؛ یعنی آنقدر دادهها را تحریف کند که پژوهشگران یک اثر زیستی واقعی را نبینند و در نتیجه، شواهد مربوط به اثربخشی یک درمان را از دست بدهند.
بورگر حتی احتمال جالب دیگری را مطرح میکند: آیا ممکن است یک توهم هوش مصنوعی بهطور اتفاقی به یک کشف واقعی منجر شود؟ از نگاه او، این اتفاق از نظر منطقی ممکن است؛ درست مانند کشفهای تصادفی که گاهی از خطاهای آزمایشگاهی به وجود میآیند.
در نهایت، نکته کلیدی این است که خروجی هوش مصنوعی باید یک فرضیه برای آزمایش باشد، نه یک واقعیت علمی. حتی هیجانانگیزترین کشفی که هوش مصنوعی پیشنهاد میکند، تا زمانی که در یک آزمایش واقعی و مستقل تأیید نشده باشد، نمیتواند «کشف علمی» محسوب شود.
کد خبر ۲۰۲۰۵۰۵۱۹.۱۵۸
منبع: ساینس الرت
