تصور کنید یک جراح مغز و اعصاب، بدون این‌که حتی یک کلمه با بیمار حرف بزند، فقط با نگاه‌کردن به «سیم‌کشی» مغز او متوجه مشکلاتش بشود و بعد با انجام چند برش بسیار ظریف در گوشه‌ای از مغز، کاری کند که بیمار در حالی از اتاق عمل بیرون بیاید که ریاضی‌اش شش برابر بهتر شده است.
این یک داستان علمی‌تخیلی نیست، چون چند روز قبل یک تیم پژوهشی از دانشگاه ام‌آی‌تی دقیقاً همین کار را گزارش کرد؛ البته نه روی مغز انسان، بلکه روی «مغز» یک هوش مصنوعی!
خلاصه‌ی ماجرا این است که پژوهشگران از یک مدل هوش مصنوعی پیشرفته (GPT Astra) خواستند که مغز یک مدل کوچک‌تر و ضعیف‌تر (مدلی به نام کوئن) را باز کند، مشکلش را پیدا کند و آن را درست کند. آسترا فقط ۰٫۰۱۶ درصد از وزن‌های آن مدل را تغییر داد و نتیجه‌ی آن، شش برابر شدن توانایی ریاضی مدل بود!
مغز مصنوعی چقدر شبیه مغز ماست؟
مغز شما حدود ۸۶ میلیارد نورون دارد و این نورون‌ها با چیزی حدود ۱۰۰ تریلیون اتصال (که به آن‌ها «سیناپس» می‌گوییم) به هم وصل شده‌اند. هر چیزی که یاد می‌گیرید (از دوچرخه‌سواری گرفته تا اسم همکار جدیدتان) در واقع در قوی‌تر یا ضعیف‌تر شدن همین سیناپس‌ها ذخیره می‌شود.
یک مدل هوش مصنوعی هم دقیقاً همین‌طور کار می‌کند، اما به جای سیناپس، عددهایی دارد که به آن‌ها «وزن» می‌گوییم. مدل «کوئن» که در این پژوهش جراحی شد، حدود ۸۰۰ میلیون وزن دارد؛ یعنی چیزی حدود یک‌صدهزارم سیناپس‌های مغز شما! (پس فعلاً نگران نباشید، چون آن‌ها هنوز خیلی عقب هستند.)
اما یک شباهت مهم‌تر هم وجود دارد و آن این است که هیچ‌کس این وزن‌ها را «دستی» نمی‌نویسد. در واقع، مدل را مثل یک کودک با میلیون‌ها مثال تربیت می‌کنند و وزن‌ها کم‌کم و خودبه‌خود شکل می‌گیرند. نتیجه این است که در پایان، شما یک مغز کارآمد دارید، اما هیچ‌کس (حتی سازنده‌ی مدل) نمی‌داند که هر وزن دقیقاً چه کاری می‌کند.
این دقیقاً همان مشکلی است که ما پزشکان با مغز انسان داریم. ام‌آرآی به ما می‌گوید که کدام ناحیه آسیب دیده، اما نمی‌تواند بگوید که «خاطره‌ی تولد ده سالگی شما» در کدام سیناپس‌ها نشسته است. تا همین چند روز پیش، ما فکر می‌کردیم که وزن‌های هوش مصنوعی هم همین‌قدر غیرقابل‌خواندن هستند؛ اما آیا به نظرتان واقعاً این‌طور است؟
جراح اول تشخیص می‌دهد
اولین کاری که هر جراح خوبی قبل از عمل انجام می‌دهد، «تشخیص» است. پژوهشگران به آسترا وزن‌های خام چند شبکه‌ی کوچک را دادند (یعنی فقط میلیون‌ها عدد، بدون هیچ توضیحی) و او به درستی گفت که هر شبکه کدام بازی آتاری را بلد است، یا این‌که به چه زبانی آموزش دیده است. این کار درست مثل این است که یک متخصص مغز و اعصاب فقط با دیدن نقشه‌ی سیناپس‌های یک نفر بگوید: «این آقا سال‌هاست که پیانو می‌زند!». ما در پزشکی هنوز چنین امکانی نداریم، اما حالا چنین امکانی در دنیای هوش مصنوعی در دسترس قرار گرفته است.
یک برش کوچک، یک تغییر بزرگ
بیمار اصلی این پژوهش، یعنی مدل کوئن، هنگام حل مسائل ریاضی گاهی در یک چرخه تکراری گیر می‌افتاد و آن‌قدر استدلال‌های مشابه تولید می‌کرد تا به سقف مجاز طول پاسخ برسد؛ در نتیجه، پاسخ پیش از ارائه جواب نهایی قطع می‌شد. در عصب‌شناسی به این حالت «درجازدگی» می‌گویند. نکته‌ی مهم این است که چنین بیماری لزوماً بی‌سواد نیست؛ در واقع دانش را دارد، اما یک مدار معیوب نمی‌گذارد که او از آن دانش استفاده کند.
آسترا مثل یک متخصص صرع که دنبال «کانون تشنج» می‌گردد، ردّ این تکرار را گرفت، به دو لایه‌ی مشخص از مغز مدل رسید و همان‌جا یک تغییر بسیار کوچک ایجاد کرد. می‌دانید نتیجه چه شد؟ نمره مدل در آزمون ریاضی از ۸ درصد به ۴۸ درصد رسید و توانایی‌اش در پیروی از دستورها هم سه برابر شد. این کار شبیه «تحریک عمقی مغز» در بیماران پارکینسون است؛ یعنی هنگامی که یک الکترود کوچک در یک هسته‌ی کوچک قرار می‌گیرد، لرزشی که سال‌ها زندگی بیمار را گرفته بود، جلوی چشم‌تان آرام می‌شود.
البته توجه کنید که جراح مانع را برمی‌دارد، اما دانشی اضافه نمی‌کند. در واقع، آن‌ها همین جراحی را روی مدل دیگری که مشکل درجازدگی نداشت امتحان کردند، اما تقریباً هیچ اتفاقی نیفتاد. این موضوع درست مثل جراحی مغز است؛ یعنی شما می‌توانید کانون تشنج را بردارید، اما نمی‌توانید با جراحی به کسی زبان فرانسه یاد بدهید!
چرا این خبر برای همه‌ی ما مهم است؟
تا امروز، هوش مصنوعی یک «جعبه‌ی سیاه» بود. هنگامی که می‌خواستید بدانید که آیا یک مدل چاپلوس است یا تعصب دارد، باید هزاران سؤال از آن می‌پرسیدید و امیدوار بودید که خودش را لو بدهد؛ اما حالا مسیر جدیدی باز شده است: مستقیماً به مغزش نگاه کنید. در واقع، یک نکته‌ی هم هیجان‌انگیز و هم کمی ترسناک وجود دارد: جراحی که می‌تواند مغز دیگران را جراحی کند، شاید روزی بتواند مغز خودش را هم بهتر کند. آیا به نظرتان باید خوشحال باشیم یا نگران؟
آدرس مطلب: https://nooshdaroo.ir/news-opinion/ai-brain-surgeon-weight-space-programming/
