ریچارد ساتن، برنده جایزه تورینگ و از بنیانگذاران یادگیری تقویتی، صریح میگوید تکیه بر دادههای سنتتیک برای حل مشکل مقیاسپذیری مدلهای زبانی بزرگ اشتباه بزرگی است.
پسزمینه: کسی که «درس تلخ» را مطرح کرد
ساتن، نویسنده مرجع یادگیری تقویتی و منتشرکننده مقالهٔ مشهور «درس تلخ»، نقشی کلیدی در شکلدادن به تفکر کنونی در هوش مصنوعی دارد. او رشد سریع مدلهای زبانی را حاصل رویکردهای مقیاسپذیر میداند، اما هشدار میدهد که این رشد محدود است: «آنها اینترنت را نوشیدند، اما اینترنت تمام جهان نیست.»
چرا دادههای سنتتیک شکست میخورند
فرضیهٔ دنیای بزرگ، که همبنیانگذار Oak Lab، Khurram Javeed، مطرح کرده، میگوید جهان از هر شبیهسازی ممکن به مراتب بزرگتر و پیچیدهتر است. ساتن توضیح میدهد هر برنامهٔ کوچک تنها میتواند یک جهان میکروسکوپی بسازد که در جزئیات—از مقادیر اصطکاک تا رفتار موتور ربات—با واقعیت تفاوت دارد. شبیهسازیها اغلب کمعمق میمانند و نمیتوانند تمام ابعاد تعامل بین عاملها یا ذهنهای پیچیده را بازتولید کنند؛ همین نقطه ضعف، اصل انتقاد او به دادههای سنتتیک است.
گلوگاه انسانی
ساتن هشدار میدهد تولید و انتخاب دادههای سنتتیک سریعاً به گلوگاه انسانی میرسد: چه کسی تعیین میکند دادهٔ تولیدی «خوب» است؟ برای کاربردهای خاص—مثلاً آموزش پهپادی که مانند خفاش با پژواک حرکت کند—لازم است متخصصان حوزه وارد کار شوند و شبیهسازی را دقیقاً تنظیم کنند. همین نیاز به قضاوت انسانی، مقیاسپذیری روش مبتنی بر دادهٔ مصنوعی را محدود میکند. حتی در پروژههای خودروهای خودران که سالها از شبیهسازی استفاده کردهاند، انسانها در نهایت شکاف میان شبیهسازی و دنیای واقعی را پر میکنند.
پیشنهاد ساتن: خروج انسان از حلقه و یادگیری از تجربه
ساتن راهحل روشن و قاطعی مطرح میکند: بهجای اتکا به شبیهسازهای ساختهشده توسط انسان، عاملها باید مستقیماً از تجربهٔ خود جهان بیاموزند و مدل جهانشان را پیوسته بازسازی و اصلاح کنند؛ بهعبارت دیگر، «آنها خودشان شبیهساز میسازند.» این رویکرد میکوشد گلوگاه انسانی و خطاهای ناشی از شبیهسازیهای کوچک را کنار بزند.
یادگیری مستمر؛ نقطهٔ ضعف مدلهای امروز
ساتن یکی از کاستیهای مدلهای زبانی کنونی را توقف یادگیری پس از فاز آموزش میداند: وزنها پس از آموزش تغییر چندانی نمیکنند. او بر ضرورت پیادهسازی یادگیری مستمر تأکید دارد—یادگیری پیوستهای که دانش قدیمی را نابود نکند و از پدیدهٔ «فراموشی فاجعهبار» جلوگیری نماید. بخشی از راهحل او با رویکردی که تیمش در مجلهٔ Nature با عنوان «پسانتشار پیوسته» منتشر کرد، شکل گرفته است.
پیام برای تحقیق و صنعت
- پیش از سرمایهگذاری سنگین روی دادههای سنتتیک، محدودیتهای نظری و عملی آنها باید بهدقت سنجیده شود؛ شبیهسازی هیچگاه تمام پیچیدگیهای جهان واقعی را دربرنمیگیرد.
- تمرکز بر سامانههایی که از تجربهٔ مستقیم یاد میگیرند میتواند شکاف بین شبیهسازی و واقعیت را کاهش دهد و راهی به سوی مقیاسپذیری واقعی باز کند.
- یادگیری مستمر و جلوگیری از فراموشی فاجعهبار باید در زمرهٔ اولویتهای تحقیقاتی برای توسعهٔ مدلهای عمومیتر قرار گیرد.
چه چیزی تغییر خواهد کرد؟
رویکردهای کنونی در طراحی و آموزش مدلها—تکیه بر دیتاستهای عظیم ایستا یا دادههای تولیدی—نیازمند بازنگری جدی هستند. ساتن مدلهای زبانی را پیشرفتی شگفتانگیز میداند، اما این پیشرفت تنها بخشی از راه است؛ آنچه اهمیت دارد سامانههایی است که دائماً از جهان واقعی یاد میگیرند و خودشان مدلهای شبیهسازی را میسازند و اصلاح میکنند، نه اینکه به شبیهسازیهای انسانی وابسته بمانند.
منابع و مطالعهٔ بیشتر
برای آشنایی بیشتر با دیدگاه ساتن و تاریخچهٔ مفاهیم یادشده، صفحهٔ او و مقالهٔ «درس تلخ» را بخوانید: The Bitter Lesson. همچنین مروری بر یادگیری تقویتی در ویکیپدیا تصویر کلی و مفیدی ارائه میدهد: Reinforcement learning.
نگاه رو به جلو: پیام ساتن روشن است: اگر جامعهٔ هوش مصنوعی میخواهد از محدودیتهای فعلی عبور کند، باید سیستمها را طوری بازطراحی کند که یادگیری از تجربهٔ واقعی در هستهٔ آنها قرار گیرد؛ حرکتی که هم پژوهش بنیادی و هم مهندسی عملی میطلبد.
