در تاریخ هوش مصنوعی، لحظاتی کمیاب به اندازه اکتبر ۱۹۸۶ سرنوشت‌ساز هستند. در آن ماه، نامه‌ای از دیوید ای. روملهارت، جفری ای. هینتون و رونالد جی. ویلیامز در مجله Nature منتشر شد که مسیر یادگیری ماشین را برای همیشه تغییر داد. این مقاله چهار صفحه‌ای با عنوان «یادگیری بازنمایی‌ها از طریق پس‌انتشار خطاها» نه فقط یک الگوریتم جدید، بلکه یک حوزه تحقیقاتی کامل را که یک دهه در تبعید به سر می‌برد، دوباره زنده کرد.

انتشاری که همه چیز را تغییر داد

در ۹ اکتبر ۱۹۸۶، جامعه علمی شاهد یکی از پرارجاع‌ترین مقالات تاریخ هوش مصنوعی بود. روملهارت، هینتون و ویلیامز نشان دادند که می‌توان شبکه‌های عصبی چندلایه را به شکلی عملی و مؤثر آموزش داد. الگوریتمی که آن‌ها به کار گرفتند «پس‌انتشار خطا» (Backpropagation) نام داشت؛ تکنیکی که از طریق بهینه‌سازی مبتنی بر گرادیان، به شبکه اجازه می‌داد بازنمایی‌های داخلی را یاد بگیرد.

زمان‌بندی این انتشار حیاتی بود. اواسط دهه ۱۹۸۰، دوران طلایی «سیستم‌های خبره» بود؛ جایی که هوش مصنوعی نمادین و سیستم‌های مبتنی بر قوانین همه توجهات را به خود جلب کرده بودند. در مقابل، تحقیقات شبکه‌های عصبی پس از کتاب پرسپترون‌ها (۱۹۶۹) از ماروین مینسکی و سیمور پاپرت که محدودیت‌های شبکه‌های تک‌لایه را آشکار کرده بود، وارد یک «تبعید ده ساله» شده بود.

شخصیت‌های کلیدی پشت پرده

این همکاری سه پژوهشگر از دو موسسه برجسته را گرد هم آورد. دیوید روملهارت در دانشگاه کالیفرنیا، سن دیه‌گو مستقر بود، در حالی که جفری هینتون و رونالد ویلیامز به دانشگاه کارنگی ملون وابسته بودند. این شراکت بین‌موسسه‌ای به طرز شگفت‌انگیزی ثمربخش بود.

در همان سال، گروه «پردازش موازی توزیع‌شده» (PDP) اثر دوجلدی خود را درباره ارتباط‌گرایی منتشر کرد. روملهارت، هینتون و ویلیامز فصلی را در این مجموعه با عنوان «یادگیری بازنمایی‌های داخلی از طریق انتشار خطا» نوشتند که در کتاب پردازش موازی توزیع‌شده: کاوش‌هایی در ریزساختار شناخت (جلد اول: مبانی) به چاپ رسید.

الگوریتم پس‌انتشار خطا چگونه کار می‌کند؟

نبوغ مقاله ۱۹۸۶ در اختراع یادگیری مبتنی بر گرادیان نبود - پژوهشگران پیشین مفاهیم مشابهی داشتند - بلکه در اثبات کارآمدی پس‌انتشار خطا برای شبکه‌های چندلایه نهفته بود. الگوریتم یک مشکل اساسی را حل کرد: چگونه شبکه‌ای با چندین لایه نورون می‌تواند بازنمایی‌های معنادار یاد بگیرد وقتی فقط لایه خروجی به سیگنال‌های خطا دسترسی دارد؟

پاسخ در مکانیسمی زیبا نهفته بود. الگوریتم خطا را در لایه خروجی محاسبه می‌کرد، سپس آن را لایه به لایه به عقب انتشار می‌داد. این «گذر به عقب» به هر نورون اجازه می‌داد وزن خود را متناسب با سهمش در خطای کل تنظیم کند. با تکرار این فرآیند روی نمونه‌های آموزشی متعدد، شبکه به تدریج خطاها را به حداقل می‌رساند و بازنمایی‌های داخلی مفیدی کشف می‌کرد.

عنوان مقاله - «یادگیری بازنمایی‌ها از طریق پس‌انتشار خطاها» - این بینش را به تصویر می‌کشد. شبکه‌های عصبی دیگر به نگاشت‌های ساده ورودی-خروجی محدود نمی‌شدند؛ آن‌ها می‌توانستند بازنمایی‌های داخلی لایه‌ای و غنی ایجاد کنند.

تأثیر انقلابی بر تحقیقات هوش مصنوعی

تأثیر مقاله ۱۹۸۶ را نمی‌توان نادیده گرفت. مورخان هوش مصنوعی به آن نمره کامل ۵ از ۵ داده‌اند و دلیلش روشن است: پس‌انتشار خطا تعمیق یادگیری را ممکن کرد و راه را برای شبکه‌های عمیق امروزی هموار ساخت. بدون این الگوریتم، پیشرفت‌هایی مانند تشخیص تصویر، پردازش زبان طبیعی و مدل‌های زبانی بزرگ هرگز اتفاق نمی‌افتاد.

این مقاله همچنین زمینه را برای جنبش یادگیری عمیق در دهه ۲۰۱۰ فراهم کرد. امروزه هر شبکه عصبی عمیقی - از GPT گرفته تا AlphaFold - به نوعی میراث‌دار همان الگوریتم پس‌انتشار خطاست. جالب اینجاست که جفری هینتون بعدها به یکی از چهره‌های برجسته هوش مصنوعی تبدیل شد و در سال ۲۰۱۸ جایزه تورینگ را دریافت کرد.

میراث ماندگار

پس از سال ۱۹۸۶، تحقیقات شبکه‌های عصبی رشد انفجاری یافت. مقاله روملهارت، هینتون و ویلیامز نه فقط یک الگوریتم، بلکه یک پارادایم جدید را معرفی کرد: اینکه می‌توان با ترکیب لایه‌های ساده و یادگیری مبتنی بر خطا، سیستم‌هایی ساخت که از داده‌ها بازنمایی‌های پیچیده‌ای استخراج کنند. این تفکر امروز اساس تمام سیستم‌های هوش مصنوعی مدرن است.

برای مطالعه بیشتر در زمینه تاریخچه هوش مصنوعی و الگوریتم‌های یادگیری، می‌توانید به ویکی‌پدیای پس‌انتشار خطا یا منابع مقاله اصلی Nature مراجعه کنید.