دوردش (DoorDash) معماری پشت «از دوردش بپرس» (Ask DoorDash)، دستیار هوش مصنوعی مکالمهای خود را به اشتراک گذاشته است که به مصرفکنندگان کمک میکند رستورانها را کشف کنند، وعدههای غذایی را برنامهریزی کنند و سبد خرید مواد غذایی را از طریق تعاملات به زبان طبیعی بسازند. در طول یک بررسی عمیق مهندسی سهبخشی، این شرکت توضیح داد که چگونه این سیستم را با استفاده از مدلهای زبانی بزرگ (LLM)، عاملهای هوش مصنوعی تخصصی، ابزارهای مبتنی بر پروتکل زمینه مدل (MCP)، حافظه پایدار مصرفکننده و زیرساخت ارزیابی خودکار برای اجرای تجربیات مبتنی بر هوش مصنوعی در محیط تولید ساخته است.
دوردش نتایج اولیه تولید را گزارش کرد که نشان میداد حافظه محاسبهشده مصرفکننده، نرخ تبدیل خرید مواد غذایی را تقریباً ۲۴٪ افزایش داده، اندازه سبد خرید را ۱۷٪ بزرگتر کرده و تعداد چرخشهای مکالمه را در طول یک ارزیابی هفتروزه ۷٪ کاهش داده است. برای کشف رستوران، این دستیار نرخ تبدیل ۱۵٪ بالاتری در پرسوجوهای باز داشته است. این شرکت همچنین بهبودهایی در اندازهگیری کیفیت عامل هوش مصنوعی از طریق ارزیابی خودکار گزارش کرد که اعتبارسنجی سریعتر تغییرات مدل و سیستم را ممکن میسازد.
همانطور که راگاو سابو، رهبر تیم توصیهگر و جستجو در دوردش، در یک پست اشاره کرد: «ساخت یک عامل هوش مصنوعی مفید سخت است. دانستن اینکه واقعاً خوب است یا نه، حتی سختتر است.»
برای اعتبارسنجی رفتار عامل هوش مصنوعی در تولید، دوردش یک چارچوب ارزیابی خودکار ساخت که مکالمات مشتری با حالت (stateful) را با استفاده از کاربران تولیدشده توسط LLM و ابزارهای ضبطشده شبیهسازی میکند. این چارچوب محیط اجرای تولید را برای ارزیابی مستقل هماهنگکننده (orchestration)، موانع محافظتی و عاملهای دامنه، آینهسازی میکند. دوردش گفت که این پلتفرم اندازهگیری کیفیت را به بیش از ۲۰۰۰ ارزیابی خودکار روزانه رساند، نمرات کیفیت را هشت امتیاز بهبود بخشید، زمان تست رگرسیون را از شش ساعت به بیست دقیقه کاهش داد و یک مهاجرت مدل را تأیید کرد که تأخیر را ۳۵٪ کاهش داد و کیفیت را حفظ کرد.
معماری جداسازی هماهنگکننده از قابلیتهای تجاری
معماری پشت «از دوردش بپرس»، هماهنگکننده را از قابلیتهای تجاری جدا میکند. یک «زمان اجرای دستیار» (Assistant Runtime) تعاملات بین عاملهای تخصصی را هماهنگ میکند، در حالی که یک لایه MCP مشترک قابلیتهای تجاری از جمله جستجوی کاتالوگ، توصیهها، سبد خرید، تسویه حساب، تاریخچه سفارشها و حافظه مصرفکننده را در معرض دید قرار میدهد. به جای جاسازی منطق تجاری مستقیم در پرامپتها، این دستیار ابزارهای قابل استفاده مجددی را که توسط سرویسهای موجود دوردش پشتیبانی میشوند، فراخوانی میکند و به چندین تجربه هوش مصنوعی اجازه میدهد تا ادغامهای مشترکی داشته باشند در حالی که قابلیتهای پشتیبان به طور مستقل تکامل مییابند.
در یک پست لینکدین که این ویژگی را اعلام میکند، این شرکت بر یک چالش اصلی تأکید میکند: «عاملها فقط به دسترسی به دادههای کاربر نیاز ندارند. آنها به زمینه مناسب، برای کار مناسب، در لحظه مناسب نیاز دارند.»
سیستم حافظه سهلایه برای شخصیسازی هوشمند
دوردش یک لایه هوشمند معرفی کرد که شخصیسازی را از طریق سه سیستم حافظه مدیریت میکند. حافظه بلندمدت به صورت آفلاین از رفتار تاریخی مصرفکننده تولید میشود تا ترجیحات مانند غذاهای مورد علاقه و محدودیتهای غذایی را ثبت کند. حافظه جلسه، زمینه مکالمه را در طول یک تعامل حفظ میکند، در حالی که حافظه عاملی (agentic memory) حقایق صریح ارائهشده توسط مصرفکنندگان را ذخیره میکند. خاطرات مرتبط از طریق جستجوی برداری معنایی بازیابی، رتبهبندی و در پرامپتها گنجانده میشوند و مدیریت حافظه را از استنباط مدل جدا میکنند.
در یک پست لینکدین که این ویژگی را اعلام میکند، اندی فنگ، یکی از بنیانگذاران دوردش، گفت: «از دوردش بپرس» میتواند یک سبد خرید مواد غذایی را حدود ۵ برابر سریعتر از انجام دستی آن برای شما بسازد و با یک پرامپت ساده سبد شما را در کمتر از ۲ دقیقه تکمیل کند.
دوردش تأکید کرد که این پلتفرم تأخیر و قابلیت اطمینان را از طریق بهینهسازیهای عملیاتی بهبود میبخشد، از جمله اقدامات قطعی که مصنوعات نسخهبندی شده را بدون فراخوانی مدل زبانی بهروزرسانی میکنند و گردشهای تأیید برای توصیهها و سبدهای تولیدشده. این معماری با مدل مهندسی دوردش همسو است، جایی که تیمهای دامنه عاملهای تخصصی میسازند در حالی که تیمهای پلتفرم هماهنگکننده، ابزارهای MCP، حافظه، ارزیابی و اجزای مشترک را نگهداری میکنند.
