MacPaw با Liquid AI برای اجرای مدل‌ها روی دستگاه قرارداد بست

MacPaw با Liquid AI همکاری کرده تا نسخه‌ای محلی از دستیار هوش‌مصنوعی خود، Eney، را توسعه دهد و پشتهٔ استنتاج روی دستگاه به نام Elix را در اختیار توسعه‌دهندگان فروشگاه اشتراکی SetApp قرار دهد. هدف افزایش سرعت، ارتقای حریم خصوصی و فراهم کردن تجربهٔ کاری آفلاین برای کاربران است.

Elix: سیستم استنتاج روی دستگاه و حافظهٔ محلی

Liquid AI قرار است علاوه بر پیاده‌سازی Elix، یک سامانهٔ حافظهٔ محلی برای Eney بسازد تا تجربهٔ شخصی‌سازی‌شده روی هر دستگاه حفظ شود. به گفتهٔ رامین حسنی، هم‌بنیان‌گذار و مدیرعامل Liquid AI، فرآیند شامل انتخاب معماری مدل متناسب با سخت‌افزار هدف و بهینه‌سازی آن برای اجرا به‌صورت محلی است. این رویکرد باعث کاهش تأخیر و تقویت حریم خصوصی می‌شود و برای اپلیکیشن‌های دسکتاپ و موبایل اهمیت بالایی دارد.

نحوهٔ کار به‌طور خلاصه

  • انتخاب معماری مناسب بر اساس محدودیت‌های سخت‌افزاری دستگاه.
  • بهینه‌سازی مدل برای اجرای سبک و کارا روی ماشین‌های محلی.
  • ایجاد حافظهٔ محلی برای ذخیره و به‌کارگیری تجربهٔ کاربر در زمان‌های بعدی.

مزایا برای کاربران و توسعه‌دهندگان

  • حریم خصوصی: پردازش محلی به حفظ اطلاعات روی دستگاه کمک می‌کند و نیاز به ارسال مداوم داده‌ها به سرورهای ابری را کاهش می‌دهد.
  • عملکرد آفلاین: امکان اجرای دستیارها و جریان‌های کاری بدون اتصال اینترنت فراهم می‌شود.
  • سفارشی‌سازی محلی: مدل‌ها می‌توانند از ورودی‌های کاربر یاد بگیرند و با زمان عملکرد بهتری ارائه دهند.
  • دسترسی ترکیبی به مدل‌ها: پس از نهایی‌شدن معماری محلی، توسعه‌دهندگان SetApp به استنتاج روی دستگاه دسترسی خواهند داشت و هم‌زمان گزینهٔ استفاده از مدل‌های ابری مانند خدمات Google Cloud نیز در دسترس خواهد بود.

محیط رقابتی: اپل و مدل‌های محلی

اپل چارچوب‌هایی برای اجرای مدل‌های محلی در اختیار توسعه‌دهندگان قرار داده است؛ برای اطلاعات بیشتر می‌توانید به صفحهٔ Apple Machine Learning مراجعه کنید. Liquid AI تمرکز خود را روی بهینه‌سازی عملکرد برای قابلیت‌های متنوع گذاشته و می‌خواهد مدل‌هایی سازگار با ورودی‌های کاربر و تغییرات زمانی عرضه کند.

مدل تجاری SetApp و چشم‌انداز توسعه‌دهندگان

SetApp، با بیش از 150000 کاربر پرداختی، می‌خواهد سهم بیشتری از اپ‌ها را به تجربیات مبتنی بر هوش‌مصنوعی اختصاص دهد. این سرویس مدل قیمت‌گذاری مبتنی بر اعتبار را آزمایش می‌کند؛ یعنی کاربران بر اساس میزان اعتبار و پیچیدگی وظایف، تعداد مشخصی عملیات هوش‌مصنوعی انجام می‌دهند که می‌تواند انعطاف بیشتری نسبت به پرداخت ثابت برای هر درخواست فراهم کند.

گام بعدی و تاثیر

وقتی MacPaw و Liquid AI معماری پردازش محلی را تثبیت کنند، توسعه‌دهندگان SetApp قادر خواهند بود از استنتاج روی دستگاه بهره ببرند و هم‌زمان به مدل‌های ابری دسترسی داشته باشند. این ترکیب تجربهٔ توسعه و توزیع اپ‌های هوش‌مصنوعی را ساده‌تر می‌کند و می‌تواند فشار رقابتی بر پلتفرم‌های متمرکز بر ابر وارد آورد و مسیر تازه‌ای برای اپ‌های محلی‌محور باز کند.

منابع: گزارش اولیه در TechCrunch و مروری بر محاسن پردازش مرزی در Wikipedia.