دیمیتری دولگوف، مدیرعامل Waymo، در گفتوگو با Y Combinator تأکید کرد شرکتهای فعال در حوزهٔ هوش مصنوعی فیزیکی نباید از رویکرد «سریع حرکت کن و خراب کن» استفاده کنند و باید اولویت را به عرضهٔ محصولِ ایمن بدهند: «سریع حرکت کنند و با امنیت عرضه کنند.»
چرایی انتخاب رویکرد محتاطانه توسط Waymo
Waymo، که از دل درهٔ سیلیکون برآمده است، طی دو دهه رویکردی مبتنی بر ایمنی را دنبال کرده است. بهجای تسریع برای عرضهٔ محصول، تمرکز شرکت روی طراحی معماریهای سیستمی و مدلهایی است که احتمال وقوع خطاهای فیزیکی را کاهش دهند؛ زیرا در دنیای واقعی بسیاری از خطاها قابلیت بازگشت سریع ندارند و پیامدهای جانی و مالی مستقیم دارند.
محورهای کلیدی پیام دولگوف
دولگوف بر این نکات تأکید کرد:
- ایمنی باید در هستهٔ مدلها، روشها و معماریهای سیستمی تعبیه شود.
- آزمایش و اعتبارسنجی گسترده، از جمله شبیهسازی و آزمایش در شرایط دنیای واقعی، برای کاهش ریسک ضروری است.
- طراحی سیستمی باید شکستهای محتمل را پیشبینی و مکانیزمهایی برای مهار و گزارش آنها فراهم کند.
برای مرور سریعتر دربارهٔ تاریخچه و فعالیتهای Waymo میتوان به صفحهٔ Wikipedia این شرکت مراجعه کرد.
پیام به صنعت هوش مصنوعی فیزیکی
این دیدگاه ویژهای برای استارتاپها و شرکتهایی است که در حوزههایی مانند خودروهای خودران، رباتیک خدماتی و پهپادها فعالیت میکنند. دولگوف بر سرمایهگذاری در شبیهسازیهای دقیق، جمعآوری دادههای اعتبارسنجی واقعی و ساختاردهی به معماریهای مقاوم تأکید دارد تا شکستهای احتمالی به سرعت شناسایی و مهار شوند.
چالشهای عملی و اخلاقی
چند چالش کلیدی پیش روی توسعهٔ ایمن سیستمهای فیزیکی وجود دارد:
- سرعت توسعه در مقابل ایمنی: فشار بازار و سرمایهگذاران میتواند سازمانها را به پذیرش ریسکهای بیشتر تشویق کند؛ حفظ تعادل میان نوآوری و ایمنی ضروری است.
- تنظیم مقررات: نبود چارچوبهای آزمایش و استانداردهای مشخص برای سامانههای فیزیکی پیچیده ریسک عمومی را افزایش میدهد.
- مسئولیتپذیری فنی: تعیین مرزهای مسئولیت در رخدادهای ناخواسته نیازمند شفافیت در طراحی، ضبط لاگهای تصمیمگیری و فرایندهای پاسخگویی است.
فرصتهای رقابتی از مسیر ایمنی
رعایت اصول ایمنی نهتنها ریسکها را کاهش میدهد بلکه میتواند به مزیت رقابتی تبدیل شود. شرکتهایی که عرضهٔ امن را بخشی از فرهنگ سازمانی خود کنند، در بلندمدت از اعتماد مشتریان، پذیرش نهادهای نظارتی و کاهش هزینههای جبران خسارت بهره خواهند برد.
پرسشهای پیش رو
این دیدگاه پرسشی مهم مطرح میکند: چگونه نهادهای قانونگذار، سرمایهگذاران و تیمهای فنی میتوانند استانداردها و سازوکارهایی ایجاد کنند که هم نوآوری را تسهیل کنند و هم از مخاطرات فیزیکی محافظت نمایند؟ پاسخ به این سؤال نیازمند همکاری میان بخش خصوصی، نهادهای تنظیمگر و جامعهٔ پژوهشی است.
برای آشنایی بیشتر با استانداردها و تجربیات شرکتهای پیشرو در حوزهٔ هوش مصنوعی فیزیکی، منابع بینالمللی و گزارشهای فنی مرتبط قابل مراجعه و بررسی هستند.
