یک یادداشت دیدگاهی در نشریه JAMA هشدار میدهد که سامانههای خودگردان هوش مصنوعی پزشکی میتوانند در انجام وظایف شناختی بالینی از ترکیبهای رایج پزشک-ماشین دقیقتر عمل کنند؛ بنابراین مقرراتی که «انسان در چرخه تصمیمگیری» را الزام کنند ممکن است مانع پذیرش نوآوریهای کارآمد در مراقبتهای سلامت شوند.
نویسندگان و تعارض منافع
نویسندگان یادداشت از جمله زکیل امانوئل، زیستاخلاقدان دانشگاه پنسیلوانیا، و نیل خوسلا، مدیرعامل شرکت تلهپزشکی Curai Health هستند. رابطههای مالی و خانوادگی مرتبط با نویسندگان—از جمله سرمایهگذاریهایی که به اعضای خانواده و حامیان مالی آنها نسبت داده شده—نکتهای است که خوانش سیاستی این دیدگاه را تحت تأثیر قرار میدهد و نیاز به شفافیت در پیشنهادهای قانونگذاری را برجسته میسازد.
شواهد پژوهشی: آیا ماشینها در برخی وظایف بهترند؟
یادداشت به مطالعاتی اشاره میکند که پس از 2024 منتشر شدهاند و نشان میدهند مدلهای هوش مصنوعی در چند وظیفه استدلال پزشکی—گرفتن شرححال، تشخیص، انتخاب آزمایش، پیشنهاد درمان بر اساس راهنمای بالینی و مدیریت بیماریهای مزمن—در برخی آزمایشها مستقل از انسان برابر یا بهتر عمل کردهاند. نمونهها شامل سامانه گفتوگویی گوگل (AMIE)، ChatGPT و مدلهای پیشرفته مانند GPT-4 است. در یک مطالعه شبیهسازی با 377 مورد پیچیده، سامانهای مشابه ChatGPT در حدود 60٪ موارد تشخیص اولیه صحیح ارائه کرد، در حالی که گروهی از پزشکان داخلی در 15.9٪ موارد تشخیص اولیه درست داشتند.
چرا ترکیب انسان و ماشین گاهی عملکرد را کاهش میدهد؟
تحلیلها از جمله یک متاآنالیز شامل 106 آزمایش نشان میدهد که زمانی که انسانها بهتر از مدلها عمل میکنند، همکاری با مدلها نتیجه را بهبود میبخشد؛ اما هنگامی که مدلها عملکرد بهتری دارند، دخالت انسان—مثلاً رد یا تغییر اشتباه توصیههای مدل—میتواند عملکرد کلی را کاهش دهد. یک مثال گزارششده این است که GPT-4 بهتنهایی در مجموعهای از پروندههای واقعی 92٪ عملکرد تشخیصی داشته، در حالی که تیمهایی از پزشکان که به همان مدل دسترسی داشتند، به 76٪ رسیدند.
قیاس تاریخی: شطرنج و تطور نقش انسان
یادداشت به تجربه شطرنج اشاره میکند: پس از پیروزی Deep Blue بر قهرمانان انسانی در دهه 1990، برای سالها تیمهای انسان-ماشین بر رقابتها تسلط داشتند اما در نهایت هوش مصنوعی به تدریج بر تیمها برتری یافت. نویسندگان این مسیر تاریخی را معادلِ روندی میدانند که ممکن است در بخشهایی از پزشکی رخ دهد.
پیام به قانونگذاران و نظام سلامت
محور اصلی پیام این است که مقرراتی که بهصورت صریح و اجباری تصمیم نهایی را تنها به انسان محول کنند، ممکن است پذیرش سامانههای خودگردان دقیقتر را کند یا متوقف سازند. به جای تحمیل الزام مطلق، پیشنهاد میشود از حالا درباره جنبههایی مانند مسئولیتپذیری، سازوکارهای پرداخت، چارچوبهای نظارتی و تغییرات موردنیاز در آموزش بالینی بحث و تصمیمگیری شود تا از قفلشدن رویههای قدیمی جلوگیری گردد.
محدودیتها و ریسکهایی که باید جدی گرفته شوند
- بخش عمده شواهد فعلی مبتنی بر شبیهسازی وظایف منفرد است، نه مراقبت واقعی بیماران در محیط بالینی.
- انتقال اطلاعات بین انسان و مدل نقطهٔ ضعف مهمی است و خطا در این انتقال میتواند پیامدهای بالینی جدی داشته باشد.
- وظایف فیزیکی و فنی مانند جراحی، زایمان و برخی اقدامات تشخیصی هنوز عمدتاً در حوزه توانمندی رباتیک نیستند و نیاز به حضور انسان دارند.
- سیستمهای خودگردان با خطراتی مانند توهم مدل (hallucination)، قطع ارتباط، خرابی زیرساخت یا حملات سایبری مواجهاند که از نظر نوع خطا با خطای انسانی متفاوتاند.
پیشنهادهای سیاستی عملی
قانونگذاران و سازمانهای سلامت میتوانند با مجموعهای از اقدامات تعادلی، هم نوآوری را تسهیل و هم ایمنی را حفظ کنند. این اقدامات شامل موارد زیر است:
- اجرای آزمایشهای بالینی در محیط واقعی برای سنجش اثربخشی و ایمنی سامانهها پیش از پذیرش گسترده.
- الزام به گزارشدهی شفاف خطاها و معیارهای عملکرد و ایجاد پایگاههای داده برای ارزیابی مستمر.
- تدوین استانداردهای ارزیابی و بازآزمایی دورهای مدلها، بهویژه پس از بهروزرسانیهای فنی.
- طراحی مقررات منعطف که امکان بهروزرسانی سریع با پیشرفت فناوری را فراهم کند، بهجای مقرراتی که بهسرعت منسوخ میشوند.
- بازنگری در آموزش پزشکی و مهارتآموزی بالینی برای آمادهسازی نیروی انسانی نسبت به کار با سامانههای هوش مصنوعی پزشکی.
چشمانداز
سالهای پیشِ رو تعیینکننده خواهد بود. گزینه معقول به جای اجبار حضور انسان در هر تصمیم، تعریف محدودههای کاربرد، الزامات شفافیت و سازوکارهای مسئولیتپذیری است تا وقتی سامانهای از انسان پیشی گرفت، موانع بازدارنده انسانی باعث از دست رفتن فواید بالینی نشود. سیاستگذاری هوشمند میتواند هم ایمنی بیماران را پاس دارد و هم زمینه بهرهبرداری مسئولانه از ظرفیتهای قابلتوجه هوش مصنوعی پزشکی را فراهم سازد.
نکته مهم: این بحث تنها فناوری نیست؛ مسألهای سیاستی و اخلاقی است و تصمیمهای امروز شکلِ مراقبتِ پزشکی فردا را تعیین میکنند.
