کالیفرنیا در حال پیشروی برای محدود کردن ارائه خدمات رواندرمانی توسط چتباتهای هوش مصنوعی است. لایحه سنا SB 903 پس از تصویب در کمیته تخصیصات مجمع با رأی 13-0 به خوانش سوم ارجاع شد و اکنون در انتظار رأی نهایی مجمع است.
مهمترین مفاد پیشنهادی در SB 903
- محدود کردن نقش هوش مصنوعی در درمان روانشناختی به وظایف حمایتی، اطلاعاتی و اداری و نه تصمیمگیری بالینی مستقل.
- ممنوعیت ارائه یا نمایش چتباتها بهعنوان جایگزین مستقیمِ درمانگر انسانی.
- الزام به نظارت بالینی واقعی و کسب رضایت آگاهانه بیمار هنگام استفاده از ابزارهای مبتنی بر هوش مصنوعی.
- حفاظت از دادههای درمانی و تعیین معافیتهایی برای مواردی مانند حمایت همتا، مشاوره مذهبی، پژوهش و ابزارهای پزشکی دارای تأییدیه فدرال.
روند تصویب و مواضع طرفها
لایحه که با عنوان «قانون رفاه و نظارت بر منابع روانشناختی» معرفی شده، در ماه مه با رأی 39-0 از سنا عبور کرد و در مجمع نیز از دو کمیته سیاستگذاری با آرای 17-0 و 14-1 گذشت. طراح لایحه، سناتور استیو پادیلا، تاکید کرده است که الگوریتمهای هوش مصنوعی فاقد صلاحیت لازم برای تصدی نقش درمانگران انسانی هستند و باید از استفاده بالقوه مضر آنها برای بیماران جلوگیری شود.
در مقابل، نمایندگانی از صنعت فناوری هشدار میدهند که الزام به دخالت درمانگران انسانی میتواند تبدیل به گلوگاهی برای دسترسی به خدمات شود، بهویژه در مناطقی که کمبود نیروی بهداشت رفتاری وجود دارد. رابرت بویکن از گروه TechNet در گفتوگو با CalMatters اشاره کرده که این الزام ممکن است سرعت دسترسی بیماران به خدمات را کاهش دهد.
شواهد علمی و دغدغههای کلیدی
نگرانیها درباره تأثیر هوش مصنوعی بر سلامت روان فزونی یافته است. پژوهشی از انجمن روانشناسی آمریکا نشان میدهد حدود 77٪ از روانشناسان بیماران داشتهاند که از ابزارهای هوش مصنوعی برای مسائل سلامت روان استفاده کردهاند؛ اطلاعات مربوطه در وبسایت American Psychological Association منتشر شده است.
تحقیقات دانشگاهی هم نشان میدهند که چتباتها گاهی با موافقتِ بیش از حد یا تولید پاسخهای شخصیشده، دیدگاههای نادرست یا توهمات را تقویت میکنند. محققانی از King's College London و مؤسسات دیگر نسبت به شکلگیری «اتاق پژواک» هشدار دادهاند؛ شرایطی که در آن بازخورد اصلاحکننده تعاملات اجتماعی واقعی کاهش مییابد.
پیامدها و چشماندازهای اجرایی
در صورت تصویب نسخه اصلاحشده در مجمع، لایحه به سنا بازمیگردد و در صورت تأیید نهایی، به دفتر فرماندار گاوین نیوزوم ارسال میشود تا جهت امضای نهایی بررسی شود. این قانون چارچوب استفاده از هوش مصنوعی در خدمات سلامت روان را شفافتر میکند: هوش مصنوعی مجاز به نقش پشتیبان تیم درمان خواهد بود، اما مسئولیت تصمیمگیری بالینی بر عهده انسان خواهد ماند.
سؤالهای کلیدی پیشرو
- مرز عملی بین ابزارهای حمایتی و تصمیمگیرنده درمانی چگونه تعریف و سنجیده خواهد شد؟
- چگونه میتوان دسترسی عادلانه به مراقبتهای انسانی را در صورت الزام نظارت تضمین کرد؟
- چه استانداردها و قواعد حفاظتی مشخصی برای حفاظت از دادههای رواندرمانی وضع خواهد شد؟
کالیفرنیا با این اقدام در حال شکلدهی چارچوبی است که میتواند الگوی مقرراتی برای سایر ایالتها و کشورها شود؛ اکنون چالش قانونگذاران تعیین توازنی موثر بین بهرهمندی از ظرفیتهای تکنولوژیک و محافظت از سلامت و حقوق بیماران است.
