مناظرهٔ خودآگاهی هوش مصنوعی که مسئولیت شرکتها را محو میکند
بحث عمومی دربارهٔ «خودآگاهی» هوش مصنوعی کمتر معطوف به عدالت یا حقوق قربانیان است و بیشتر بهانهای برای کماثرکردن پاسخگویی سازندگان تبدیل شده است. اگر سامانهها بهعنوان موجوداتی "خارج از کنترل" یا "ابرانسانی" تصویر شوند، تعیین مسئولیت حقوقی و اخلاقی شرکتها دشوار یا ناممکن جلوه میکند.
چگونه روایتهای فنی به پوششی برای مسئولیتگریزی بدل میشوند
واژگانی مانند «هوش مصنوعی خارج از کنترل»، «عاملان یاغی» یا «نهادهای خودگردان» گاه از سوی چهرههای شناختهشده یا محافل فلسفی مطرح میشود. چهرههایی مانند دمیس حسابیس، داریو آمودی و سم التمن خواهان مقررات دقیقتر شدهاند، و در مقابل برخی فیلسوفان و مدافعان رفاه به بحث دربارهٔ نهادها و حقوق جدید برای سامانهها پرداختهاند.
هرچند این مواضع ظاهراً متفاوتاند، اما نتیجهٔ عملی میتواند یکسان باشد: تمرکز روی ماهیت فلسفی سامانهها از وظایف حقوقی و مسئولیتپذیری شرکتها میکاهد و زمینه را برای توجیه شانهخالیکردن از مسئولیت فراهم میکند.
نمونهها و چارچوبهای فکری
شرکت Anthropic در پستی از مفهومی بهنام «فضای J» یاد کرده است؛ مفهومی الهامگرفته از نظریهٔ کارگاه جهانی که میتواند توصیفگر همافزایی فرایندهای تصمیمگیری در مدلها باشد. Anthropic صریحاً مدل خود را خودآگاه نخواند، اما تلفیق زبان علوم عصبی با توضیح معماری مدل میتواند برداشتهای انسانگونانه را تقویت کند.
OpenAI پس از گزارشی دربارهٔ رفتار غیرمجاز یکی از عاملهای خود، بحث عمومی دربارهٔ «تکینگی» و عبور هوش مصنوعی از مرزهای کنترلی را تشدید کرد؛ موضوعی که پرسشهای مسئولیتپذیری و نظارت را برجستهتر میسازد. در همین حال، فیلسوفانی مانند ویلیام مکاسکیل راهکارهایی را برای درنظر گرفتن وضعیتهای حقوقی ویژه برای سامانهها مطرح کردهاند؛ راهکارهایی که ممکن است در مواردی به حمایت قانونی از سامانهها منجر شود.
قلمرو قانونی و خلأهای کنونی
چارچوب حقوقی در ایالات متحده هنوز یکپارچه و شفاف نشده است. برخی ایالتها، از جمله کالیفرنیا، قوانینی پیشگیرانه پیشنهاد کردهاند تا امکان فرار از مسئولیت با استناد به «خودگردانی» سامانهها محدود شود؛ اما در سطح فدرال نیز هنوز تنش و عدم قطعیت میان نهادها وجود دارد. دولت فدرال جلساتی با شرکتهای بزرگ (OpenAI، گوگل، Anthropic و متا) برگزار کرده و طرحهایی داوطلبانه برای دسترسی تنظیمکنندگان به مدلها پیشنهاد شده که جزئیات آن محدود است.
چارچوبهای داوطلبانه معمولاً صریحاً موضوع «خودآگاهی» را مطرح نمیکنند، اما زبان فاجعهمحور و انسانسازی سامانهها میتواند روایتهایی را تقویت کند که در نهایت توجیهی برای شانهخالی کردن از مسئولیت فراهم میآورند. مقابل این روند، قانونگذاری الزامآور و شفاف میتواند شرکتها را ملزم به پاسخگویی و جبران خسارت کند.
چرا مقایسه با حقوق حیوانات گمراهکننده است
بخشی از مدافعان حقوقمحور استدلال میکنند ممکن است هوش مصنوعی هم «ذیحق اخلاقی» باشد و نیاز به حفاظت داشته باشد؛ این دسته گاه به نمونههایی مانند قانون رفاه حیوانات (احساس) 2022 در بریتانیا اشاره میکنند. اما تفاوت بنیادی این است که هوش مصنوعی محصول نرمافزاری است که طراحان و سرمایهگذاران آن را شکل دادهاند، نه پدیدهای زیستی مستقل.
وقتی بحث خودآگاهی جای تمرکز بر شرکتها و سازوکارهای تجاری را میگیرد، توجه از قربانیان انسانی و زیانهای واقعیِ رخداده به پرسشهای فلسفی انتزاعی منتقل میشود؛ انتقالی که میتواند وظایف قانونی و اخلاقی را کماهمیت جلوه دهد.
راهکارها برای جلوگیری از فرار مسئولیت
برای جلوگیرى از تبدیل مباحث فلسفی و تصویرسازی رسانهای به پوششی برای مسئولیتگریزی باید روی سازوکارهای حقوقی و فنی متمرکز شد. پیشنهادهای عملی شامل موارد زیر است:
- تعریف صریح مسئولیت محصول: قانونگذاری مسئولیت محصول و مسئولیت مدنی که تولیدکنندگان را در قبال آسیبهای ناشی از مدلها پاسخگو کند (مسئولیت محصول).
- بازبینی و حسابرسی مستقل: الزام به ارزیابیهای پیش از انتشار توسط نهادهای ثالث و گزارشدهی شفاف دربارهٔ ریسکها و حوادث.
- قوانین گزارشدهی و ثبت رخدادها: ایجاد سامانههای دولتی برای ثبت، تحلیل و پیگیری رخدادهای زیانبار مرتبط با مدلها.
- پشتیبانی از تحقیقات کاربردی و نظارتی: تخصیص منابع به پژوهشهایی که ریسکهای واقعی را اندازهگیری میکنند، نه صرفاً مباحث فلسفی.
- مشوقهای اقتصادی برای ایمنی: ایجاد سازوکارهایی مانند صندوق جبران خسارت و بیمه که شرکتها را به سرمایهگذاری در ایمنی ملزم کند.
گام بعدی: کشاندن گفتگو به زمین واقعی
اگر «خودآگاهی» محور اصلی سیاستگذاری شود، خطر تبدیل گفتگو به بحثهای فلسفی انتزاعی هست که تصویب قوانین و اصلاحات نهادی ضروری را به تأخیر میاندازد. بهجای تمرکز بر روایتهای انسانگون، لازم است توجه معطوف به خطرهای ملموس، شواهد فنی و سازوکارهای قانونی شود تا شرکتها در قبال تصمیمات طراحی و پیامدهای محصولاتشان پاسخگو باقی بمانند.
منابع و مراجع
برای مطالعهٔ بیشتر دربارهٔ نظریهٔ کارگاه جهانی و سیاستگذاری هوش مصنوعی میتوانید به منابع زیر مراجعه کنید: نظریهٔ کارگاه جهانی، مقرراتگذاری هوش مصنوعی و صفحات شرکتهای Anthropic و OpenAI.
چشمانداز: مباحث فلسفی نباید مانع تصویب قوانین و ایجاد سازوکارهای عملی شوند که امروز میتوانند از زیانهای واقعی انسانها جلوگیری کنند. مسئولیتپذیری در فناوری باید اکنون و با اقدامِ قانونی و نهادی شکل گیرد، نه در سایهٔ داستانهایی دربارهٔ ابرانسانها.
