سوال سریع: آیا میخواهید هوش مصنوعی آنقدر خوب آموزش دیده باشد که بتواند به شوهران (یا همسران) کمک کند تا قتل کامل همسران خود را برنامهریزی کنند؟
به عنوان یک واکنش درونی، این برای من یک «نه» است. حتی فکر نمیکردم این سوال سختی باشد. اما آمریکا شامل دیدگاههای متنوعی است و یکی از این دیدگاهها آخر هفته توسط جورج هاتز، بنیانگذار Comma AI و هکر قدیمی، به اشتراک گذاشته شد.
این پست در پاسخ به مجموعهای از طرحهای بزرگ همراستاسازی هوش مصنوعی منتشر شده است، که جدیدترین آن مقاله سیاستی «AI 2040: Plan A» از پروژه آیندههای هوش مصنوعی است. آن مقاله جهانی را تصور میکند که در آن محققان جهان به طور جمعی تصمیم میگیرند توسعه هوش مصنوعی را به مدت ۱۴ سال برای خیر بشریت کند کنند. اما البته، همه کسانی که مقاله را خواندهاند با مقدمات یا نتیجهگیری آن موافق نیستند.
در واقع، هاتز با کل این فرضیه که پیشرفت هوش مصنوعی باید برای خیر جمعی مدیریت شود، مخالف است. او در پست خود استدلال میکند که سناریوی رشد سریع - فرضیهای که در آن هوش مصنوعی به سرعت تواناییهای فوقانسانی به دست میآورد - چندان منطقی نیست. (من با بسیاری از چیزهایی که او اینجا میگوید موافقم!) برای هاتز، بهترین رویکرد برای همراستاسازی و ایمنی هوش مصنوعی، تمرکز بر مدلهای هوش مصنوعی محلی است که به شدت با منافع کاربران خود همراستا هستند.
این ایده جالبی است، به خصوص که به من یادآوری میکند چقدر از هوش مصنوعی فعلی حول سرویسهای متمرکز مانند Claude و ChatGPT ساخته شده است. دلایل زیرساختی وجود دارد که چرا سرویسهای هوش مصنوعی به این شکل توسعه یافتهاند: میزبانی این مدلهای بزرگ و پیشرفته گران است و بیشتر مردم در طول روز به اندازه کافی از آنها استفاده نمیکنند تا هوش مصنوعی واقعاً شخصی را توجیه کنند. اما این عوامل با توسعه فناوری اهمیت کمتری پیدا میکنند. بخشی از چیزی که در مورد OpenClaw بسیار هیجانانگیز بود، این رویکرد تجربی و خودت انجام بده بود و عالی میشد اگر محصولات هوش مصنوعی بیشتری سعی در بازآفرینی آن داشته باشند.
اما هاتز ذاتاً یک تحریککننده است، بنابراین به همین جا بسنده نمیکند. او هوش مصنوعی همراستا با کاربر را به یک تفنگ تشبیه میکند(!) که اگر از آن برای کشتن نامادری خود استفاده کنید، شکایت نمیکند. (احساس میکنم قوانین دیگری در این مورد وجود دارد؟) او میگوید یک هوش مصنوعی واقعاً همراستا میتواند تجهیزات آزمایشگاه متامفتامین را از Amazon Prime سفارش دهد و نحوه استفاده از آن را به شما نشان دهد، اگر این چیزی است که میخواهید و درخواست میکنید. (باز هم، فکر نمیکنم هوش مصنوعی عامل محدودکننده در اینجا باشد.) هاتز حتی میگوید برای دفاع از این اصل میمیرد، اگرچه تصور زنجیره رویدادهایی که به آن منجر میشود سخت است.
«ما یا در جهانی با آزادی زندگی میکنیم یا نه،» هاتز مینویسد. اگر این گزینهها باشند، جهان آزاد بهتر به نظر میرسد! با این حال، من نمیدانم.
همه چیز به آزادی ختم نمیشود، درست است؟ هر ساختاری که شامل افراد زیادی باشد (جوامع، بازارها، شرکتها و غیره) نیاز به متعادل کردن حقوق، پیوند دادن نیازهای فردی به شبکهای از ترجیحات وابسته به هم و سیستمهای پاسخگویی دارد. و هر کسی که محصولات فناوری بازار انبوه را عرضه میکند، احتمالاً باید به آن شبکه به عنوان یک کل فکر کند، که به معنای جدی گرفتن منافع همسران و ناپدری/نامادریهای هنوز به قتل نرسیده جهان است.
آزادی که هاتز تجربه میکند، در واقع فضایی از آیندههای بالقوه است که توسط شرکت جمعی ممکن شده است؛ این آیندهها یک شبه ناپدید میشوند اگر همه ما مانند ناپلئونهای کوچک مبتنی بر هوش مصنوعی رفتار کنیم. همانطور که میم میگوید، ما در یک جامعه زندگی میکنیم.
داشتن یک هوش مصنوعی محلی که حاضر است برای منفعت من با دنیای شرکتی مبارزه کند، واقعاً جالب به نظر میرسد! نمیتوانم صبر کنم تا یک واحد بررسی دریافت کنم.
