خطای پنهان در میان کلمات رسمی
بیل الیور، نمایندهٔ حزبِ محافظهکارِ مترقی در مجلس قانونگذاری استانِ نیوبرانزویک کانادا، انتظار نداشت که متنِ سخنرانیاش روزهای آینده در صفحهٔ اول رسانههای اجتماعی قرار گیرد. او در ماه گذشته برای تشریحِ چالشهای مرتبط با شکلگیریِ دفاترِ حمایت از شهروندان، متنی خواند که کاملاً با لحنِ یک سخنرانیِ رسمی همخوانی داشت. جملهٔ بعدی اما داستان را کاملاً عوض کرد. او بدون مکث، دقیقاً همان جملهای را با صدای بلند خواند که سازندگان و کاربرهایِ عادی معمولاً فراموش میکنند قبل از انتشار پاک کنند:
«در اینجا نسخهٔ طبیعیتر و روانتری از آن بخش وجود دارد که شبیه به یک سخنرانی قانونگذاری است، نه یک مجموعهٔ نکات کوتاه.»
این عبارت، که خطّ و نشانی روشن از درخواستهای ارسالی به یک
مدلزبانی بزرگ (LLM) است، نشان میدهد که احتمالاً بخشی از متنِ سخنرانیِ او توسط هوشمصنوعی بازنویسی شده و دستورالعملِ نهاییِ تولیدِ آن متن به اشتباه قرائت شده است. در آن لحظه، توجهِ سیاستمداران به این جزئیات معطوف نشد، اما لحظهای که ویدیویِ سخنرانی منتشر شد، واکنشها غیرقابلِ کنترل بود.
از شبکههای اجتماعی تا رسانههای جریانِ اصلی
صبح که از شب گذشت، ویدیویِ این لحظه در پلتفرمهایی مانند ردیت و تردز به سرعت پخش شد. کاربران بلافاصله متوجهِ تکرارِ یک الگوی رایج در خروجیهای چتباتهای نسلِ جدید شدند. رسانههای کنونیِ کانادا نیز این اتفاق را بهانهای برای بررسیِ گستردهترِ تعاملِ سیاستمداران با فناوری دانستند. روزنامهٔ
تلگراف تورنتو در تحلیلی زیر این تیتر نوشت که این حاشیهها شکافِ عمیقِ اجتماعی را نمایان میکند: از یک سو نخبگانی که بدونِ تردید کارهایشان را به ماشینهای هوشمند میسپارند و از سویِ دیگر شهروندانی که این روند را نگرانکننده میدانند. این روزنامه به مقایسهٔ این فناوری با موجوداتِ جمعبیتِ «بورگ» در دنیایِ علمی-تخیلی اشاره کرد و هشدار داد که واگذاریِ مستقلِ قضاوت به الگوریتمها میتواند اثراتِ اجتماعیِ ناخواستهای داشته باشد.
حریمِ بینِ بهرهوری و اصالت در فضایِ عمومی
استفاده از فناوریهای تولیدِ متن در فضایِ سیاسیِ کانادا موضوعِ جدیدی نیست، اما نحوهٔ تعاملِ نمایندگان با این ابزارها هنوز در مرحلهٔ آزمایش قرار دارد. مدلهای زبانی بزرگ، همان پلتفرمهایی که میتوانند سریعاً ساختارِ جملات را اصلاح کنند و لحنِ متن را بومیسازی نمایند، ابزارِ قدرتمندی برای تولیدِ محتوا هستند. وقتی این ابزارها در لایههایِ پایینترِ تصمیمگیریِ اداری یا رسانهای ادغام میشوند، سرعتِ پاسخدهی افزایش مییابد. اما وقتی خروجیِ آنها عیناً واردِ صحنهٔ رسمی میشود، سؤالِ اصلی دربارهٔ نظارتِ انسانی و شفافیتِ فرآیند پیش میآید.
کارشناسانِ حوزهٔ فناوری تأکید میکنند که خودکارسازیِ فرآیندها به شرطی ارزشمند است که انسان همچنان نقشِ ناظرِ نهایی را ایفا کند. فراموشیِ پاککردنِ خطِ اول یا دستورالعملهایِ ارسالی به مدل، نمونهای از این شکافِ نظارتی است. با پیشرفتِ روزافزونِ این سیستمها که تواناییٔ درکِ بسترهایِ مختلفِ فرهنگی و زبانی را پیدا میکنند، انتظار میرود نهادهای قانونگذاری ضوابطِ مشخصتری برای تعامل با این مدلها تدوین کنند تا سرعتِ بالا با کیفیت و اصالتِ کلام تضاد پیدا نکند.
