شرکت Pangram با همکاری یک خبرنگار در تلاش بود کاربران شبکههای اجتماعی را بهخاطر استفاده از هوش مصنوعی افشا کند. اگرچه آن همکاری رسمی پایان یافته، مدیرعامل شرکت هنوز از نمرههای تشخیص برای اشاره به «متهمان» در پستهای عمومی استفاده میکند.
چه اتفاقی افتاد؟
رود برسلاو، خبرنگاری که از گسترش محتوای تولیدشده توسط هوش مصنوعی در شبکهها انتقاد داشت، اوایل سال جاری پیشنهادی به مؤسس Pangram، مکس اسپِرو، داد و مسئولیت شناسایی و افشای کاربران مشکوک را پذیرفت؛ گزارشی که WIRED منتشر کرد. برسلاو در مصاحبهها خواهان برخورد سختگیرانهتر شد و نوشتنِ دیگران را دلیلی برای تمسخر دانست؛ رویکردی که سریعاً از حوزهٔ فنی خارج و به تحقیر عمومی تبدیل شد.
Pangram چه میسنجد و چه نمیسنجد
Pangram احتمال دخالت هوش مصنوعی در یک متن را نشان میدهد؛ نه اینکه مالکیت فکری یا میزان مشارکت انسانی را اثبات کند. یک نمرهٔ تشخیصی، حتی اگر دقیق باشد، قادر به تفکیک موارد زیر نیست:
- متنی که کامل از روی یک پرامپت تولید شده باشد
- هوش مصنوعی بهعنوان شریک فکری یا ویرایشگر زبانی بهکار رفته باشد
- نویسنده متن را نوشته اما از ابزارها برای روانسازی، ترجمه یا بازنویسی کمک گرفته باشد
بنابراین وقتی نمرهٔ بالایی بههمراه برچسبِ «عدمِ اصالتِ فکری» منتشر میشود، این پیام قابل برداشت است که نویسنده «تفکر مستقل نداشته» یا «کارِ او نیست»؛ ادعایی فراتر از توانِ این نوع ابزارها.
مثال عینی و پیامدهای واقعی
نویسندهٔ متن اصلیِ گزارش نسخهٔ انگلیسی مقالهاش را از آلمانی ترجمه کرده، از هوش مصنوعی برای پیشنویس استفاده کرده و سپس با ویرایشهای دستی و ماشینی متن را تکمیل کرده است؛ Pangram آن را «28 درصد هوش مصنوعی» ارزیابی و بخشهایی را بهعنوان تولیدِ ماشینی علامتگذاری کرد. این نمره با سطح قصد و محتوای انسانی متن همخوانی نداشت و برداشت نهایی را تحریف کرد.
در محیطهای دانشگاهی، انتشار گزارشهای درصدی میتواند منجر به ردِ مقالات یا تضعیف اعتبار پژوهشگران شود؛ بهویژه برای کسانی که به زبان دوم مینویسند یا از ابزارها برای شفافسازی نتایج علمی بهره میگیرند. در چنین مواردی، ابزار تشخیص بهجای حمایت از پژوهش، باعث مجازات و سوءاستفاده میشود.
انگیزهٔ تجاری پشت این رفتار
Pangram خدمات خود را به نهادها و ناشران میفروشد و از ترس اجتماعی نسبت به «هوش مصنوعی» سود میبرد: هرچه استفاده از هوش مصنوعی مترادف با تنبلی یا تقلب جلوه کند، تقاضا برای ابزارهای تشخیص بیشتر میشود. در این شرایط، مخلوطکردن «دخالت ابزار» با «تولید کامل» به نفع مدل کسبوکار شرکت تمام میشود.
نگاهی تاریخی برای فهم بهتر
مثال تاریخی مفید مربوط به الکساندر دوما است که از دستیارانی مانند اوگست ماکه برای آمادهسازی پیشنویس رمانها کمک میگرفت؛ آثار نهایی او ستوده شد، اما اگر ابزاری میتوانست «استفاده از ماکه» را نشان دهد، بخش زیادی از ارزش خلاقانهٔ کار زیر سؤال میرفت. دربارهٔ دوما میتوانید در ویکیپدیا بیشتر بخوانید: Alexandre Dumas.
پیشنهادهای عملی و مسیر پیش رو
- شفافسازی نحوهٔ استفاده از ابزار: کاربران و پژوهشگران باید مشخص کنند ابزارها چه نقشی داشتهاند (ویرایش زبان، ترجمه، یا تولید کامل).
- معیارهای پرووننس: توسعهدهندگان باید استانداردهایی برای اثبات منبع و زمانبندی تولید ارائه دهند تا تفکیک میان کمک زبانی و تولید کامل ممکن شود.
- قضاوت انسانی همراه با ابزار: نمرههای عددی بهتنهایی کفایت نمیکنند؛ ناشران و دانشگاهها باید بررسیهای کیفی انجام دهند و صرفاً بر درصد تکیه نکنند.
- قواعد اخلاقی برای شرکتها: سازندگان ابزارهای تشخیص نباید انگیزهٔ تحقیر عمومی ایجاد کنند؛ رویکردهای مسئولانهٔ افشا باید تدوین و اجرا شوند.
جمعبندی
ابزارهای تشخیص میتوانند مفید باشند، اما وقتی نمرهها بهعنوان حکم اخلاقی یا سند قطعیت مورد استفاده قرار میگیرند، آسیبزننده میشوند. ضرورتِ توسعهٔ استانداردهای فنی و اخلاقی روشن است تا میان «میزان دخالت ابزار» و «مالکیت فکری» تمایز قائل شویم و از تبدیل تشخیص به وسیلهٔ تحقیر جلوگیری کنیم.
برای بررسیهای عمیقتر دربارهٔ فناوریها و پیامدهای اجتماعی آن، منابعی مانند TechCrunch و WIRED پوششهای مفیدی ارائه میدهند.
