تحلیل شرکت Originality.ai نشان میدهد از میان 2,034 کتاب دینی تازهمنتشرشده در آمازون، 1,272 عنوان معادل 63٪ احتمالاً توسط مدلهای هوش مصنوعی تولید شدهاند. این بررسی 14 زیرشاخه دینی و اعتقادی را در آمازون ارزیابی کرده و نشان میدهد میزان محتوای تولیدشده بهوسیله مدلها در برخی دستهها بسیار بالاست.
نکات کلیدی گزارش
- نرخ کلی: 1,272 از 2,034 کتاب (63٪) بهعنوان «احتمالاً تولیدشده توسط هوش مصنوعی» علامتگذاری شدهاند.
- بالاترین دستهها: جادوگری (Wicca, Witchcraft & Paganism) با 78٪، هندوئیسم 76٪ و تائویسم 74٪.
- دقت محتوا: در دسته جادوگری، 53٪ از ادعاهای قابلبررسی احتمالاً نادرست شناخته شدند؛ یعنی همزمان با سهم بالای محتوای تولیدشده، میزان ادعاهای نادرست نیز قابل توجه بود.
چرایی قرار گرفتن جادوگری در صدر
Originality.ai میگوید بسیاری از کتابهای مرتبط با ویکا و پگانیسم به موضوعاتی مانند کریستالدرمانی، گیاهان دارویی و پاکسازی «انرژیهای منفی» میپردازند؛ حوزههایی که مخاطب روشن و تقاضای بالا دارند و الزام علمی محکمی برای آنها وجود ندارد. مایکل فریمن، نویسنده گزارش، به Decrypt گفته است این دسته میتواند به خوانندگان نوید راهحلهای سریع برای مسائل سلامت روان یا «دتوکس» بدهد بدون پایبندی به استانداردهای علمی.
روششناسی و محدودیتها
محققان توضیحات کتاب، بیوگرافی نویسنده و نمونههای متنی را بررسی کردند و آثاری که امتیاز 50 یا بالاتر در الگوریتم Originality.ai گرفتند را «احتمالاً تولیدشده توسط هوش مصنوعی» طبقهبندی کردند. خود گزارش تأکید میکند که این نشانگر احتمال است، نه اثبات قطعی.
تیم تحقیق همچنین بخشی از کتابهای علامتگذاریشده را بهصورت دستی بازبینی کرد تا تفاوت میان نوشتههای انسانی و متنهای تولیدشده توسط مدلها را بررسی کند. ابزارهای شناسایی هوش مصنوعی پیشتر نتایج متناقض و موارد مثبت کاذب نشان دادهاند؛ برای مثال تحلیل اعلامیه استقلال آمریکا با ابزارهای مختلف نتایج متفاوتی داد و در یک پرونده قضایی در کلمبیا نیز خطاهای تشخیصی ثبت شده است.
بازخورد آمازون و خوداظهاری نویسندگان
آمازون تا کنون واکنش رسمی به گزارش Originality.ai منتشر نکرده است. فریمن میگوید آمازون از شیوع محتوای تولیدشده توسط هوش مصنوعی مطلع است و امکان خوداظهاری برای نویسندگان فراهم است تا آثار تولیدشده با ابزارهای مولد را علامتگذاری کنند. گزارش اضافه میکند که تحقیقکنندگان دادهای درباره میزان خوداظهاری نویسندگان در اختیار ندارند و نتایج تحقیق با آمازون بهصورت مستقیم به اشتراک گذاشته نشده است.
برای بررسی مرتبط، این مطلب به یک یادداشت داخلی اشاره میکند: محتوای تولیدشده توسط هوش مصنوعی.
مسئله استفاده از کتابها برای آموزش مدلها
نگرانی دیگر مربوط به روند استفاده از کتابهای چاپی برای آموزش مدلهای زبانی است: گزارشها نشان دادهاند برخی توسعهدهندگان میلیونها عنوان را خریداری، جلدها را جدا و صفحات را اسکن کرده و در مجموعهدادههای آموزشی بهکار بردهاند. تحقیقی تابستان گذشته مسیر ارسال مجموعهای از کتابهای نادر به مرکز آمازون در لاسوگاس را پیگیری کرد که در آن کارگران جلدها را جدا و صفحات را اسکن کردند؛ آمازون تأیید کرده که از مسیرهای تجاری برای تهیه کتابها استفاده میکند.
این مساله به بحثهای حقوقی و اخلاقی گستردهای درباره مالکیت محتوای آموزشی و حقوق نشر مربوط میشود. برای مروری کلی میتوانید صفحه ویکیپدیا درباره یادگیری ماشین و بحثهای مرتبط را مطالعه کنید.
پیامدها و توصیهها
- برای خوانندگان: در مواجهه با کتابهای غیرآکادمیک یا ادعاهای درمانی، به منابع معتبر و شواهد علمی مراجعه کنید و ادعاها را با احتیاط ارزیابی کنید.
- برای نویسندگان و ناشران: شفافسازی درباره استفاده از ابزارهای مولد، رعایت استانداردهای ارجاع و استناد و بازبینی انسانی محتوا ضروری است.
- برای پلتفرمها: فروشگاههایی مانند آمازون باید مکانیزمهای شفافتر خوداظهاری و کنترل کیفیت را تقویت کنند تا از انتشار اطلاعات نادرست جلوگیری شود.
گامهای پیشنهادی
ترکیب روشهای الگوریتمی و بازبینی انسانی، افزایش شفافیت ناشران و تدوین چارچوبهای حقوقی مشخص برای استفاده از آثار در آموزش مدلها میتواند راهکار بهتری برای مدیریت انتشار محتوای تولیدشده بدون نظارت فراهم کند. پژوهشهای مستقل بیشتر و تبادل داده میان نهادهای تحقیقاتی و پلتفرمها برای سنجش دقیقتر گستره این پدیده ضروری است.
منابع و مطالعه بیشتر
گزارش Originality.ai و پوشش خبری مرتبط در رسانههای فناوری قابل پیگیری است. برای درک بهتر تاریخچه ویکا و پگانیسم میتوان به صفحه ویکیپدیا Wicca مراجعه کرد.
