شروع یک جنگ دیجیتال برای تمیز کردن فضای وب
استارتاپ نیویورکی پنگرام (Pangram) با تمرکز بر مقابله با طوفان محتوای خودساخته، موفق به جذب 9 میلیون دلار سرمایه شد. بنیانگذاران این کمپانی به رشد روزافزون ابزارهای تشخیص متن و تصویر از میان محتوای رباتیک امید بستهاند. این تأمین مالی به سرپرستی Menlo Ventures و با همراهی صندوقهای Haystack، ScOp، Script Capital و Cadenza صورت گرفت.
همره با این رویداد مالی، پنگرام از مدل تشخیص متن نسل چهارم خود با نام Pangram 4 و همچنین سیستم جدید تشخیص تصاویر به نام Pangram Image رونمایی کرد. طبق اعلام شرکت، الگوریتم متن جدید بیش از 99 درصد دقت در شناسایی نوشتههای دارای کمک هوش مصنوعی و محتوای ترکیبی دارد. این سیستم همچنین توانسته است در شناسایی ابزارهایی که سعی در «انساننمایی» خروجیهای الگوریتمی دارند عملکرد قابل توجهی از خود نشان دهد. دسترسی به مدل تشخیص تصویر هنوز در مرحله پیشنمایش پژوهشی است و انتشار عمومی آن در هفتههای آینده آغاز میشود.
آموزش هوشمند بدون وابستگی به واترمارک
مکس اسپرو و برادلی امی، فارغالتحصیلان دانشگاه استنفورد، حدود دو سال پیش این مسیر را کلید زدند. باز شدن دریچهها با معرفی ChatGPT فضا را به شدت به سمت محتوای رباتیک، بهینهسازی موتورهای جستجوی مصنوعی و حتی کمپینهای اطلاعاتنادرست با هدف روسیه و امارات سوق داد. اسپرو تأکید میکند که تمیز کردن فضای وب از نویزهای الگوریتمی یک ضرورت است. اگر خواننده بداند پشت یک متن هوش مصنوعی نهفته است یا یک گزارشکار حرفهای، با نگرش متفاوتی آن را بررسی میکند یا از صحت آن اطمینان مییابد.
هسته مرکزی فناوری پنگرام یک مدل یادگیری ماشین است که با دیتاست عظیمی از اسناد انسانی آموزش دیده است. متخصصان این شرکت برای هر سند واقعی، یک «آینه ساختگی» تولید کردهاند. در این فرایند، موضوع، طول و لحن متن دقیقاً بازتولید میشود، اما تولید آن را یک مدل زبانی پیشرفته بر عهده دارد. مدل جدید تفاوتهای سبکی الگوریتمها را یاد میگیرد بدون اینکه به دنبال متادیتای کپیشده یا واترمارکهای پنهان بگردد. پنگرام حتی سطوح مختلفی از همکاری انسان و ماشین را نیز تفکیک میکند. اسپرو معتقد است استفاده از هوش مصنوعی مشکلی ندارد، اما شفافسازی نقش آن باید اجباری باشد.
تأثیر محتوای مصنوعی بر قوانین و مراجع رسمی
استفاده گسترده از تولیدکنندگان متن به سرعت وارد چالشهای جدی شده است. خطاهای آشکار مانند خواندن پرامپتها توسط یک سیاستمدار کانادایی یا استناد وکلای دادگستری به منابع جعلی، تنها منجر به خنده یا جریمه نشده است. ساختارهای نهادی نیز دست به تدبیر زدهاند و آرشیو آکادمیک arXiv سال جاری سیاست جدیدی را اعمال کرد. مطابق این قانون، ارسال مقالات حاوی شواهد عدم بررسی خروجی مدلهای زبانی (مانند ارجاعات توهمزده یا جملات تودکرانه مدل) منجر به محرومیت یکساله میشود.
رقابت در بازار و دسترسی کاربران
پنگرام در بازاری رو به رشد حرکت میکند. همراستا با این شرکت، بازیگران دیگری مانند Originality.ai و Copyleaks نیز در تلاشند تا سهم بازار را تصاحب کنند. بررسیهای اخیر نشان میدهد ابزارهایی مانند GPTZero در مقابله با تکنیکهای پیشرفته تقلید سبک با چالشهایی روبرو هستند که پنگرام سعی دارد این شکافها را با روش آموزشی خود پر کند.
کاربران میتوانند با پرداخت ماهیانه 20 دلار به پنل وب دسترسی پیدا کنند یا افزونه کروم را نصب نمایند. این ابزار بلافاصله پس از نصب، پستهای شبکههای اصلی از جمله X، لینکدین، ساباستک، ردیت و مدیوم را برچسبزنی میکند. ویژگیهای کلیدی این اکوسیستم عبارتند از:
- امتیاز سلامت فید به صورت زنده
- تشخیص خودکار لایههای کمک هوش مصنوعی
- عدم نیاز به متادیتای اختصاصی یا واترمارک
چشمانداز آینده شفافیت دیجیتال
استانداردهای شفافیت محتوایی در فضای وب و مراجع تخصصی در حال عبور از مرحله اطلاعرسانی ساده به سمت الزامات قانونی و آکادمیک است. راهکارهای جدیدی مانند پنگرام، پل ارتباطی میان خلاقیت انسانی و ابزارهای اتوماتیک هستند و تعیین مرز باریک میان همکاری سازنده و تقلید سیستماتیک، به یک ضرورت اجتنابناپذیر برای هر تولیدکننده محتوا تبدیل شده است.
