آیا می‌توان نوشته‌های تولیدشده با هوشِ مصنوعی را شناسائی کرد؟

آیا می‌توان نوشته‌های تولیدشده با هوشِ مصنوعی را شناسائی کرد؟
پژوهشگر: هاسّه-نیما گُلکار

بر پایه‌ی گزارش‌های منتشرشده، شرکت «اوپن‌ای‌آی» در ۵ اُکتبر ۲۰۲۶ اعلام کرد که به‌تدریج از روشی برای نشانه‌گذاریِ نامرئی متن‌های تولیدشده با ChatGPT و Codex در اتحادیه‌ی اروپا استفاده خواهد کرد. این فناوری که «تِکست‌گرِین» (textGrain) نام دارد، با ایجاد الگوئی آماری در انتخاب واژه‌ها، امکان شناسائی ماشینی برخی متن‌ها را فراهم می‌کند.

امّا پُرسش اساسی این است: آیا نوشته‌ها و ترجمه‌هائی که تمامن یا بخشی از آن‌ها با کومک هوش مصنوعی تهیه شده‌اند، پس از انتشار در وِب‌سایت‌ها و شبکه‌های اجتماعی برای مخاطبانِ عادی قابل‌شناسائی خواهند بود؟

پاسخ کوتاه این است: گاهی بَله، امّا نَه همیشه و نَه با اطمینانِ کامل.

ابزارهای موسوم به «AI Detector» با بررسیِ سبکِ نوشتار، انتخابِ واژه‌ها و ساختارِ جُملات، احتمالِ استفاده از هوش مصنوعی را تخمین می‌زَنند؛ اما ممکن است نوشته‌های انسانی را نیز به‌اشتباه تولیدشده با هوش مصنوعی تشخیص دهند.

روش دیگری به نام «برچسب نامرئی»(واتِرمارک) می‌تواند اُلگوئی فنّی در متن ایجاد کُند که اَبزارهای تخصُصی قادر به شناسائی آن باشند. بااین‌حال، این روش نیز محدودیّت‌هائی دارد و وجودِ واترمارک لزومَن به معنای آن نیست که تمامِ متن را هوش مصنوعی نوشته است.

در مورد ترجمه‌ها نیز باید دقّت نمود: ترجمه‌ی یک متن انسانی با یاریِ هوش مصنوعی، با تولیدِ یک متن از اِبتدا تفاوت دارد. همچنین، متن نهائی به‌تنهائی همیشه نشان نمی‌دهد که انسان و هوش مصنوعی هرکدام چه سهمی در تهیّه‌ی آن داشته‌اند.

نتیجه: نه می‌توان گفت همه‌ی متن‌های تولیدشده با هوش مصنوعی قابل‌شناسائی‌اند و نه می‌توان گفت شناسائی آن‌ها نامُمکن است. برای داوریِ مُنصفانه، باید به شواهدِ فنیِ مُعتبر تکیه کرد، نه صِرفن به سبکِ نوشتار یا نتیجه‌ی یک ابزارِ تشخیص.


Source: anarchist front

Laisser un commentaire