مع الانتشار المتسارع لتقنيات الذكاء الاصطناعي واعتماد ملايين المستخدمين على هذه الأدوات في الكتابة، والتحليل، وإنشاء المحتوى الرقمي، يتزايد الاهتمام بأدوات كشف المحتوى المولّد بالذكاء الاصطناعي، التي يفترض أن تميز بين ما يكتبه الإنسان وما تنتجه الآلات.
لكن التقارير الحديثة تشير إلى أن موثوقية هذه الأدوات ما تزال محدودة، وسط حوادث أثارت الجدل في مؤسسات حكومية وتعليمية حول العالم.
وقد واجهت شركات وهيئات رسمية تحديات حقيقية بسبب أخطاء نتجت عن الاعتماد غير المدروس على الذكاء الاصطناعي، من بينها حادثة شركة Deloitte التي دفعت مبالغ للحكومة الأسترالية بعد إدراج معلومات خاطئة في تقرير رسمي، إضافة إلى محامٍ أسترالي خضع لإجراءات تأديبية لاستخدامه استشهادات قانونية وهمية ولّدها الذكاء الاصطناعي. كما عبّرت جامعات عدة عن قلقها المتزايد من لجوء الطلاب إلى استخدام الأدوات التوليدية لإنجاز أبحاثهم.
كيف تعمل أدوات الكشف؟
تنقسم تقنيات الكشف بحسب نوع المحتوى إلى :
- كشف النصوص: تعتمد على اكتشاف الأنماط الكتابية المتكررة والمفردات الشائعة في النصوص المولّدة، إلا أن تطور النماذج يجعل اكتشافها أكثر صعوبة، ويقلل من دقة التحليل بمرور الوقت.
- كشف الصور: تستند بعض الأدوات إلى تحليل البيانات الوصفية أو مقارنة الصور بقواعد بيانات خاصة بالصور المزيفة والمولدة آليًا.
- العلامات المائية الخفية: طوّرت شركات مثل جوجل أدوات داخلية مثل SynthID لاكتشاف الصور التي تنشئها نماذجها الخاصة، لكن هذه التقنيات غير متاحة للعامة ولا تعمل مع المحتوى المنتج عبر أدوات أخرى.
هل هذه الأدوات فعّالة؟
تشير الاختبارات إلى أن فعالية أدوات الكشف تتفاوت بشكل كبير، وتعتمد على عدة عناصر، منها الأداة التي أنشأت المحتوى، والتعديلات التي يخضع لها النص أو الصورة، وجودة البيانات التي دُرّبت عليها أنظمة الكشف. كما يمكن خداع بعض الأدوات بسهولة عبر إضافة ضوضاء للصور أو تعديل صياغة النصوص.
وبينما تقدم هذه الأدوات “نسب ثقة” لتقييم المحتوى، إلا أنها غالبًا لا تشرح أسباب الحكم، ما يزيد من الجدل حول شفافيتها. ومع ظهور محتوى جديد لم تُدرّب النماذج على أمثاله، ينخفض الأداء بشكل ملحوظ، خاصة في مجال كشف التزييف العميق (Deepfake).
ورغم أهميتها، قد تتسبب هذه الأدوات في أخطاء خطيرة، مثل اتهام طلاب بالغش أو الاعتقاد بأن رسائل بريد إلكتروني حقيقية صادرة عن شخص ما هي في الواقع مولّدة آليًا، ما يظهر أنّ الاعتماد الكلي عليها ما يزال بعيدًا عن الدقة المطلوبة.
ورغم أن أدوات الكشف عن المحتوى المولّد بالذكاء الاصطناعي أصبحت ضرورة في العصر الرقمي، إلا أنها لا تزال في مرحلة تحتاج إلى تطوير أعمق، ولا يمكن اعتبار نتائجها حاسمة أو موثوقة بشكل كامل حتى الآن.