أداة للكشف عن المحتوى الذي تم تحريره باستخدام الذكاء الاصطناعي

في خطوة رائدة في مجال مكافحة المعلومات المضللة، أطلقت ديب مايند أداة "سينث أي دي تكست" التي تستخدم تقنية العلامات المائية غير المرئية لتمييز النصوص التي أنشأها الذكاء الاصطناعي. وقد أثبتت هذه الأداة فعاليتها في كشف المحتوى بعد اختبارها على قاعدة بيانات ضخمة تضم 20 مليون استفسار. وأعلنت غوغل أنها دمجت بالفعل نظام العلامات المائية الجديد SynthID-Text في روبوت الدردشة Gemini الخاص بها. كما قامت أيضاً بفتح مصدر الأداة وجعلتها متاحة للمطورين والشركات، مما يسمح لهم باستخدام الأداة لتحديد ما إذا كانت مخرجات النص قد جاءت من نماذج اللغة الكبيرة الخاصة بهم (LLMs)، وأنظمة الذكاء الاصطناعي التي تعمل على تشغيل روبوتات الدردشة. يأتي ذلك بعد أن كانت معطيات التحقق من المحتوى موضوعاً ساخناً خاصة بالنسبة للصور والفيديو لمكافحة ظاهرة التزييف العميق. ويمثل كشف مصدر النص معضلة أصعب بكثير، حيث يمكن تغيير النص بسهولة لإخفاء أو إزالة العلامة المائية من خلال إزالة التنسيق. يراد لهذه الأداة مواجهة طوفان المحتوى الذي تم توليده بالذكاء الاصطناعي من صور وفيديو ونصوص أصبحت تتسلل إلى كل شيء من موجز الأخبار والأوراق البحثية وحتى رسائل البريد الإلكتروني، مما يستدعي تطوير إجراءات وخطوات مضادة لها لكشف مصدر هذا المحتوى . وتقدم بعض الشركات خدمات لتحديد النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال تحليل المواد، بينما تقول شركات أخرى إن أدواتها ستجعل النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يبدو "بشرياً" وتجعل استخدام الذكاء الاصطناعي لتوليده غير قابل للاكتشاف. وتتوفر حالياً بعض الأدوات التي توفر خدمة كشف مصادر المحتوى المشتبه بتوليده بالذكاء الاصطناعي مثل كل من: TraceGPT وهي أداة للدقة والتحليل في النصوص. Winston AI لكشف مصدر الصور والنصوص. Hive أداة مجانية لكشف مصدر النصوص والصور. GPTZero قدرات لتحليل النص المكتوب ومصادره. Originality.ai أداة للكشف العام عن المحتوى. Smodin أداة برسوم مخفضة لكشف مصدر المحتوى.