غوغل تطلق أداة جديدة لكشف المحتوى المُنشأ بالذكاء الاصطناعي

في خطوة جديدة لمواجهة انتشار المحتوى المُنشأ بالذكاء الاصطناعي، أعلنت شركة غوغل مؤخرًا عن إطلاق أداة مبتكرة تحمل اسم "SynthID Detector"، والتي تهدف إلى الكشف عن مدى اعتماد المحتوى الرقمي على تقنيات الذكاء الاصطناعي التي طورتها غوغل نفسها. 

تأتي هذه الأداة ضمن جهود الشركة لتعزيز الشفافية وحماية المستخدمين من المعلومات المُزيفة أو المُصطنعة، خاصةً مع تزايد استخدام تقنيات التزييف العميق (Deepfake) وتنامي تأثيرها على الوسائط الرقمية.

وفقًا لما ورد في مدونة غوغل الرسمية، فإن "SynthID Detector" توفر وسيلة فعالة وسريعة لتحديد ما إذا كان المحتوى قد تم إنشاؤه جزئيًا أو كليًا باستخدام أدوات الذكاء الاصطناعي الخاصة بغوغل، وذلك سواء كان المحتوى عبارة عن نصوص مكتوبة، صور، مقاطع فيديو، أو ملفات صوتية. 

تعتمد هذه التقنية على تقنية "SynthID" للعلامات المائية، والتي طورتها شركة "غوغل ديب مايند"—إحدى الشركات التابعة لغوغل، حيث تتيح إمكانية وضع علامة مائية خفية غير مرئية بالعين البشرية، مما يجعل من السهل كشف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

كيفية عمل الأداة الجديدة؟
 

عند استخدام "SynthID Detector"، يمكن للمستخدمين ببساطة رفع ملف إلى المنصة، ليتم تحليله بواسطة الخوارزميات المتقدمة التي تبحث عن العلامات المائية الرقمية التي تضعها تقنية "SynthID" على المحتوى المُنشأ.

بمجرد اكتشاف العلامة المائية، يستطيع المستخدم معرفة ما إذا كان المحتوى يحمل بصمة الذكاء الاصطناعي من غوغل، مما يساعد المؤسسات والأفراد في التمييز بين المحتوى الأصلي والمحتوى المُنشأ إلكترونيًا.

سبب إطلاق الأداة وتأثيرها في السوق

جاء إطلاق "SynthID Detector" في وقت يشهد فيه العالم تزايدًا هائلًا في انتشار الوسائط المُنشأة بالذكاء الاصطناعي. 

ووفقًا لإحصائيات حديثة نشرها موقع TechCrunch المتخصص في أخبار التكنولوجيا، فإن معدل نمو مقاطع الفيديو المُنشأة بتقنية Deepfake ارتفع بنسبة 550% بين عامي 2019 و2024. 

كما أشارت صحيفة "ذا تايمز" إلى أن 4 من بين أكثر 20 منشورًا مشاهدة على منصة فيسبوك في الولايات المتحدة خلال خريف العام الماضي، كانت منشأة بالكامل بواسطة الذكاء الاصطناعي.

تحديات وقيود الأداة

بالرغم من التطور التقني الذي توفره أداة "SynthID Detector"، إلا أنها لا تزال تواجه بعض القيود، إذ إنها مخصصة للكشف عن المحتوى الذي تم إنشاؤه باستخدام أدوات الذكاء الاصطناعي التابعة لغوغل فقط. وهذا يعني أنها لن تكون فعالة في كشف المحتوى المُنشأ باستخدام الذكاء الاصطناعي من شركات أخرى مثل مايكروسوفت، ميتا، OpenAI، وغيرها من الشركات التي تمتلك تقنيات خاصة لوضع علامات مائية على المحتوى الذي تنتجه أنظمتها الذكية.

إضافةً إلى ذلك، تعترف غوغل بأن الأداة ليست مثالية بالكامل، حيث يمكن التحايل عليها في بعض الحالات، خصوصًا عندما يتعلق الأمر بالنصوص، نظرًا لوجود طرق عديدة يمكن بها تعديل أو إعادة صياغة المحتوى المصطنع لجعله يبدو أكثر أصالة.

مستقبل كشف المحتوى المُصطنع

مع التطور السريع لتقنيات الذكاء الاصطناعي، أصبحت الحاجة إلى أدوات كشف المحتوى المُنشأ رقميًا أكثر إلحاحًا من أي وقت مضى. وبينما تمثل "SynthID Detector" خطوة مهمة في تعزيز مصداقية المعلومات المتاحة عبر الإنترنت، فإن مستقبل هذه التقنيات سيعتمد على مدى قدرة الشركات الكبرى على تحسين أدوات الفحص وضمان دقة الكشف عن المحتوى المُصطنع.

في ظل هذه التحديات، يتوقع خبراء التكنولوجيا أن نشهد في المستقبل المزيد من الأدوات المتطورة التي تدمج الذكاء الاصطناعي في الكشف عن المحتوى الزائف، مع تحسين تقنيات العلامات المائية الرقمية لجعلها أكثر تعقيدًا وأقل قابلية للتحايل.