Deepfake هي تقنية وسائط جديدة حيث يأخذ الشخص نصًا أو صورة أو فيديو أو صوتًا موجودًا ثم يتلاعب بها ، أي "تزويرها" لتبدو وكأنها شخص آخر باستخدام الذكاء الاصطناعي المتقدم (AI) وتقنية الشبكة العصبية (NN)
بعد ظهورها لأول مرة قبل بضع سنوات ، تطورت تقنية التزييف العميق من خداع مهوس تقني غير ضار إلى سلاح افتراء خبيث. في هذه المقالة ، سنرى بالضبط ما هي تقنية التزييف العميق المخيفة هذه ، وكيف تعمل ، وما هي الأشكال المختلفة التي تأتي بها ، وكيف يمكننا اكتشاف أو كشف التزييف العميق.
ما هو التزييف العميق؟
الديب فيك هي إحدى الكلمات الطنانة في تكنولوجيا الوسائط حيث يأخذ الشخص نصًا أو صورة أو فيديو أو صوتًا موجودًا ثم يتلاعب بها.
هل تريد وضع كلمات مسيئة في فم خصمك؟ أو تبادل بطل الفيلم مع نجم هوليوود المفضل لديك؟ أم أنك تريد فقط أن تجعل نفسك ترقص مثل مايكل جاكسون؟ ثم deepfake هو ما تحتاجه!
محتوى Deepfake ينمو بشكل كبير. لسوء الحظ ، تم بالفعل استخدام تقنية deepfake بشكل متكرر لكسب الأميال السياسية ، أو لتشويه صورة المنافس ، أو لارتكاب عمليات احتيال مالي.
دعنا الآن نلقي نظرة على الأنواع الرئيسية الثلاثة من التزييف العميق واستكشاف علم البيانات الذي يسمح لهم بالعمل. سنركز أيضًا على تقنيات اكتشاف التزييف العميق التي يعمل عليها الباحثون ومستشارو الأمن للحد من الاستخدام الضار لملفات التزييف العميق.
نص Deepfake
في الأيام الأولى للذكاء الاصطناعي (AI) ومعالجة اللغة الطبيعية (NLP) ، كان يُفترض أنه سيكون من الصعب على الآلة القيام بنشاط إبداعي مثل الرسم أو الكتابة. تقديم سريع حتى عام 2020 ؛ من خلال النماذج والمكتبات اللغوية القوية التي تم بناؤها على مر السنين من خلال العمل المتزايد للباحثين والمتخصصين في علوم البيانات ، يمكن الآن كتابة النثر الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بأعلى درجات التماسك والتماسك البشري.
Deepfakes على وسائل التواصل الاجتماعي
جنبًا إلى جنب مع كتابة القصص أو المدونات ، يمكن أيضًا الاستفادة من تقنية deepfake لإنشاء ملف تعريف مزيف عبر الإنترنت يصعب على المستخدم العادي تمييزه. على سبيل المثال ، كان صحفي بلومبيرج (غير موجود) يحمل اسم مايسي كينسلي على مواقع التواصل الاجتماعي مثل لينكد إن وتويتر مزيفًا بشكل معقول. بدت صورة ملفها الشخصي غريبة ، وربما تم إنشاؤها بواسطة الكمبيوتر. ربما تم إنشاء الملف الشخصي لتحقيق منفعة مالية ، حيث حاول ملف Maisy Kinsley مرارًا وتكرارًا التواصل مع البائعين على المكشوف لأسهم Tesla على وسائل التواصل الاجتماعي. البائعون على المكشوف هم الأشخاص الذين يتجهون نحو الانخفاض في سوق الأسهم ويقومون ببيع الأسهم مع الاقتناع بأن سعر السهم سينخفض ثم يشترون الأسهم بسعر أقل ، مما يحقق ربحًا جيدًا بشكل فعال.
تم العثور على ملف تعريف آخر باسم كاتي جونز ، والذي من المفترض أنه ذكر العمل في مركز الدراسات الاستراتيجية والدولية ، ليكون مزيفًا عميقًا تم إنشاؤه بقصد التجسس.
Deepfake بالصوت
لا تقتصر قوة الذكاء الاصطناعي والشبكات العصبية على النصوص والصور والفيديو فقط. يمكنهم استنساخ صوت الشخص بنفس السهولة. كل ما هو مطلوب هو مجموعة بيانات للتسجيل الصوتي لشخص يحتاج صوته إلى محاكاة. ستتعلم خوارزميات Deepfake من مجموعة البيانات هذه وتصبح مخوَّلة لإعادة إنشاء عرض خطاب الشخص المستهدف.
يتم إطلاق البرامج التجارية في السوق مثل Lyrebird و Deep Voice ، حيث تحتاج إلى التحدث ببضع جمل فقط قبل أن يعتاد الذكاء الاصطناعي على صوتك ونغماتك. كلما قمت بتغذية المزيد من الصوت لنفسك ، يصبح هذا البرنامج قويًا بما يكفي لاستنساخ صوتك. بعد إدخال مجموعة بيانات عينات الصوت الخاصة بك ، يمكنك فقط إعطاء جملة أو فقرة وسيقوم برنامج التزييف العميق هذا بسرد النص بصوتك!
كيف يتم إنتاج فيديو deepfake؟
تستخدم خدعة الفيديو هذه تقنية تسمى شبكة الخصومة التوليدية (GAN). GAN هي جزء من فرع التعلم الآلي يسمى الشبكات العصبية. تم تصميم هذه الشبكات لمحاكاة العمليات العصبية للدماغ البشري. يمكن للمبرمجين تدريب الشبكات العصبية للتعرف على مهمة معينة أو معالجتها.
في GAN المستخدمة لتوليد deepfake ، يتم وضع شبكتين عصبيتين ضد بعضهما البعض لتوليد مخرجات واقعية. الغرض من القيام بذلك هو التأكد من أن الصور المزيفة يتم إنشاؤها لتبدو حقيقية قدر الإمكان. يكمن جوهر GAN في التنافس بين الشبكتين العصبيتين. في GAN ، يحاول مزور الصورة وكاشف التزوير مرارًا وتكرارًا التفوق على بعضهما البعض. يتم تدريب كل من الشبكات العصبية باستخدام نفس مجموعة البيانات.
تسمى الشبكة الأولى المولد ، وتتمثل مهمتها في إنشاء صورة مزورة باستخدام ناقلات ضوضاء (قائمة بالأرقام العشوائية) تبدو واقعية قدر الإمكان. الشبكة الثانية ، تسمى أداة التمييز ، تحدد صحة الصور المولدة. يقارن الصورة المزورة التي تم إنشاؤها بواسطة المولد مع الصور الأصلية في مجموعة البيانات لتحديد الصور الحقيقية والمزيفة. على أساس هذه النتائج ، يغير المولد المعلمة لتوليد الصور. تستمر هذه الدورة حتى يفشل المُميِّز في التأكد من أن الصورة المُنشأة مزيفة ، والتي تُستخدم بعد ذلك في الإخراج النهائي. هذا هو السبب في أن تقنية التزييف العميق تبدو حقيقية بشكل مخيف.
كشف التزييف النصي
طور باحثون من معهد ألين للذكاء الاصطناعي أداة برمجية تسمى Grover لاكتشاف المحتوى التركيبي المتداول على الإنترنت. يدعي الباحثون أن هذا البرنامج قادر على اكتشاف المقالات المكتوبة بطريقة التزييف العميق 92٪ من الوقت. يعمل Grover على مجموعة اختبار تم تجميعها من Common Crawl ، وهو أرشيف ويب مفتوح المصدر وزاحف. وبالمثل ، اجتمع فريق من العلماء من جامعة هارفارد ومختبر MIT-IBM Watson معًا لتصميم Giant Language Model Test Room ، وهي أداة ويب تسعى إلى تمييز ما إذا كان النص الذي تم إدخاله قد تم إنشاؤه بواسطة AI.
Deepfake هي تقنية وسائط جديدة حيث يأخذ الشخص نصًا أو صورة أو فيديو أو صوتًا موجودًا ثم يتلاعب بها ، أي "تزويرها" لتبدو وكأنها شخص آخر باستخدام الذكاء الاصطناعي المتقدم (AI) وتقنية الشبكة العصبية (NN)
الكشف عن فيديوهات التزييف العميق
يعمل خبراء الطب الشرعي في جميع أنحاء العالم بجد للتوصل إلى طرق وأدوات لتحديد التزييف العميق ، حيث أصبحوا مقنعين أكثر فأكثر كل يوم.
مع وصول أدوات التعلم الآلي إلى الجماهير ، أصبح من السهل جدًا إنشاء مقاطع فيديو مزيفة مقنعة يمكن استخدامها لنشر الأخبار التي تحركها الدعاية أو لمضايقة فرد مستهدف.
أصدرت وزارة الدفاع الأمريكية (DARPA) أداة للكشف عن التزييف العميق تسمى Media Forensics. في الأصل ، تم تطوير البرنامج لأتمتة أدوات الطب الشرعي الحالية ، ولكن مع ظهور تقنية التزييف العميق ، فقد استخدموا الذكاء الاصطناعي لمواجهة التزييف العميق الذي يحركه الذكاء الاصطناعي.
الكشف عن الصوت التزييف العميق
في الوقت الحالي ، لا تتوفر العديد من أدوات التزييف العميق المخصصة للصوت ، لكن المطورين وشركات الأمن السيبراني يعملون في هذا المجال للتوصل إلى حلول وقائية أفضل في هذا الصدد.
على سبيل المثال ، في العام الماضي ، طور المطورون في شركة التقنية الناشئة "ريسيمبل" أداة مفتوحة المصدر تسمى "ريسيمبليزر" للكشف عن مقاطع الصوت المزيفة. يستخدم Resemblyzer خوارزميات متقدمة للتعلم الآلي لاشتقاق تمثيلات حسابية لعينات الصوت للتنبؤ بما إذا كانت حقيقية أم مزيفة. عندما يرسل المستخدم ملفًا صوتيًا للتقييم ، فإنه يولد تمثيلًا رياضيًا يلخص الخصائص الصوت المقدمة. من خلال هذا التحويل ، يصبح من الممكن للآلة اكتشاف ما إذا كان الصوت حقيقيًا أم مصطنعًا بواسطة أدوات التزييف العميق.
