ویدئوی کودتا در فرانسه پس از انتشار در فیسبوک، در مدت کوتاهی بیش از ۱۲ میلیون بازدید جذب کرد. امانوئل ماکرون، رئیسجمهوری فرانسه، زمانی از خبر جعلی برکناریاش باخبر شد که پیام نگرانکنندهای به همراه لینک این ویدئو دریافت کرد.
آقای ماکرون در گفتوگو با روزنامه محلی لا پرووانس در روز ۱۶ دسامبر گفت: «روز یکشنبه (۱۴ دسامبر) یکی از همتایان آفریقاییام برایم پیامی با این مضمون ارسال کرد: «رئیسجمهور عزیز، چه اتفاقی برایتان افتاده؟ خیلی نگرانم.»
در کنار این پیام، ویدئویی به ظاهر قانعکننده ارسال شده بود که صحنههایی از پرواز یک بالگرد، نیروهای نظامی، تجمع مردم و آنگونه که به نظر میرسید، یک گوینده خبر را در حال ارائه گزارش مقابل دوربین نشان میداد.
در این ویدئو، گوینده میگوید: «گزارشهای غیررسمی حاکی از وقوع کودتا در فرانسه است؛ کودتایی که گفته میشود به رهبری یک نظامی ارشد ناشناس انجام شده و احتمال سقوط حکومت امانوئل ماکرون را افزایش داده است. با این حال، مقامهای رسمی تاکنون حاضر به ارائه اطلاعات شفاف در این خصوص نشدهاند.»
اما هیچیک از این تصاویر واقعی نبود؛ این ویدیو بهطور کامل با هوش مصنوعی ساخته شده بود.
پس از آگاهی از انتشار این ویدئوی جعلی، آقای ماکرون از «فاروس»، سامانه رسمی فرانسه برای گزارش محتوای غیرقانونی آنلاین، خواست با شرکت متا، مالک شبکه اجتماعی فیسبوک، تماس بگیرد تا ویدئو حذف شود. اما این درخواست رد شد، چرا که پلتفرم اعلام کرد این محتوا ناقض «قوانین استفاده» از آن نیست.
در پی این پاسخ، رئیسجمهوری فرانسه تصمیم گرفت شخصا برای حذف ویدئو وارد عمل شود. او گفت: «فکر میکنم قدرت فشار بیشتری نسبت به دیگران دارم؛ یا دستکم وقتی خودم تماس میگیرم، جدیتر به نظر میرسد. اما حتی این هم کارساز نبود.»
آقای ماکرون افزود: «این افراد ما را مسخره میکنند. برای آرامش فضای عمومی اهمیتی قائل نیستند، به دموکراسی بیاعتنا هستند و در نتیجه، ما را در معرض خطر قرار میدهند.»
چه کسانی پشت این ویدئوهای جعلی هستند؟
این ویدئو که بهسرعت بیش از ۱۲ میلیون بار دیده شد، ابتدا توسط یک حساب کاربری فیسبوکی به نام «اسلام» (Islam) منتشر شده بود؛ حسابی که با وجود نامش، هیچ محتوای مذهبی منتشر نمیکند.
مدیر این حساب کاربری یک نوجوان ساکن بورکینافاسو است که از طریق برگزاری دورههای آموزشی درباره کسب درآمد از هوش مصنوعی درآمدزایی میکند.
او بیش از یک هفته پس از انتشار اولیه و در پی جنجالهای سیاسی و واکنشهای عمومی، سرانجام ویدئو را حذف کرد.
تیم راستیآزمایی یورونیوز، موسوم به کیوب (The Cube_)_، بارها تلاش کرد از طریق شماره درجشده در حساب فیسبوک او با این فرد تماس بگیرد، اما تاکنون هیچ پاسخی دریافت نکرده است.
در برخی از این ویدئوها، گویندگان خبری تولیدشده با هوش مصنوعی دیده میشوند که میکروفونی با نشان «رادیو بینالمللی فرانسه» (RFI) در دست دارند؛ رسانهای که بازوی بینالمللی رادیوی دولتی فرانسه محسوب میشود.
برخی از ویدئوها نیز دارای نشان «Sora» هستند؛ موضوعی که نشان میدهد احتمالا بخش قابلتوجهی از این محتوا با استفاده از این فناوری تولید شده است.
Sora 2، فناوریای توسعهیافته توسط شرکت اوپنایآی (OpenAI) همان شرکتی که «چتجیپیتی» را نیز عرضه کرده، به کاربران امکان میدهد تا با وارد کردن متن، ویدیوهای فوقواقعگرای ۱۰ ثانیهای تولید کنند.
هرچند برخی دیگر از ویدئوها این نشان را ندارند، اما حذف واترمارک (نشان شناسایی) در مرحله پستولید امکانپذیر است.
این فناوری که از ماه اکتبر عرضه شده، جنجالهای زیادی برانگیخته و به گسترش ویدیوهای بسیار پیشرفته و بهسختی قابل تشخیصِ تولیدشده با هوش مصنوعی در شبکههای اجتماعی دامن زده است.