کارشناسان هدف از انتشار شمار زیادی ویدئو از اعتراضها در سراسر اروپا در تیکتاک که با هوش مصنوعی تولید شدهاند را «تشدید قطبیشدن جامعه» عنوان کردند.
مجموعهای از ویدئوهای تولیدشده با هوش مصنوعی که هزاران نفر را در شهرهای مختلف اروپا در حال اعتراض به مهاجرت، وضعیت کشور، دولت کنونی یا در حمایت از ارزشهای ملیگرایانه نشان میدهند، در تیکتاک دستبهدست میشوند.
آگهی
آگهی
این ویدئوها طی چهار ماه گذشته منتشر شدهاند که برخی از آنها بیش از ۳۰۰ هزار بازدید داشتهاند.
تیم راستیآزمایی یورونیوز، «کیوب»، این نوع محتوا را در میان کاربران پرتغال، فرانسه، آلمان، ایرلند، ایتالیا و بریتانیا شناسایی کرده است که به نظر میرسد بسیاری از کاربران آنچه را در این ویدئوها میبینند، باور کردهاند.
با این حال، هیچیک از اعتراضاتی که در این ویدئوها به تصویر کشیده شدهاند، واقعی نیستند؛ هرچند سازندگان آنها از روشهایی استفاده کردهاند که کاربران را به واقعیبودنشان متقاعد کنند.
در وهله نخست، بسیاری از این ویدئوها خود را به شکل گزارشهای رسانههای خبری معتبر نشان میدهند.
برای مثال، در یکی از ویدئوها ظاهراً یک خبرنگار پرتغالی دیده میشود که برای رسانه دولتی RTP کار میکند، برداشتی که از نشان روی میکروفون او ایجاد میشود. همچنین طراحی فضای ویدئو شباهت زیادی به طراحی صحنه شبکه خصوصی پرتغالی SIC Notícias دارند.
در هر حال، محل فیلمبرداری در این ویدئو نیز اشتباه است. در واقعیت، رودخانه تاگوس از همان جایی میگذرد که در این ویدئو، ساختمانی محل ایستادن خبرنگار به تصویر کشیده شده است.
تیم راستیآزمایی یورونیوز با RTP تماس گرفت و این رسانه به آنها گفت خبرنگاری که در ویدئوی تولیدشده با هوش مصنوعی دیده میشود، برای RTP کار نمیکند و این شبکه هیچ ارتباطی با ویدئوی منتشرشده در تیکتاک ندارد.
با وجود مبهمبودن دلایل مطرحشده برای این اعتراضات، مانند اعتراض به «وضعیت کشور»، برخی پیامهای موجود در ویدئوها با احزاب راست افراطی ارتباط دارند. برای نمونه، در شماری از ویدئوهای آلمانی که کیوب مشاهده کرده است، زیرنویسهایی در حمایت از حزب آلترناتیو برای آلمان دیده میشود.
برخی ویدئوها همچنین حاوی نظرات کاربران تیکتاک نیز هستند که این احزاب را مورد خطاب قرار میدهند و از آنها میخواهند برای حل مسائلی مانند مهاجرت وارد عمل شوند. از جمله چهرهها و احزابی که در این پیامها مورد خطاب قرار گرفتهاند آندره ونتورا از حزب راست افراطی پرتغالی «شگا»، حزب اجتماع ملی فرانسه، و آلیس وایدل از حزب آلترناتیو برای آلمان هستند.
بیشتر این ویدئوها با درخواست از مخاطبان برای تعامل با محتوای آنها و بیان نظراتشان درباره اعتراضات و همچنین نام شهری که از آنجا ویدئو را تماشا میکنند، پایان مییابند.
کارشناسان بر این نظرند که هدف اصلی تولید انبوه این نوع ویدئوها، تشویش اذهان عمومی و تشدید قطبیشدن جامعه در سراسر اروپا است، موضوعی که خطرات جدی برای گفتوگوی دموکراتیک ایجاد میکند.
برونا مارتینز دوس سانتوس از سازمان جهانی «WITNESS»، سازمانی که تأثیر فناوریهای نوظهور، بهویژه هوش مصنوعی مولد و دیپفیکها را بررسی میکند، به کیوب گفت: «مخاطبان عمدتاً به این دلیل به ویدئوها جذب میشوند که تصاویر جعلی مستقیماً بر نگرانیهای سیاسی و نارضایتیهای فرهنگیِ که از پیش وجود داشتهاند، اثر میگذارند.»
شگردهای آشنا
همه این ویدئوها از سه تکنیک رایج اطلاعات نادرست، یعنی زبان احساسی، محتوای تولیدشده با هوش مصنوعی و قطبیسازی، استفاده میکنند.
به گفته مارتینز دوس سانتوس، بیشتر این تاکتیکها برای جذب کاربران و تعامل با آنها به کار میروند. بنا به گفته او، «موضوعاتی مانند مهاجرت، ملیگرایی و افول اجتماعی واکنشهای احساسی شدیدی ایجاد میکنند.»
او در ادامه گفت: «این تأثیر بهویژه در پلتفرمهای ویدئوهای کوتاه که تأثیر بصری و برانگیختن احساسات مقدم بر متن و محتوا است، پررنگتر میشود، موضوعی که باعث میشوند بینندگان تا مدتها پیش از زیر سؤال بردن اصالت محتوا، تحت تأثیر صحنه فیلم مانند تعداد جمعیت، پرچمها و شعارها قرار گیرند.»
علاوه بر این، الگوریتمهای پیشنهاددهی شبکههای اجتماعی با نمایش محتوای بصری تحریکآمیز به کاربرانی که احتمال بیشتری دارد با آن همذاتپنداری کنند، این روند را تقویت میکنند.
مارتینز دوس سانتوس گفت استفاده از هوش مصنوعی برای تولید این محتواها باعث میشود تولید آن ارزان و مقیاسپذیر باشد و در ادامه بتواند بازدیدها، تعداد دنبالکنندگان و میزان تعامل کاربران را افزایش دهد.
چرا چنین محتواهایی در دسترس است؟
تیکتاک این ویدئوها را با برچسب «تولیدشده با هوش مصنوعی» مشخص کرده است. این پلتفرم میگوید محتوای تولیدشده با هوش مصنوعی را که درباره «موضوعات مهم عمومی گمراهکننده» باشد یا دستورالعملهای مربوط به اطلاعات نادرست را نقض کند، ممنوع میکند.
تیکتاک حتی در این زمینه فراتر میرود و اعلام میکند: «محتوای بدون برچسب، بسته به آسیبی که ممکن است ایجاد کند، میتواند توسط تیم ما حذف، محدود یا برچسبگذاری شود.»
با این حال، به نظر میرسد برخی ویدئوها از این فرایند عبور میکنند.
مارتینز دوس سانتوس گفت: «اینکه این ویدئوها همچنان آنلاین باقی میمانند، ممکن است هم به معنای نقض قوانین خود تیکتاک باشد، و هم ضعف ظرفیت ابزارهای تشخیص این پلتفرم را نشان دهد.»
علاوه بر این، طبق قانون خدمات دیجیتال اتحادیه اروپا، پلتفرمها موظفاند اقدامات مؤثری علیه محتوایی انجام دهند که میتواند بر «گفتوگوی مدنی و فرایندهای انتخاباتی» تأثیر منفی بگذارد.
سانتوس گفت: «اگرچه ادامه انتشار این ویدئوها در فضای آنلاین بهطور خودکار به معنای نقض قوانین نیست، اما پرسشهای مهمی درباره اثربخشی سازوکارهای تشخیص، استانداردهای برچسبگذاری و الگوریتمهای پیشنهاددهی تیکتاک ایجاد میکند.»
تیکتاک در زمان انتشار این گزارش، بلافاصله به درخواست برای اظهارنظر پاسخ نداد.
اروپا در هفتههای گذشته شاهد اعتراضات بوده است
اگرچه ویدئوهای تولیدشده با هوش مصنوعی، اعتراضات ساختگی را به تصویر میکشند که درواقع رخ ندادهاند، اما در ماههای گذشته، اعتراضات گستردهای در سراسر اروپا و در واکنش به مسائل مختلف برگزار شده است.
شاید یکی از مهمترین این موارد، اعتراضات در اسپانیا در واکنش به بحران سئوتا است، بحرانی که طی آن تخمین زده میشود حدود ۸۰ هزار نفر از مرز این کشور با مراکش عبور کردهاند.
از آن زمان، بیشتر مهاجران به محل پیشین خود بازگشتهاند، اما برآوردها حاکی از آن است که ممکن است هنوز تا ۱۳ هزار نفر از آنها در سئوتا مانده باشند. این مساله باعث برگزاری اعتراضاتی در واکنش به نحوه مدیریت دولت اسپانیا در خصوص این بحران شد.
همچنین پس از پیروزی حزب آلترناتیو برای آلمان در انتخابات ایالتی این کشور در اوایل سپتامبر، اعتراضاتی در مخالفت با این حزب شکل گرفت.
از سوی دیگر، در سوئیس نیز بهتازگی هزاران نفر برای اعتراض به بیتوجهی دولت به گرمایش جهانی به خیابانها آمدند.