ممنوعیت‌ها، محتوای بی‌کیفیت هوش مصنوعی و چت‌بات‌های ستایشگر هیتلر؛ رسوایی‌های امسال شبکه‌های اجتماعی

با نزدیک شدن به پایان یک سال دیگر، بسیاری از ما خود را برای هجوم ریلزهای تاملی اینستاگرام، دستاوردهای فیلترشده و تصمیم‌هایی برای کمتر دوم‌اسکرول‌کردن آماده می‌کنیم.

در واقع، شبکه‌های اجتماعی همچنان نیرویی غالب در زندگی ماست؛ ابزاری برای سنجش موفقیت‌ها، ارتباط با دیگران و دنبال‌کردن خبرها و روندها. حتی زبان ما را دوباره شکل داده و بسیاری از واژه‌های سال ۲۰۲۵ در فرهنگ‌نامه‌ها از دل شبکه‌های اجتماعی آمده‌اند: rage bait، parasocial و AI slop، برای نمونه.

با اوج‌گیری هوش مصنوعی (AI) تغییر بزرگی در نحوه استفاده و نگاه مردم به شبکه‌های اجتماعی رخ داده‌است. افزایش اطلاعات نادرست باعث بی‌اعتمادی و نوعی دل‌زدگی شده که در الگوی استفاده از پلتفرم‌ها بازتاب دارد.

به‌گفته شرکت بازاریابی موتورهای جست‌وجو سمراش، هرچند فیس‌بوک همچنان محبوب‌ترین است، اپلیکیشن‌های مبتنی‌بر جامعه مانند ردیت و دیسکورد به رشد ادامه می‌دهند چون کاربران به‌دنبال فضاهای آنلاین معنادار، صمیمی و اصیل‌اند.

هم‌زمان، نهادهای ناظر همچنان می‌کوشند میان اینترنتِ باز و ایمنی آنلاین تعادل برقرار کنند و همین باعث شده ۲۰۲۵ به نقطه عطفی در شیوه فعالیت شرکت‌های شبکه‌های اجتماعی بدل شود.

از قوانین احراز سن تا جنجال‌های بزرگ پیرامون چت‌بات هوش مصنوعی گروکِ ایلان ماسک، در ادامه نگاهی نزدیک‌تر داریم به چند محور اصلی بحث در شبکه‌های اجتماعیِ امسال.

ممنوعیت شبکه‌های اجتماعی و حمایت از خردسالان

در ۱۰ دسامبر، استرالیا برای نخستین‌بار در جهان اقدامی بی‌سابقه را اجرا کرد: ممنوعیت استفاده از شبکه‌های اجتماعی برای افراد زیر ۱۶ سال. به این معنا که کودکان دیگر نمی‌توانند در پلتفرم‌هایی مانند اینستاگرام، اسنپ‌چت، تیک‌تاک، یوتیوب، ایکس و فیس‌بوک حساب داشته باشند و همه این پلتفرم‌ها در صورت نقض قانون با جریمه‌های سنگین روبه‌رو می‌شوند.

هرچند این تصمیم سخت‌گیرانه است اما بازتاب‌دهنده نگرانی‌های فزاینده درباره آسیب شبکه‌های اجتماعی به سلامت روان جوانان است. سازمان جهانی بهداشت (WHO) گزارش داده‌است که از هر ۱۰ نوجوان، یک نفر پیامدهای منفیِ ناشی از استفاده از آن را تجربه کرده‌است.

دانمارک نیز از آن زمان برنامه‌هایی را اعلام کرده تا همان مسیر را برود و پیشنهاد داده هر کسی زیر ۱۵ سال از دسترسی به شبکه‌های اجتماعی محروم شود مگر آن‌که والدین یک ارزیابی مشخص را پر کنند. کشورهای دیگری از جمله اسپانیا، یونان و فرانسه نیز خواستار اقدامات حفاظتی مشابه شده‌اند.

هم‌زمان، در چارچوب قانون ایمنی آنلاین بریتانیا در ژوئیه قوانین سختگیرانه احراز سن اجرایی شد که مانع دسترسی خردسالان به محتوای بزرگسالان یا هر آن‌چه ممکن است به رفتارهای خطرناک ترغیب کند می‌شود.

کارایی این قوانین تازه هنوز به‌طور کامل روشن نیست و برخی کارشناسان همچنان بدبین‌اند، اما همین حالا هم خبرهایی از راه‌های خلاقانه نوجوانان برای دورزدن مقررات می‌شنویم. بسیاری به‌جای آن به پیام‌رسان‌هایی مانند واتس‌اپ رو آورده‌اند یا حتی ماسک‌های تورمانند با ظاهرِ بزرگسالان می‌خرند تا سامانه‌های تشخیص چهره را فریب دهند.

AI slop، دیپ‌فیک و گسترش اطلاعات نادرست

سال ۲۰۲۵ سال سلطه AI slop بود. این اصطلاح به تصاویر و ویدئوهای جعلیِ ساخته‌شده با ابزارهای مولد هوش مصنوعی مثل سورایِ اوپن‌ای‌آی اشاره دارد و فیدهای شبکه‌های اجتماعی ما را با یاوه‌های کم‌زحمت پر کرده‌است؛ از توله‌سگ‌هایی که به رول‌های دارچینی تبدیل می‌شوند و گربه‌هایی که بازداشت می‌شوند تا میم‌های به‌طرز عجیبی محبوبِ ‘Italian brain rot’.

هرچند ظاهرا بی‌ضرر است، ارتباط با محتوای واقعیِ خلق‌شده توسط انسان‌ها را دشوارتر کرده‌است. در مواردی حتی به گسترش کلاه‌برداری‌ها و اطلاعات نادرست انجامیده، آن‌هم از سوی سیاستمداران. دونالد ترامپ، رئیس‌جمهور آمریکا، همچنان یکی از بدترین متخلفان در این زمینه است و حتی یک‌بار تصاویر تولیدشده با هوش مصنوعی را به اشتراک گذاشت که نشان می‌داد خواننده تیلور سویفت از او حمایت می‌کند.

از هوش مصنوعی برای افزایش تولید دیپ‌فیک‌ها هم استفاده شده‌است؛ ویدئوهایی که چهره، بدن یا صدای یک فرد را تقلید می‌کنند تا اطلاعات نادرست منتشر کنند. یکی از نمونه‌ها ویدئوی جعلی‌ای بود که در تیک‌تاک منتشر شد و زنی را در یک برنامه تلویزیونی نشان می‌داد که به تقلب در دریافت کمک‌های رفاهی اعتراف می‌کند؛ رسانه‌هایی مانند فاکس‌نیوز آن را به‌اشتباه پوشش دادند.

برای مقابله با این وضعیت، پلتفرم‌هایی مانند متا و تیک‌تاک برچسب‌گذاریِ هر محتوای تولیدشده با هوش مصنوعی را آغاز کرده‌اند. با این حال، مقیاس تولید چنین محتواهایی اجرای کامل این سیاست را دشوار کرده‌است و هیات نظارت داخلی متا در گزارشی در ژوئن اعلام کرد این برچسب‌گذاری «ناسازگار» است.

چت‌باتِ ایلان ماسک و نفرت‌پراکنی

بسیاری از پلتفرم‌های بزرگ شبکه‌های اجتماعی دستیارهای هوش مصنوعی را در خدمات خود ادغام کرده‌اند و برای تولید محتوا، جست‌وجوها و پاسخ‌گویی به درخواست‌های خدمات مشتری پشتیبانی خودکار ارائه می‌کنند. اما چت‌باتِ گروکِ ایلان ماسک بیشترین جنجال را در سال جاری رقم زده‌است.

گروک که محصول شرکت ایکس‌ای‌آیِ میلیاردر دنیای فناوری است، در ژوئیه خبرساز شد؛ به‌خاطر ستایش آدولف هیتلر و متهم‌کردن یک حساب ربات با نام خانوادگیِ یهودی به جشن‌گرفتنِ مرگِ کودکان سفیدپوست در سیل‌های مرکز تگزاس.

ماسک در آن زمان گفت: «این ابزار هوش مصنوعی بیش از حد مشتاقِ خوشایند بودن و دستکاری‌شدن است» و افزود که این مشکل «در حال رسیدگی» است. با این‌همه، گروک همچنان پاسخ‌های نگران‌کننده‌ای منتشر می‌کند، از جمله ضدیهودی نظریه‌های توطئه و توصیه‌هایی درباره نحوه تعقیب افراد.

مقررات سخت‌تر و پاسخ‌گویی الگوریتمی

مقررات‌گذاری سخت‌ترِ فضای آنلاین امسال شدت گرفت؛ قانون ایمنی آنلاین بریتانیا لازم‌الاجرا شد و از شرکت‌های شبکه‌های اجتماعی شفافیت و پاسخ‌گویی بیشتری خواست.

قانون خدمات دیجیتال اتحادیه اروپا (DSA) نیز نخستین جریمه خود را اعمال کرد و به ایکسِ ایلان ماسک ۱۲۰ میلیون یورو جریمه داد. سیاست تبلیغاتی این پلتفرم و تیک آبی‌ها (که زمانی نشان‌دهنده تایید حساب بودند و اکنون به هر کسی فروخته می‌شوند) به‌دلیل فقدان شفافیت، مغایر با قوانین اتحادیه اروپا تشخیص داده شد.

تیک‌تاک نیز در ماه مه از سوی کمیسیون حفاظت از داده‌های ایرلند (DPC) به پرداخت ۵۳۰ میلیون یورو محکوم شد، به‌دلیل ناتوانی در حفاظت از داده‌های شخصی کاربران اتحادیه اروپا هنگام انتقال به چین.

حجم عظیم داده‌ها (و قدرت) در اختیار پلتفرم‌های شبکه‌های اجتماعی، همراه با نگرانی‌های یادشده درباره پیامدهای بالقوه زیان‌بار آن‌ها، به این معناست که نظارت قانون‌گذاری احتمالا در سال ۲۰۲۶ بیش از پیش تشدید خواهد شد.