قابلیت «تشخیص شباهت» شرکت شبکههای اجتماعی برای سیاستمدارانی طراحی شده است که با سیل اطلاعات نادرست در فضای آنلاین روبهرو هستند.
پلتفرم تیکتاک روز جمعه اعلام کرد که شروع به عرضه تدریجی یک قابلیت اختیاری با نام «تشخیص شباهت» کرده است تا به تولیدکنندگان محتوا کمک کند محتوای تولیدشده با هوش مصنوعی را که از چهره یا شباهت آنها استفاده میکند پیدا و علامتگذاری کنند؛ اقدامی که بخشی از تلاش این شرکت برای مقابله با اطلاعات نادرست تولیدشده با هوش مصنوعی است.
این ابزار با هدف کمک به چهرههای عمومی، از جمله اعضای دولت، سیاستمداران و حسابهای وابسته به احزاب سیاسی طراحی شده است تا بتوانند محتوای تولیدشده با هوش مصنوعی را که بدون رضایت از تصویر آنها استفاده میکند شناسایی و گزارش کنند.
این اقدام در زمانی انجام میشود که اروپا هماکنون با موجی از کارزارهای اطلاعات نادرست و دیپفیک مبتنی بر هوش مصنوعی روبهرو است که روندهای انتخاباتی آن را مختل کردهاند و با توجه به برگزاری انتخابات در ۹ کشور اروپایی دیگر در دوازده ماه آینده، این ابزار میتواند نقش تعیینکنندهای داشته باشد.
کاربران واجد شرایط میتوانند با تأیید هویت خود از طریق یک شریک شخص ثالث مورد اعتماد، برای استفاده از این قابلیت ثبتنام کنند. پس از آن هر زمان که محتوایی یا حسابی در تیکتاک احتمالا از چهره آنها استفاده کند، به آنها اطلاع داده میشود و میتوانند این موارد را در خود ابزار بررسی کنند.
کاربران سپس میتوانند محتوا را مستقیما برای بررسی و اقدام به تیمهای ایمنی تیکتاک گزارش دهند.
اتحادیه اروپا روز ۲ اوت شروع به اجرای تدریجی قواعد شفافیت در حوزه هوش مصنوعی ذیل قانون هوش مصنوعی (AI Act) کرد؛ قواعدی که از جمله شامل الزام برچسبگذاری دیپفیکها و سایر محتوای تولیدشده با هوش مصنوعی است.
تیکتاک در سالهای اخیر تلاشهایی برای محدود کردن دیپفیکها انجام داده است؛ از جمله ملزم کردن تولیدکنندگان محتوا به برچسبگذاری تصاویر، صداها و ویدئوهای واقعگرایانه تولیدشده با هوش مصنوعی، مطابق با الزامات همین قانون هوش مصنوعی.
شناسایی محتوای تولیدشده با هوش مصنوعی
این شرکت همچنین یک ابزار شفافیت تازه راهاندازی کرده است تا کاربران بتوانند بررسی کنند آیا یک محتوا با ابزارهای ساخت و ویرایش همین شبکه اجتماعی تولید یا ویرایش شده است یا نه.
تیکتاک اعلام کرده است که ابزار «شناسایی محتوای تولیدشده با هوش مصنوعی (منبع به زبان انگلیسی)» برای همه رایگان است و حتی افرادی که حساب کاربری در این پلتفرم ندارند نیز میتوانند از آن استفاده کنند.
این پلتفرم به کاربران اجازه میدهد یک تصویر یا ویدئو را بارگذاری کنند تا بررسی شود آیا آن محتوا با ابزارهای هوش مصنوعی خود تیکتاک یا برنامههای شرکت مادر بایتدنس (ByteDance) از جمله کپکات (CapCut)، دریمینا، هایپیک و پیپیت تولید یا ویرایش شده است یا نه.
این ابزار از طیف گستردهای از قالبها، از جمله قالبهای رایج مانند JPEG، PNG و MP4 پشتیبانی میکند و محدودیت حجم فایل آن برای هر تصویر ۲۰ مگابایت و برای هر ویدئو یا فایل صوتی ۱۰۰ مگابایت است.
ابزار یادشده دو نشانه را برای تشخیص تولیدشده بودن محتوا با هوش مصنوعی بررسی میکند: اطلاعات و گواهیهای موجود در فرادادهای که توسط برنامههای تیکتاک و بایتدنس به محتوا افزوده میشود و نیز واترمارکهای نامرئیای که به طور مستقیم در خود محتوا جاسازی شدهاند و حذف آنها دشوارتر است.
این شرکت اعلام کرده است که همه محتواها بلافاصله پس از بارگذاری و بررسی، حذف میشوند و هرگز برای آموزش مدلهای هوش مصنوعی مورد استفاده قرار نمیگیرند.
تیکتاک به کاربران هشدار میدهد که این ابزار فقط تشخیص میدهد آیا محتوایی با ابزارهای هوش مصنوعی خود تیکتاک یا برنامههای بایتدنس ویرایش یا تولید شده است یا نه؛ بنابراین راهی بینقص برای شناسایی همه انواع محتوای هوش مصنوعی نیست.