بیش از ۱۰۰ سازمان بزرگ بشردوستانه و حفاظت از کودکان خواستار اقدام فوری علیه اپلیکیشنها و ابزارهای برهنهسازی با هوش مصنوعی هستند.
این ائتلاف شامل عفو بینالملل، کمیسیون اروپا، اینترپل و سازمان «نجات کودکان» و سایر کارشناسان حفاظت از کودکان و مدافعان حقوق بشر است.
جنبش ممنوعسازی این ابزارها پس از واکنشهای منفی شدید به قابلیتهای «گروک» شکل گرفت؛ جایی که کاربران از چتبات هوش مصنوعی ایلان ماسک خواستند تا لباسها را از عکسهای دیجیتال زنان حذف کند.
این اتفاق با ترند «او را در بیکینی قرار بده» شروع شد که تصاویر را تغییر میداد تا زنان را با مایو نشان دهد، اما به سرعت به سمت تولید تصاویر هرچه بیشتر جنسیسازی شده منحرف شد.
این تصاویر جعلی و بدون رضایت اشخاص، سپس به صورت عمومی در پلتفرم رسانه اجتماعی ایکس منتشر شد تا میلیونها نفر آنها را ببینند.
تا کنون تخمین زده میشود که گروک حدود سه میلیون تصویر برهنه بدون رضایت تولید کرده باشد. در چندین مورد، تصاویر ایجاد شده توسط ابزارهای برهنهسازی هوش مصنوعی به طور فزایندهای با باجگیری، اجبار و محتوای سوءاستفاده جنسی از کودکان مرتبط بوده است که اکثر قربانیان آن زنان و کودکان هستند.
تهدیدی جدی برای ایمنی کودکان و کرامت انسانی
این ائتلاف جهانی تاکید کرده است که این اپلیکیشنها و ابزارهای برهنهسازی، تهدیدی بزرگ و غیرقابل قبول برای ایمنی کودکان و کرامت انسانی محسوب میشوند.
ماریا مانویلوویچ، رئیس نهاد «سیف آنلاین» در بیانیهای گفت: «ابزارهای برهنهسازی تهدیدی بیسابقه برای کودکان ما ایجاد کردهاند. هوش مصنوعی، فناوریای که باید پتانسیلهای انسانی را گسترش دهد، علیه کودکان به سلاح تبدیل شده است.»
او افزود: «ما با استفاده از کلمه آنلاین، آسیبها را کوچک جلوه میدهیم، گویی که این اتفاق به نوعی کماهمیتتر از اتفاقات دنیای فیزیکی است، اما تروما و آسیب روانی آن واقعی است.»
علیرغم اینکه این ابزارها اغلب به عنوان اپلیکیشنهای «بزرگسال» بازاریابی میشوند، به طور فزایندهای برای تولید تصاویر جنسی غیرقانونی از کودکان، بدون هیچگونه رضایت، مانع موثر یا پاسخگویی استفاده شدهاند.
یورونیوز فارسی را در ایکس دنبال کنید
خانم مانویلوویچ گفت: «شرکتهای فناوری توانایی شناسایی و مسدود کردن محتوای برهنهسازی شده از کودکان را دارند. توزیع محتوای سوءاستفاده جنسی از کودکان در هر حوزه قضایی غیرقانونی است و پلتفرمهای فناوری باید با سایر کانالهای تولید و توزیع همسو شوند.»
او همچنین اضافه کرد: «بسیار تکاندهنده است که این پلتفرمها از این راه کسب درآمد میکنند و ملزم به گزارش متخلفان یا همکاری با شرکای صنعتی برای قطع جریانهای پرداخت نیستند.»
فشارها برای غیرقانونی کردن فناوریهای برهنهسازی هوش مصنوعی رو به افزایش است و مدافعان معتقدند که این فناوریها هیچ هدف خیری ندارند. به همین ترتیب، این ائتلاف در حال تلاش برای مسدود کردن این فناوریها و پاسخگو کردن توسعهدهندگان و پلتفرمها است.