سامانه هوش مصنوعی گراک اوایل ماه گذشته به دلیل تولید دیپفیکهای جنسی از زنان و حتی کودکان زیر آتش انتقادهای شدید قرار گرفت.
نهاد ناظر بر دادهها در بریتانیا روز سهشنبه تحقیقاتی را درباره ایکس و شرکت هوش مصنوعی xAI آغاز کرد تا بررسی کند آیا شرکتهای ایلان ماسک هنگام تولید دیپفیکهای جنسی توسط چتبات هوش مصنوعی «گروک»، قوانین مربوط به دادههای شخصی را رعایت کردهاند یا نه.
این اقدام بخشی از تحقیق گستردهتری در بریتانیا درباره گروک است؛ ابزاری که به دلیل امکان دادن به کاربران برای خلق و انتشار تصاویر جنسیشده از زنان و کودکان تنها با چند دستور متنی ساده، با واکنش تند بینالمللی روبهرو شده است.
ویلیام مالکوم، مدیر اجرایی ریسکهای مقرراتی و نوآوری در دفتر کمیسر اطلاعات بریتانیا، در بیانیهای گفت: «گزارشها درباره گروک پرسشهای عمیقا نگرانکنندهای را مطرح میکند؛ از جمله این که دادههای شخصی افراد چگونه برای تولید تصاویر خصوصی یا جنسیشده بدون آگاهی یا رضایت آنها استفاده شده و آیا تدابیر لازم برای جلوگیری از این وضعیت در نظر گرفته شده است یا نه.»
او افزود: «از دست دادن کنترل دادههای شخصی به این شکل میتواند بلافاصله آسیبهای جدی وارد کند، بهویژه وقتی پای کودکان در میان است.»
ماه گذشته، نهاد مستقل ناظر بر ایمنی آنلاین بریتانیا، آفکام، تحقیق رسمیای را درباره ایکس آغاز کرد تا مشخص شود این پلتفرم به تعهدات خود برای حفاظت از کاربران در برابر محتوای غیرقانونی عمل کرده است یا نه.
این چتبات که از طریق شبکه اجتماعی ایکس متعلق به ماسک در دسترس است، ماه گذشته به شدت مورد انتقاد قرار گرفت، زیرا به کاربران اجازه میداد عمدتا از زنان و افراد زیر سن قانونی دیپفیکهای جنسی تولید کنند.
دولتهای سراسر جهان این پلتفرم را محکوم کرده و تحقیقاتی را درباره آن آغاز کردهاند.
هفته گذشته نیز کمیسیون اروپا تحقیقاتی را درباره این شبکه اجتماعی آغاز کرد تا بررسی کند این پلتفرم برای کاهش خطر تولید و انتشار این تصاویر به اندازه کافی اقدام کرده است یا نه.