چتبات هوش مصنوعی گراک از ایلان ماسک به دلیل سواستفاده برای تولید تصاویر جنسی بدون رضایت زیر ذرهبین است؛ از جمله در اتحادیه اروپا، بریتانیا، هند و فرانسه.
مالزی و اندونزی دسترسی به «گروک»، چتبات هوش مصنوعیِ توسعهیافته توسط شرکت xAI متعلق به ایلان ماسک، را پس از آنکه مقامها گفتند از آن برای تولید تصاویر آشکارا جنسی و بدون رضایت استفاده میشود، مسدود کردند.
این دو کشور نخستین کشورهایی هستند که این ابزار هوش مصنوعی مولد را ممنوع میکنند؛ اقدامی که بازتابدهنده نگرانی فزاینده جهانی است از اینکه این فناوری میتواند تصاویر، صدا و متن واقعنما تولید کند در حالی که سازوکارهای حفاظتی موجود مانع سوءاستفاده نمیشود.
چتبات «گروک» که از طریق پلتفرم اجتماعی X متعلق به ماسک در دسترس است، به دلیل تولید تصاویر دستکاریشده، از جمله بازنمایی زنان با بیکینی یا در ژستهای آشکارا جنسی و نیز تصاویری مربوط به کودکان، با انتقاد روبهرو شده است.
نهادهای ناظر در این دو کشور جنوب شرق آسیا گفتند کنترلهای موجود مانع تولید و گسترش محتوای پورنوگرافیک جعلی، بهویژه درباره زنان و افراد زیر سن قانونی، نمیشود. دولت اندونزی روز شنبه بهطور موقت دسترسی به گروک را مسدود کرد و مالزی نیز روز یکشنبه همین کار را انجام داد.
میوتیا حافید، وزیر ارتباطات و امور دیجیتال اندونزی، روز شنبه در بیانیهای گفت: «دولت دیپفیکهای جنسیِ بدون رضایت را نقضی جدیِ حقوق بشر، کرامت و امنیت شهروندان در فضای دیجیتال میداند.»
این وزارتخانه گفت این اقدام با هدف حفاظت از زنان، کودکان و جامعه گستردهتر در برابر محتوای پورنوگرافیک جعلیِ تولیدشده با استفاده از هوش مصنوعی انجام شده است.
الکساندر سابار، مدیرکل نظارت بر فضای دیجیتال، در بیانیهای جداگانه گفت: یافتههای اولیه نشان میدهد گروک از تدابیر حفاظتی موثری برای جلوگیری از ایجاد و توزیع محتوای پورنوگرافیک بر پایه عکسهای واقعی ساکنان اندونزی برخوردار نیست. او گفت این رویهها با دستکاری یا انتشار عکسها بدون رضایت، خطر نقض حریم خصوصی و حقوق تصویری را به همراه دارد و میتواند آسیبهای روانی، اجتماعی و اعتباری وارد کند.
در کوالالامپور، کمیسیون ارتباطات و چندرسانهای مالزی روز یکشنبه دستور اعمال محدودیت موقت بر گروک را صادر کرد، پس از آنچه آن را «سوءاستفاده مکرر» از این ابزار برای تولید تصاویر مستهجن، آشکارا جنسی و دستکاریشده بدون رضایت، از جمله محتوای مربوط به زنان و افراد زیر سن قانونی، توصیف کرد.
این نهاد ناظر گفت ابلاغیههایی که این ماه به X Corp. و xAI برای مطالبه تدابیر حفاظتی قویتر ارسال شد، با پاسخهایی روبهرو شد که عمدتا بر سازوکارهای گزارشدهی کاربران تکیه داشت.
این نهاد اعلام کرد: «این محدودیت به عنوان اقدامی پیشگیرانه و متناسب، در حالی که فرایندهای حقوقی و نظارتی در جریان است، اعمال میشود»، و افزود که دسترسی تا زمانی که تدابیر حفاظتی موثری برقرار شود مسدود میماند.
گروک که در سال ۲۰۲۳ راهاندازی شد، در X به رایگان در دسترس است. کاربران میتوانند در این پلتفرم اجتماعی از آن سوال بپرسند و در پستهایی که خود منتشر میکنند یا در پاسخ به پستهای دیگران آن را منشن کنند. تابستان گذشته شرکت قابلیت تولید تصویر با نام Grok Imagine را افزود که شامل حالتی موسوم به «spicy mode» هم میشد و میتواند محتوای ویژه بزرگسالان تولید کند.
اعمال این محدودیتها در جنوب شرق آسیا همزمان است با تشدید نظارتها بر گروک در دیگر نقاط، از جمله در اتحادیه اروپا، بریتانیا، هند و فرانسه.
گروک هفته گذشته پس از موج واکنشهای جهانی به دیپفیکهای جنسیسازیشده از افراد، امکان تولید و ویرایش تصویر را به کاربران پولی محدود کرد، اما منتقدان میگویند این اقدام مساله را به طور کامل حل نکرده است.