این گروه نسبت به خطرات اجازه دادن به مردم برای ساخت ویدئوهای هوش مصنوعی درباره تقریباً هرچه که در یک دستور وارد می‌کنند، هشدار می‌دهد.
صنعت فناوری دوباره با شتاب پیش می‌رود و چیزهایی را از هم می‌پاشد؛ و این بار نوبت واقعیت مشترک بشر و حق کنترل بر چهره و شباهت‌مان پیش و پس از مرگ است؛ به لطف پلتفرم‌های تولید تصویر با هوش مصنوعی (AI) مانند «سورا ۲» اوپن‌ای‌آی.
ویدئوهای معمول «سورا» که در اپلیکیشن اوپن‌ای‌آی ساخته می‌شود و در تیک‌تاک، اینستاگرام، ایکس و فیس‌بوک دست‌به‌دست می‌شود، طوری طراحی شده‌اند که آن‌قدر سرگرم‌کننده باشند که رویشان کلیک کنید و به اشتراک بگذارید. ممکن است ملکه الیزابت دوم در حال رپ‌خوانی باشد یا چیزی عادی‌تر و باورپذیرتر.
یکی از ژانرهای محبوب سورا، ویدئوی جعلی دوربین زنگ در است که صحنه‌ای کمی وهم‌آلود ضبط می‌کند؛ مثلا یک مار بوآ روی ایوان یا یک تمساح که بی‌تفاوت به سمت یک کودک می‌رود؛ و در پایان با یک شوک خفیف تمام می‌شود، مثلا مادربزرگی که با جاروب به جان حیوان می‌افتد و فریاد می‌زند.
اما جمع رو به رشدی از گروه‌های حامی، دانشگاهیان و کارشناسان درباره خطرات واگذاری امکان ساخت تقریبا هر ویدئوی دلخواه با یک دستور نوشتاری هشدار می‌دهند؛ روندی که به گسترش تصاویر بدون رضایت و دیپ‌فیک‌های واقع‌نما در دریایی از «AI slop» کم‌ضررتر می‌انجامد.
اوپن‌ای‌آی سختگیری درباره ساخت نسخه‌های هوش مصنوعی از چهره‌های عمومی را افزایش داده است ـ از جمله مایکل جکسون، مارتین لوتر کینگ جونیور و مستر راجرز ـ که کارهای عجیب و غریب انجام می‌دهند؛ اما این تصمیم تنها پس از اعتراض متولیان میراث خانوادگی و یک اتحادیه بازیگران اتخاذ شد.
سازمان غیرانتفاعی پابلیک سیتیزن اکنون از اوپن‌ای‌آی می‌خواهد «سورا ۲» را از دسترس عموم خارج کند و در نامه‌ای که سه‌شنبه به این شرکت و مدیرعاملش سم آلتمن نوشت، تاکید کرد که عرضه شتاب‌زده این اپلیکیشن برای جلو زدن از رقبا نشان‌دهنده «الگوی ثابت و خطرناک اوپن‌ای‌آی در شتاب برای ورود به بازار با محصولی ذاتا ناایمن یا فاقد حفاظ‌های لازم» است.
در این نامه آمده است که سورا ۲ نشان‌دهنده «بی‌اعتنایی بی‌پروا» به ایمنی محصول، همچنین حقوق مردم بر چهره و شباهت خود و ثبات دموکراسی است. این گروه نامه را برای کنگره آمریکا نیز ارسال کرد.
اوپن‌ای‌آی سه‌شنبه به درخواست‌ها برای اظهارنظر پاسخ نداد.
طرح نگرانی‌های ایمنی
«بزرگ‌ترین نگرانی ما تهدید بالقوه علیه دموکراسی است»، جی‌بی برنچ، مدافع سیاست‌گذاری فناوری در پابلیک سیتیزن، در مصاحبه‌ای گفت.
«فکر می‌کنم داریم وارد جهانی می‌شویم که مردم واقعا نمی‌توانند به آنچه می‌بینند اعتماد کنند. و داریم شاهد راهبردهایی در سیاست می‌شویم که در آن نخستین تصویر، نخستین ویدئویی که منتشر می‌شود، همان چیزی است که در ذهن مردم می‌ماند».
برنچ، نویسنده نامه روز سه‌شنبه، همچنین نگرانی‌های گسترده‌تری درباره حریم خصوصی می‌بیند که به طور نامتناسبی بر گروه‌های آسیب‌پذیر آنلاین اثر می‌گذارد.
اوپن‌ای‌آی برهنگی را مسدود می‌کند، اما برنچ گفت که «زنان می‌بینند به شیوه‌های دیگری در فضای آنلاین آزار می‌شوند»؛ مثلا با محتوای خاصِ فتیش‌محور که از محدودیت‌های اپ‌ها عبور می‌کند.
رسانه 404 Media اخیرا از هجوم ویدئوهای ساخته‌شده با سورا که در آنها زنان خفه می‌شوند، گزارش داد.
اوپن‌ای‌آی بیش از یک ماه پیش اپلیکیشن جدید سورا را روی آیفون‌ها عرضه کرد. هفته گذشته نیز در ایالات متحده، کانادا و چند کشور آسیایی از جمله ژاپن و کره جنوبی برای گوشی‌های اندرویدی راه‌اندازی شد.
بخش عمده واکنش‌های تند از هالیوود و دیگر فعالان صنعت سرگرمی، از جمله صنعت مانگای ژاپن بوده است.
اوپن‌ای‌آی تنها چند روز پس از انتشار، نخستین تغییرات بزرگ را اعلام کرد و گفت «نظارت بیش از حد برای کاربران بسیار آزاردهنده است»، اما تا زمانی که «جهان هنوز در حال سازگاری با این فناوری جدید است» محتاط بودن اهمیت دارد.
سپس در ۱۶ اکتبر توافقی علنی با خانواده مارتین لوتر کینگ جونیور اعلام شد که تا هنگام کار شرکت بر ایجاد حفاظ‌های بهتر، از «بازنمایی‌های بی‌احترامانه» از این رهبر حقوق مدنی جلوگیری کند؛ و توافقی دیگر در ۲۰ اکتبر با برایان کرنستون، بازیگر «برکینگ بد»، اتحادیه SAG-AFTRA و آژانس‌های استعدادیابی.
برنچ گفت: «همه اینها تا وقتی مشهور باشید خوب است. این بخشی از همان الگویی است که اوپن‌ای‌آی دارد؛ جایی که حاضر است به خشم جمعیتی بسیار کوچک پاسخ دهد».
او افزود: «آنها حاضرند چیزی را منتشر کنند و بعد عذرخواهی کنند. اما بسیاری از این مشکلات انتخاب‌های طراحی‌اند که می‌توانند پیش از انتشار انجام دهند».
اوپن‌ای‌آی با محصول شاخص خود، چت‌جی‌پی‌تی، نیز با شکایت‌های مشابهی روبه‌رو بوده است. هفت دادخواست جدید که هفته گذشته ثبت شد در آمریکا ادعا می‌کنند این چت‌بات حتی افرادی را که پیشتر مشکل سلامت روان نداشتند، به خودکشی و توهمات زیان‌بار سوق داده است.
این دادخواست‌ها که از سوی مرکز حقوقی قربانیان شبکه‌های اجتماعی و پروژه عدالت فناوری به نمایندگی از شش بزرگسال و یک نوجوان ثبت شده، مدعی‌اند اوپن‌ای‌آی سال گذشته با علم به پیامدها، GPT-4o را زودهنگام منتشر کرد؛ با وجود هشدارهای داخلی مبنی بر اینکه این مدل به شکل خطرناکی متملق و از نظر روان‌شناختی دست‌کاری‌گر است.
چهار نفر از قربانیان با خودکشی جان باختند.
پابلیک سیتیزن در این دادخواست‌ها نقشی نداشت، اما برنچ گفت در عرضه شتاب‌زده سورا شباهت‌هایی می‌بیند.
او گفت: «آنها بدون توجه به آسیب‌ها پدال را تا ته فشار می‌دهند. بسیاری از این پیامدها قابل پیش‌بینی به نظر می‌رسد. اما ترجیح می‌دهند محصولی را هرچه زودتر بیرون بدهند، مردم را به دانلود آن وادارند، و مردم را به آن معتاد کنند تا اینکه کار درست را انجام دهند و پیشاپیش این چیزها را آزمون فشار کنند و به حال و روز کاربران عادی بیندیشند».
اوپن‌ای‌آی هفته گذشته را صرف پاسخ‌گویی به شکایت‌های یک انجمن تجاری ژاپنی کرد که نماینده پویانماهای مشهوری چون استودیوی جیبلیِ هایائو میازاکی و سازندگان بازی‌های ویدئویی مانند باندای نامکو و اسکوئر انیکس است.
اوپن‌ای‌آی گفت بسیاری از هواداران انیمه می‌خواهند با شخصیت‌های محبوبشان تعامل داشته باشند، اما این شرکت همچنین حفاظ‌هایی تعیین کرده تا از تولید شخصیت‌های شناخته‌شده بدون رضایت دارندگان حقوق کپی‌رایت جلوگیری شود.
اوپن‌ای‌آی در بیانیه‌ای درباره نامه آن انجمن در هفته گذشته گفت: «ما مستقیما با استودیوها و صاحبان حقوق در ارتباطیم، به بازخوردها گوش می‌دهیم و از نحوه استفاده مردم از سورا ۲ می‌آموزیم؛ از جمله در ژاپن که صنایع فرهنگی و خلاق بسیار ارج نهاده می‌شوند.»