یک مطالعه هیات نظارت متا نشان میدهد چتباتهای پیشرو هوش مصنوعی بسیار راحتتر از رهبران دموکراتیک انتقاد میکنند تا رهبران اقتدارگرا و این امر نگرانی از گسترش خاموش سانسور دولتی فرامرزی را برانگیخته است.
یک مطالعه نشان میدهد چتباتهای هوش مصنوعی ممکن است محدودیتهای دولتی بر آزادی بیان آنلاین را گسترش دهند
آگهی
آگهی
اگر از کلود بخواهید جزوهای انتقادی درباره رئیسجمهور آمریکا دونالد ترامپ یا شاه بریتانیا، چارلز سوم، تهیه کند، چتبات شرکت انتروپیک این کار را انجام میدهد.
اما اگر همان درخواست را درباره پادشاه تایلند یا رهبر عالی ایران مطرح کنید، مدل هوش مصنوعی از انجام آن خودداری میکند.
این یکی از یافتههای کلیدی مطالعهای است که هیئت نظارت متا پنجشنبه منتشر کرد و نشان میدهد سامانههای اصلی هوش مصنوعی، از جمله آنهایی که در آمریکا ساخته شدهاند، بیشتر تمایل دارند از انتقاد رهبران یا دولتهای محدودکننده خودداری کنند.
این موضوع نگرانیهایی را برمیانگیزد مبنی بر اینکه مدلهای زبانی بزرگ که پشتوانه چتباتها و عاملهای هوش مصنوعی هستند، ممکن است با گسترش استفاده از این فناوری در جهان، نفوذ دولتها بر سخنگویی آنلاین را تقویت کنند.
گزارش این نهاد شبهمستقل هشدار میدهد: «خطر واقعی وجود دارد که اگر توسعهدهندگان مدل ارزیابیهای لازم حقوق بشری را انجام ندهند و اقدامهای کاهش خطر را بهاجرا نگذارند، زیرساختهایی برای هوش مصنوعی خواهند ساخت که بهصورت عمدی یا ناخواسته باعث گسترش محدودیتهای نامشروع بر آزادی بیان در سطح جهان میشود».
این یافتهها در حالی منتشر میشود که کشورها در تلاشاند برای هوش مصنوعی چارچوبهای حفاظتی تعیین کنند بیآنکه توان رقابت خود را در این حوزه پرشتاب از دست بدهند؛ از جمله ابتکار نظارتی دولت ترامپ در ارتباط با خطرهای امنیت ملی ناشی از پیشرفتهترین سامانههای هوش مصنوعی.
مدلهای هوش مصنوعی نفوذ دولتها را فراتر از مرزها گسترش میدهند
این هیئت نظارت که پیشتر نفوذ دولتها بر شرکتهای فناوری و تاثیر آن بر آزادی بیان را بررسی کرده است، هفت پرسش در حوزه انتقاد سیاسی طراحی کرد تا آنها را درباره دولتهای محدودکننده و دولتهای آزادتر از چتباتها بپرسد.
در این مطالعه ۱۰ مدل زبانی بزرگ تجاری از شرکتهای بزرگ فناوری، از جمله متا، انتروپیک و اوپناِیآی، آزمایش شد و از آنها خواسته شد جزوههای انتقادی تهیه کنند، شعرهای کوتاه طنز بنویسند، برای پیوستن به اعتراضها دلیل بیاورند و کارهای دیگر انجام دهند.
در مجموع، مدلهایی که به درخواست یک کاربر مستقر در استرالیا پاسخ میدادند، بسیار بیشتر تمایل داشتند درباره مقامهای کشورهای شیلی، ژاپن، تایوان، بریتانیا و آمریکا انتقاد سیاسی تولید کنند تا کشورهایی که انتقاد از مسئولان در آنها بهطور قانونی محدود و مجازات میشود مانند کامبوج، چین، عربستان سعودی، تایلند و ترکیه.
این مطالعه نشان میدهد مدلهای هوش مصنوعی محدودیتهای گفتاری را فراتر از کشورهایی که این قوانین در آنها اجرا میشود بازتاب میدهند؛ برای نمونه، احتمالا به یک معترض بالقوه در بریزبن کمک نمیکنند که درباره رویدادهای چین یا عربستان سعودی مطالب اعتراضی تهیه کند.
گزارش میگوید: «چنین پیامدهایی، فارغ از اینکه از کجا سرچشمه میگیرند، در عمل باعث میشوند دست بلند دولتهای محدودکننده از مرزها فراتر برود و سخنگویی را در کشورهای آزاد محدود کند».
هیئت نظارت اعلام کرد نمیتواند علتها را بهطور قطعی مشخص کند اما احتمال داد که مدلها سوگیریهای پنهان موجود در دادههای آموزشی را جذب کرده باشند یا شرکتها خطرها و مسئولیتهای حقوقی در برخی بازارها را در تنظیم مدلها لحاظ کرده باشند.
پژوهشگران درباره تشدید مشکل در خروجیهای غیرانگلیسی هوش مصنوعی هشدار میدهند
گزارش هیئت نظارت پس از انتشار مطالعه جداگانهای از سوی پژوهشگران دانشگاههای آمریکا منتشر شد که نشان میدهد مدلهای هوش مصنوعی ساختهشده در این کشور، زمانی که روی دادههای غیرانگلیسی تحتتاثیر دولتها آموزش میبینند، در برابر کنترلهای خارجی آسیبپذیر هستند.
در حالی که هیئت نظارت پرسشهای خود را به زبان انگلیسی مطرح کرد، پژوهشگران دانشگاهی چتباتها را به زبانهای مختلف مورد سوال قرار دادند.
وقتی از چتجیپیتی به انگلیسی پرسیده شد آیا چین یک دموکراسی است، مدل پاسخ داد که «بهطور کلی چنین تلقی نمیشود». اما وقتی همان سوال به زبان چینی مطرح شد، مدل گفت: «به این بستگی دارد که «دموکراسی» را چگونه تعریف کنید».
این پژوهشگران در مقالهای که ماه مه در نشریه علمی «نیچر» منتشر شد نوشتند که هیچ شواهدی نیافتهاند مبنی بر اینکه دولتها عمدا تلاش کرده باشند خروجیهای چتباتهای هوش مصنوعی را تحتتاثیر قرار دهند اما تاکید کردند: «دلایل کافی وجود دارد که باور کنیم آنها در آینده چنین خواهند کرد اگر همین حالا شروع نکرده باشند».
هانا ویت، نویسنده همکار و استادیار جامعهشناسی در دانشگاه اورگان، میگوید: «مردم اغلب درباره هوش مصنوعی طوری صحبت میکنند که انگار این فناوری به شکلی خنثی از اینترنت یاد میگیرد اما چنین نیست».
او اضافه میکند: «هوش مصنوعی از محیطهای اطلاعاتیای یاد میگیرد که از پیش توسط نهادها و ساختارهای قدرت شکل گرفتهاند».
راهحل سادهای برای نحوه تغذیه داده به مدلهای هوش مصنوعی وجود ندارد
کارلوس کارراسکوفارِه، متخصص یادگیری ماشین، هوش مصنوعی، اطلاعات نادرست و تعاملات انسان و ماشین در مدرسه کسبوکار اساده در بارسلون، میگوید: «سامانههای هوش مصنوعی نهفقط سوگیریهای موجود در تکتک اسناد را به ارث میبرند بلکه نابرابریهای مربوط به اینکه چه کسانی قدرت تولید و سرکوب اطلاعات در مقیاس وسیع را دارند نیز در آنها منعکس میشود».
کارراسکوفارِه، که در هیچیک از این دو مطالعه مشارکت نداشت، میگوید راهحل سادهای وجود ندارد هرچند توسعهدهندگان میتوانند دادههای آموزشی را بهگونهای ارزیابی کنند که هزاران نسخه از یک روایت دولتی را بهعنوان صداهای مستقل به حساب نیاورند و ممیزیهای چندزبانه انجام دهند.