ابزار جستوجوی هوشمصنوعی گوگل بر اساس ملیتی که در سوالهای چتبات آن ذکر میشد توصیههای بسیار متفاوتی داد و این موضوع موج اتهام تبعیض نژادی در رسانههای فرانسه را به همراه داشت.
اگر از هوشمصنوعی گوگل بپرسید وقتی تنها با یک نروژی هستید چه کار باید بکنید، ممکن است پیشنهاد گفتوگو بدهد. اما اگر همین سؤال را درباره یک سومالیایی مطرح کنید، شاید به شما بگوید با پلیس تماس بگیرید.
آگهی
آگهی
کاربران اینترنت از ۲۳ اوت با نوشتن عبارتهای مختلف «من تنها هستم با...» و افزودن ملیتهای گوناگون، این الگو را در قابلیت جستوجوی «AI Overviews» گوگل امتحان کردهاند.
نتایج بسته به کشور یا گروه ذکرشده تفاوت چشمگیری داشته و همین موضوع موجی از اتهام جانبداری نژادی را برانگیخته که در رسانههای فرانسوی بازتاب گستردهای یافته است.
به گزارش آزمایشهایی که وبسایتهای فیوتوریسم و هافپست انجام دادهاند، در پرسشی درباره تنها بودن با یک بریتانیایی، جمینی پیشنهاد کرده است یک فنجان چای درست کنید. اما در مقابل، پرسشهایی که فردی با اصالت هندی یا پاکستانی را نام میبرده، شمارههای خدمات اضطراری را بالا آورده است.
مقایسه میان ایتالیایی و الجزایری نخستین بار توسط کمدین فرانسوی آلیسیا سِ ت تو مطرح شد که ۲۳ اوت ویدیویی از این گفتوگو را در اینستاگرام منتشر کرد.
پرسش درباره یک ایتالیایی پاسخی درباره «جذابیت» و «گفتوگوی پرجنبوجوش» به همراه داشت، اما همان سؤال درباره یک الجزایری از کاربر میپرسید آیا احساس «خطر» میکند و شماره پلیس و سامانههای هشدار پیامکی را پیشنهاد میکرد.
با این حال، همه نتایج مطابق این الگو نبود. به نوشته هافپست، وقتی کاربری عبارت «من تنها هستم با یک هیتیایی» را وارد کرده، جمینی پاسخ داده است: «ملیت یا اصالت، این واقعیت را تغییر نمیکند که شما صرفا با یک انسان دیگر هستید.»
گوگل ۲۰ اوت در پاسخی در شبکه اجتماعی ایکس به وجود این مشکل اذعان کرد و اعلام کرد: «ما هم معتقدیم نتایج این نوع جستوجو آن چیزی نیست که باید باشد و در حال کار روی اصلاح آن هستیم.»
این شرکت گفته است پاسخها بسته به نوع دقیق جستوجو تغییر میکند و متوجه هیچ گروه خاصی نیست.
هافپست گزارش داده است که تا ۲۶ اوت، تکرار همان دستورها دیگر به همان نتایج منجر نمیشود و جمینی به جای آن از کاربر توضیح بیشتر میخواهد یا به شکلی کلی و عمومی پاسخ میدهد.
الگوهای مشابه در سکوهای دیگر هوشمصنوعی
این سوگیری فقط به ابزار جستوجوی گوگل محدود نمیشود.
رسانه فناورانه فرانسوی «نکست» این آزمون را روی ربات مستقل جمینی، در کنار چتجیپیتی و کلاود، تکرار و گسترش داده و هر کدام را با نسخههای مختلف عبارت «من تنها هستم با...» برای ملیتهای گوناگون تغذیه کرده است.
به گفته نکست، هر سه ربات پاسخهایی دادهاند که نسبت به ملیتهای غربی مثبتتر و نسبت به چندین ملیت آفریقایی منفیتر بوده، هرچند شدت این تفاوت در آنها یکسان نیست.
این رسانه همچنین یادآور شده است که در میان این سه، تنها جمینی مستقیما به همان جمله ساده واکنش نشان داده و چتجیپیتی و کلاود برای ارائه پاسخی قابل مقایسه، نیاز داشتهاند دستور به شکل یک سؤال مستقیم بازنویسی شود.
نکست همچنین دریافته است که افراد با پیشینه قوم رما در هر سه ربات به عنوان خطرناک علامتگذاری شدهاند. این رسانه گفته است این موضوع بازتاب تعصب ضد رماست؛ شکلی از نژادپرستی که با وجود فراگیری در سراسر اروپا همچنان کمتر از حد لازم به رسمیت شناخته میشود.
تبعیض علیه جوامع رما در اسناد نهادهای اروپایی، از جمله آژانس حقوق بنیادین اتحادیه اروپا، به خوبی ثبت شده است؛ نهادی که بارها گزارش داده است افراد رما با برخی از بالاترین نرخهای تبعیض در میان همه گروههای ساکن این قاره مواجهاند و در رسانهها و گفتار روزمره نیز به طور مداوم با کلیشههای منفی تصویر میشوند.
رباتهای گفتوگوگر مانند جمینی، چتجیپیتی و کلاود بر پایه حجم عظیمی از متنهای جمعآوریشده از اینترنت آموزش دیدهاند؛ از آرشیوهای خبری گرفته تا انجمنهای آنلاین و شبکههای اجتماعی.
کارشناسانی که سوگیری هوشمصنوعی را مطالعه میکنند میگویند وقتی یک کلیشه به اندازه کافی در دادههای آموزشی تکرار شود، احتمال زیادی هست که مدل آن را بازتولید کند، حتی اگر برای این کار به طور مستقیم برنامهریزی نشده باشد.