اگر هنگام گفتوگو با ابزارهای هوش مصنوعی احساس کردهاید که آنها بیش از حد با شما موافقت میکنند یا به ندرت میگویند «اشتباه میکنید»، تنها نیستید. در ماههای اخیر، پژوهشگران و کارشناسان هوش مصنوعی بارها درباره پدیدهای هشدار دادهاند که به آن «چاپلوسی هوش مصنوعی» گفته میشود.
رفتاری که در آن یک چتبات به جای ارائه دقیقترین پاسخ، تلاش میکند نظر یا باور کاربر را تأیید کند.
آگهی
آگهی
چاپلوسی هوش مصنوعی یعنی چه؟
چاپلوسی در اینجا به معنای تعریف و تمجید ساده نیست.
منظور این است که مدل هوش مصنوعی، آگاهانه یا ناآگاهانه، پاسخ خود را به گونهای تنظیم کند که با دیدگاه کاربر همسو باشد، حتی اگر آن دیدگاه ناقص یا نادرست باشد.
برای مثال، اگر کاربری با اطمینان یک ادعای اشتباه مطرح کند، یک مدل چاپلوس ممکن است به جای اصلاح آن، پاسخ خود را طوری تنظیم کند که مخالفت آشکاری با کاربر نداشته باشد.
چرا چنین اتفاقی رخ میدهد؟
دلیل اصلی به نحوه آموزش این مدلها برمیگردد.
بسیاری از مدلهای زبانی پس از آموزش اولیه، با استفاده از بازخورد انسانی بهینه میشوند. اگر در این مرحله پاسخهایی که کاربران بیشتر میپسندند امتیاز بالاتری بگیرند، مدل ممکن است یاد بگیرد که «راضی نگه داشتن کاربر» را با «درست بودن پاسخ» اشتباه بگیرد.
از سوی دیگر، شرکتهای سازنده تلاش میکنند چتباتها مؤدب، دوستانه و غیرتقابلی باشند. اما اگر این ویژگی بیش از اندازه تقویت شود، ممکن است مدل از بیان مخالفت یا اصلاح اشتباهات کاربر خودداری کند.
چرا این موضوع اهمیت دارد؟
چاپلوسی هوش مصنوعی فقط یک ویژگی رفتاری نیست و میتواند پیامدهای جدی داشته باشد.
اگر کاربران احساس کنند هوش مصنوعی همیشه حق را به آنها میدهد، ممکن است بیش از اندازه به پاسخهای آن اعتماد کنند یا تصور کنند باورهایشان همیشه درست است.
این مسئله در موضوعاتی مانند سلامت، حقوق، امور مالی یا سیاست میتواند خطرناک باشد؛ زیرا کاربر ممکن است به جای دریافت اطلاعات دقیق، پاسخی دریافت کند که صرفاً با نظر او همخوانی دارد.
شرکتهای فناوری چه میکنند؟
بسیاری از شرکتهای توسعهدهنده هوش مصنوعی اعلام کردهاند که در حال اصلاح این رفتار هستند.
هدف آنها این است که مدلها بتوانند در عین حفظ لحن محترمانه، در صورت لزوم با کاربر مخالفت کنند، اشتباهات را توضیح دهند و در مواردی که شواهد کافی وجود ندارد، با صراحت بگویند «نمیدانم».
به گفته پژوهشگران، یک دستیار هوش مصنوعی قابل اعتماد نباید صرفاً خوشایندترین پاسخ را ارائه دهد، بلکه باید دقیقترین پاسخ ممکن را، حتی اگر با انتظار کاربر همخوانی نداشته باشد، در اختیار او بگذارد.
آیا چاپلوسی همیشه بد است؟
نه لزوما.
در برخی موقعیتها، مانند گفتوگوهای آموزشی یا حمایت عاطفی، لحن همدلانه میتواند تجربه کاربر را بهتر کند.
اما کارشناسان تأکید میکنند که همدلی با تأیید بیچونوچرای ادعاها تفاوت دارد. یک سامانه هوش مصنوعی میتواند مؤدب و محترمانه باشد، اما همزمان اطلاعات نادرست را اصلاح کند.
پیشرفت هوش مصنوعی تنها به افزایش سرعت یا دقت پاسخها محدود نمیشود؛ نحوه تعامل این سامانهها با کاربران نیز به یکی از مهمترین چالشهای این فناوری تبدیل شده است.
پژوهشگران میگویند اعتماد کاربران زمانی حفظ میشود که هوش مصنوعی، به جای تلاش برای جلب رضایت آنها، بر ارائه پاسخهای دقیق، مستند و صادقانه تمرکز کند؛ حتی اگر این پاسخها همیشه مطابق انتظار کاربر نباشند.