طبق گزارشی که در نشست COP31 ارائه شد، مدلهای هوش مصنوعی حدود ۹۰ درصد پرسشهای مربوط به اقلیم را به زبان انگلیسی دقیق پاسخ میدهند، اما در برابر فشار یا مقاومت بهسرعت عقبنشینی میکنند.
میل به راضی کردن کاربر در ذات چتباتهای هوش مصنوعی است؛ این ابزارها طوری طراحی شدهاند که کاربران را تا حد امکان برای مدت طولانی در گفتوگو نگه دارند.
این امر اغلب به این معناست که حدس بزنند و بازسازی کنند آنچه را دوست دارید بشنوید، حتی اگر به قیمت دستکاری واقعیتها تمام شود.
هرچند برای برخی کارها ممکن است بیضرر باشد و حتی در غلبه بر تردید به خود مفید واقع شود، اما اگر نفوذ آن به حوزههای پرریسکی مانند سیاستهای اقلیمی دولتها راه پیدا کند، میتواند بسیار مخربتر باشد.
بر اساس گزارش تازهای از یونسکو و دانشگاه کالج دانشگاهی لندن (University College London (UCL))، چتباتهای هوش مصنوعی میتوانند علم اقلیم را به خوبی توضیح دهند، اما به محض آنکه کاربران پاسخ آنها را به چالش میکشند، خیلی سریع از واقعیات فاصله میگیرند. این گزارش در اجلاس اقلیمی کاپ ۳۱ در آنتالیا، ترکیه ارائه شد.
پژوهشگران دریافتند مدلهای هوش مصنوعی حدود ۹۰ درصد از پرسشهای خنثی درباره اقلیم را به درستی پاسخ میدهند. اما زمانی که کاربران این پاسخها را به چالش کشیدند یا ادعاهای ساختگیِ ظاهرا معقولی را مطرح کردند، مدلها خیلی سریع کوتاه آمدند.
در هشت مورد از هر ده مورد، آنها همان با نخستین نشانههای یک مخالفت خفیف جهت خود را عوض کردند؛ از جمله با تأیید ادعاهای نادرستی مانند اینکه CO2 عامل اصلی تغییرات اقلیمی نیست.
«چاپلوسانه از پیش طراحیشده»: نقص طراحیای که میتواند سیاست اقلیمی را منحرف کند
در این گزارش آمده است که رفتار چاپلوسانه در مرحله آموزش در مدلها نهادینه میشود. به این مدلها برای پاسخهای مؤدبانه، غیرتقابلی و تأییدکننده پاداش داده میشود، زیرا انسانها چنین پاسخهایی را ترجیح میدهند.
لئونا وردادرو، نویسنده اصلی این گزارش در یونسکو، گفت: «هوش مصنوعی ظرفیت فوقالعادهای دارد تا علم پیچیده اقلیم را برای همه قابلدسترس کند.» او همچنین گفت: «مدلها یک نقص طراحی دارند، آنها تشویق میشوند که با کاربر خود موافقت کنند.»
ماریا پرز-اورتیس، نویسنده ارشد گزارش در دانشگاه کالج دانشگاهی لندن، افزود که تسلط مدلهای هوش مصنوعی بر دانش موجود میتواند «احساس کاذبی درباره تواناییهای آنها» ایجاد کند.
با وجود توانایی چشمگیر در بهخاطرآوری واقعیتها، مشخص شد که این مدلها ابزار قابلاعتمادی برای تدوین سیاستهای اقلیمی قدرتمند نیستند.
وقتی یک مدرک جدید در اختیارشان قرار گرفت و از آنها خواسته شد مشخص کنند این مدرک از علم پذیرفتهشده اقلیم پشتیبانی میکند یا با آن در تضاد است، حتی قویترین مدلها نیز به طور متوسط فقط ۷۵ درصد دقت داشتند.
عملکرد آنها زمانی حتی ضعیفتر شد که ازشان خواسته شد ارزیابی کنند سیاستها تا چه اندازه در کنار هم خوب عمل میکنند؛ که بخش مهمی از طراحی راهبردهای مؤثر اقلیمی است. این مدلها به طور متوسط فقط به دقت ۳۳.۸ درصدی دست یافتند، یعنی تنها اندکی بالاتر از ۳۳.۳ درصدی که از حدس تصادفی انتظار میرود.
از این رو، گزارش به سیاستگذاران و پژوهشگران هشدار میدهد برای تدوین سیاست اقلیمی از مدلهای هوش مصنوعی استفاده نکنند.
کاهش دقت هوش مصنوعی در برخی زبانها
عملکرد مدلها بر اساس زبان نیز تفاوت زیادی داشت. آنها به زبان انگلیسی ۸۸.۶ درصد پرسشها را به درستی پاسخ دادند و در زبانهای اسپانیایی، فرانسوی و پرتغالی نیز عملکردی مشابه داشتند.
دقت پاسخها در زبانهای هندی و بنگالی به ۸۳.۶ درصد، در اردو به ۸۱.۴ درصد و در سواحیلی به ۷۸.۳ درصد کاهش یافت. به گفته گزارش، علت این است که مدلهای چندزبانه ابتدا استدلال نمیکنند و سپس ترجمه کنند؛ پاسخهای آنها بازتابدهنده کمیت و کیفیت دادههای آموزشی در هر زبان است.
نویسندگان گزارش یادآور میشوند گویشوران زبانهایی که امتیاز پایینتری داشتهاند، در مناطقی زندگی میکنند که به شکل نامتناسبی تحت تأثیر تغییرات اقلیمی قرار گرفتهاند.
اطلاعات نادرست اقلیمی پیچیدهتر میشود
این گزارش به عنوان بخشی از مشارکت یونسکو در «ابتکار جهانی برای یکپارچگی اطلاعات درباره تغییرات اقلیمی» سفارش داده شد؛ ابتکاری که با همکاری سازمان ملل و برزیل در نوامبر ۲۰۲۴ راهاندازی شد.
یونسکو میگوید اطلاعات نادرست اقلیمی روزبهروز پیچیدهتر میشود. به جای انکار واقعیت تغییرات اقلیمی، کسانی که میکوشند اقدامها برای مقابله با آن را تضعیف کنند، هرچه بیشتر چنین القا میکنند که تغییرات اقلیمی منشأ انسانی ندارد، اینکه فناوری به تنهایی آن را حل خواهد کرد یا اینکه برای اقدام، دیگر خیلی دیر یا بیش از حد پرهزینه است.
پژوهشگران حداکثر ۳۳ مدل پیشروی هوش مصنوعی را بر روی ۹ مجموعهداده، در ۱۳ زبان و ۶۵۶ پرسش مربوط به سیاست اقلیمی آزمایش کردند و نتایج را با «اِنرودز (En-ROADS)»، یک ابزار شبیهسازی مبتنی بر علم، مقایسه کردند.