چتباتهای هوش مصنوعی در انتخاب دریافتکنندگان پیوند نجاتبخش کلیه، سریعتر و با اعتمادبهنفس بیشتر از پزشکان انسان تصمیم میگیرند اما تصمیمهایشان کمظرافتتر است.
اگر هوشمصنوعی تصمیمگیر نهایی باشد، حاضر هستید پیوند عضو انجام دهید؟ یک پژوهش جدید از تفاوتها در شیوه تصمیمگیری و اولویتبندی میان مدلهای زبانی هوشمصنوعی و پزشکان خبر میدهد.
آگهی
آگهی
به گفته پژوهشگران، مدلهای هوشمصنوعی هنگام تصمیمگیری درباره این که کدام بیمار باید پیوند دریافت کند، اعتمادبهنفس بیش از حد نشان میدهند، به عوامل دیگری بها میدهند و تصمیمهای پیچیده را سادهسازی میکنند. این نتایج در یک مطالعه جدید (منبع به زبان انگلیسی) منتشر شده است.
در این پژوهش، محققان دانشگاه ایالتی پنسیلوانیا در آمریکا سناریوهای فرضی را بر پایه مجموعهدادههای موجود از مطالعات انسانی منتشرشده درباره تخصیص کلیه، در اختیار مدلهای زبانی بزرگ قرار دادند؛ همان موقعیتهایی که شرکتکنندگان واقعی پیشتر در آنها انتخاب کرده بودند.
هر سناریو شامل دو بیمار بود، بیمار الف و بیمار ب، که هر دو واجد شرایط برای دریافت یک کلیه موجود بودند و بر اساس سن، وضعیت سلامت و عادات نوشیدن توصیف میشدند. تصمیمگیرنده باید انتخاب میکرد کدام یک از این دو بیمار کلیه را دریافت کند.
حسینی گفت: «ما این مقایسهها را به چند روش مختلف انجام دادیم. گاهی فقط یک ویژگی را جدا میکردیم، گاهی چند ویژگی را با هم ترکیب میکردیم تا ببینیم هوشمصنوعی چگونه عوامل متعارض را میسنجد و گاهی گزینه شیر یا خط را اضافه میکردیم تا میزان تردید را که یکی از عناصر مهم در داوری اخلاقی انسان است، اندازهگیری کنیم.»
در حالی که پاسخدهندگان انسانی بیش از همه برای سن اهمیت قائل میشدند و بیماران جوان را بر سالمندان ترجیح میدادند، بسیاری از مدلها بهجای آن مصرف کمتر الکل را ترجیح میدادند. تصمیمهای انسانی چندعاملی و بیش از تصمیمهای مدلهای زبانی به زمینه وابسته بود، در حالی که این مدلها اغلب روی یک ویژگی متمرکز میشدند.
هادی حسینی، سرپرست این مطالعه در دانشگاه ایالتی پنسیلوانیا، گفت: «نخست این که چتباتهای هوشمصنوعی در نحوه وزندهی به ویژگیهای بیمار اغلب از ارزشهای انسانی فاصله میگیرند. آنها روی یک عامل، مثلا عادات نوشیدن، تمرکز میکنند و برخلاف انسانها چند ملاحظه را همزمان در نظر نمیگیرند.»
پژوهشگران همچنین مشاهده کردند که هوشمصنوعی با تردید و دودلی مشکل چندانی ندارد. در حالی که انسانها میپذیرند پاسخ واحدِ کاملا درست وجود ندارد و تصمیمها میتواند بر داوریهای ظریف اخلاقی انسانی تکیه کند، این سامانهها بدون تردید قابل توجهی روی یک گزینه قفل میشوند.
جان دیکرسون، مدیرعامل Mozilla.ai که در این مطالعه همکاری کرده است، گفت: «وقتی چیزی کمیاب را تخصیص میدهیم، چه کلیه باشد، چه یک شغل یا دسترسی به منبعی دیگر، همیشه یک پاسخ واحدِ بهطور عینی درست وجود ندارد.»
او افزود: «انسانها این ابهام را میشناسند و آن را از راه بحثهای آزاد در فرایند تخصیص وارد میکنند، اما مدلهای هوشمصنوعی اغلب چنین کاری نمیکنند.»
هوشمصنوعی و تصمیمهای اخلاقی
نویسندگان مقاله تاکید کردند که در ارتباطهای اخیر با سامانههای هوشمصنوعی، از آنها هرچه بیشتر خواسته میشود فراتر از اطلاعات صرفا واقعمحور بروند و درباره ارزشها داوری کنند.
مدلهای زبانی بزرگ بهطور فزاینده در نظام سلامت به کار گرفته میشوند تا از جریان کار بالینی، تشخیص، برنامهریزی درمان و استفاده بهموقع از منابع کمیاب پزشکی پشتیبانی کنند.
یکی از کاربردهای آنها تصمیمگیری درباره تخصیص کلیههای اهدایی از سوی اهداکنندگان فوتشده یا زنده به بیماران است؛ تصمیمهایی که به گفته نویسندگان مبتنی بر ملاحظات پیچیده اخلاقی و اخلاقزیستی است.
پژوهشگران در این سناریوهای پرخطر یادآور شدند که تصمیمها علاوه بر دقت، باید با ارزشهای انسانی و داوری اخلاقی انسان نیز همسو باشد.
به گفته آنان، پرسش از این که هوشمصنوعی میتواند تصمیم اخلاقی بگیرد یا نه و این که آیا این تصمیمها با ارزشهای انسانی همساز است، در مرکز بحثهای گسترده امروز درباره هوشمصنوعی قرار دارد.
حسینی گفت: «پیامدهای اخلاقی در این حوزه بسیار سنگین است و نقش هوشمصنوعی در چنین تصمیمهای دگرگونکننده زندگی نیازمند تامل عمیق است. تصمیمهای اخلاقی در زمینههایی مانند تخصیص عضو مستقیما تعیین میکند چه کسی زنده بماند و چه کسی بمیرد، بنابراین درست تعریف کردن نقش هوشمصنوعی در آنها اختیاری نیست.»
او اضافه کرد: «هرچند قصد نداریم استفاده از هوشمصنوعی را بهعنوان جایگزین قضاوت حرفهای در تصمیمگیریهای پزشکی یا دیگر زمینههای پرمخاطره تشویق کنیم، اما فهم رفتار این سامانهها ضروری شده است، زیرا افراد، سازمانها و شرکتها هرچه بیشتر برای تصمیمگیری یا دریافت توصیه به هوشمصنوعی تکیه میکنند.»