گوگل برخی سوال‌های سلامت را از نمای کلی هوش مصنوعی به‌دنبال نگرانی‌ها درباره دقت حذف‌کرد

گفته می‌شود گوگل پس از تحقیقی که نشان داد بخشی از اطلاعات گمراه‌کننده بوده، برخی خلاصه‌های هوش مصنوعی برای سوالات مرتبط با سلامت را حذف کرده‌است.

خلاصه‌های هوش مصنوعی جمع‌بندی‌هایی هستند که با هوش مصنوعی تولید می‌شوند و در پاسخ به یک موضوع یا سوال در بالای نتایج جست‌وجو اطلاعات ارائه می‌کنند.

تحقیق روزنامه گاردین نشان داد که برخی از این جمع‌بندی‌ها حاوی اطلاعات نادرست سلامت بوده و مردم را در معرض آسیب قرار می‌دهند.

این روزنامه دریافت که خلاصه‌های هوش مصنوعی در پاسخ به سوالاتی مانند «دامنه طبیعی آزمایش‌های خونی کبد چیست؟» و «دامنه طبیعی آزمایش‌های عملکرد کبد چیست؟» انبوهی از اعداد را با زمینه اندک ارائه می‌کنند. این پاسخ‌ها همچنین هیچ تفاوتی را که ممکن است بر اساس ملیت، جنسیت، قومیت یا سن وجود داشته‌باشد در نظر نمی‌گرفتند.

نتیجه جست‌وجوی گوگل برای هر دو سوال شامل یک قطعه‌برگزیده بود، پاراگرافی که از مرتبط‌ترین وب‌سایت با سوال کاربر در بالای نتایج جست‌وجو استخراج شده‌است.

برای هر دو سوال، گوگل در این قطعه‌برگزیده دامنه سطوح سالم انواع مواد موجود در کبد را استخراج کرده‌بود؛ از جمله آلانین ترانس‌آمیناز (ALT) که تولید انرژی را تنظیم می‌کند، آسپارتات آمینوترانسفراز (AST) که سلول‌های خونی آسیب‌دیده را شناسایی می‌کند و آلکالین فسفاتاز (ALP) که به تجزیه پروتئین‌ها کمک می‌کند.

به گفته گاردین، گوگل این اعداد را از Max Healthcare، یک زنجیره بیمارستانی خصوصی هندی در دهلی نو استخراج کرده‌است.

قطعه‌برگزیده با خلاصه‌های هوش مصنوعی متفاوت است چون متنِ قطعه‌برگزیده توسط هوش مصنوعی تولید نمی‌شود.

تحقیق گاردین نشان داد که گونه‌های دیگری از همان سوالات مانند «[liver function test] lft reference range» یا «lft test reference range» همچنان خلاصه‌های هوش مصنوعی تولید می‌کنند. آزمایش‌های عملکرد کبد آزمایش‌های خونی هستند که پروتئین‌ها و آنزیم‌ها را اندازه‌گیری می‌کنند تا مشخص شود کبد تا چه حد درست کار می‌کند.

گفته می‌شود گوگل به مبتلایان به سرطان پانکراس توصیه کرده از غذاهای پرچرب پرهیز کنند. کارشناسان به گاردین گفته‌اند این توصیه مناسبی نیست چون می‌تواند خطر مرگ بیماران بر اثر این بیماری را افزایش دهد.

این تحقیق گاردین در زمانی منتشر شده‌است که کارشناسان درباره اینکه چت‌بات‌های هوش مصنوعی چگونه «توهم‌زدن» می‌کنند هشدار می‌دهند، یعنی وقتی اطلاعات درست ندارند پاسخ‌های ساختگی ارائه می‌کنند.

یورونیوز نکست از گوگل پرسید آیا خلاصه‌های هوش مصنوعی را از برخی جست‌وجوهای سلامت حذف کرده‌است یا نه اما پاسخ فوری دریافت نکرد.

گوگل آخر هفته اعلام کرد که خلاصه‌های هوش مصنوعی را به سرویس ایمیل خود، جیمیل، اضافه می‌کند.

این قابلیت جدید به کاربران اجازه می‌دهد به‌جای جست‌وجو با کلمه کلیدی در میان ایمیل‌ها سوال بپرسند و درباره ایمیل‌های خود پاسخ دریافت کنند.