یک مرد نروژی از شرکت «اوپن‌ای‌آی» سازنده «چت‌جی‌پی‌تی» شکایت کرده است زیرا هوش مصنوعی به‌اشتباه مدعی شده بود که او دو فرزندش را کشته است.
آگهی
«آروه یالمار هولمن» که خودش را «یک فرد عادی» در نروژ توصیف کرده، از چت‌جی‌پی‌تی خواسته بود اطلاعاتی درباره خودش ارائه دهد اما پاسخ دریافت‌شده حاوی ادعایی عجیب بود؛ این چت‌بات نوشته بود او پدر دو پسربچه‌ای بوده که در یک حادثه دلخراش کشته شده‌اند.
در پاسخ به این سوال که «آروه یالمار هولمن کیست؟»، چت‌جی‌پی‌تی نوشت: «آروه یالمار هولمن فردی نروژی است که به‌خاطر یک رویداد تراژیک شهرت پیدا کرده است. او پدر دو پسر خردسال، به سنین هفت و ده سال بود که در دسامبر ۲۰۲۰ به شکل غم‌انگیزی در استخری نزدیک خانه‌شان در شهر تروندهایم نروژ پیدا شدند.»
در ادامه، چت‌بات مدعی شده که این ماجرا کشور را در شوک فرو برده و هولمن به اتهام قتل هر دو کودک، به ۲۱ سال زندان محکوم شده است.
هولمن در شکایتی که به نهاد حفاظت از داده‌ها در نروژ ارائه داده، گفته که این داستان «کاملا ساختگی» با اینکه نادرست است، اما عناصری شبیه به زندگی واقعی او دارد؛ از جمله شهر محل زندگی، تعداد فرزندان و تفاوت سنی فرزندانش.
در این شکایت که با همکاری گروه مدافع حقوق دیجیتال «نویب» تنظیم شده، آمده است: «شاکی از این پاسخ‌ها به‌شدت نگران شده، چراکه این اطلاعات نادرست ممکن است در جامعه یا شهر محل سکونتش پخش شود و زندگی خصوصی او را تحت‌تاثیر قرار دهد.»
در این شکایت همچنین تاکید شده که هولمن «هیچ‌گاه به جرمی متهم یا محکوم نشده و شهروندی قانون‌مدار است.»
شاکیان می‌گویند پاسخ چت‌جی‌پی‌تی «افترا» بوده و مقررات دقت اطلاعات در قوانین اروپایی حفاظت از داده‌ها (GDPR) را نقض کرده است.
آن‌ها از نهاد ناظر خواسته‌اند تا شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی را ملزم به اصلاح مدل خود برای جلوگیری از تولید اطلاعات نادرست درباره هولمن کرده و برای این شرکت جریمه تعیین کند.
گروه نویب می‌گوید از زمان مکالمه هولمن با چت‌جی‌پی‌تی، شرکت اوپن‌ای‌آی مدل جدیدی ارائه داده که به جست‌وجوی اینترنتی دسترسی دارد و همین موضوع احتمال تکرار چنین خطاهایی را کاهش داده است.
چت‌بات‌های هوش مصنوعی مثل چت‌جی‌پی‌تی گاهی اطلاعات نادرست ارائه می‌دهند، چون سازوکارشان بر پایه پیش‌بینی کلمه بعدی در جمله است.
این روش ممکن است منجر به خطا یا ادعاهای بی‌پایه شود اما لحن طبیعی پاسخ‌ها باعث می‌شود کاربران تصور کنند همه اطلاعات ارائه‌شده درست است.
به اینستاگرام یورونیوز فارسی بپیوندید
سخنگوی شرکت اوپن‌ای‌آی گفته است: «ما همچنان در حال تحقیق برای بهبود دقت مدل‌های خود و کاهش خطاهای این چت‌بات هستیم. هرچند این شکایت در حال بررسی است اما اشتباه مطرح‌شده مربوط به نسخه‌ای از چت‌جی‌پی‌تی است که از آن زمان به‌روزرسانی شده و حالا به جست‌وجوی آنلاین مجهز است تا پاسخ‌های دقیق‌تری ارائه دهد.»