پلیس آمریکا تأخیر در شناسایی و گزارش این اتفاق را «غیرقابل‌قبول» خواند اما اعلام کرد که هیچ نشانه‌ای مبنی بر دسترسی غیرمجاز به سیستم‌های پلیس یا به خطر افتادن داده‌ها وجود ندارد.
به گفته شرکت سازنده و مقامات آمریکایی، مدل هوش مصنوعیِ شرکت «آنتروپیک» در جریان یک مرحله آزمایشی، سرنخی ساختگی و نادرست درباره یک پرونده قتل حل‌نشده را در وب‌سایت پلیس ثبت کرده است.
آگهی
آگهی
این حادثه به نگرانی‌ها پیرامون انجام اقدامات ناخواسته و پیش‌بینی‌نشده توسط سیستم‌های هوش مصنوعی دامن زده است؛ آن‌هم در شرایطی که این سیستم‌ها روزبه‌روز قابلیت‌های بیشتری برای تعامل با وب‌سایت‌ها و انجام خودکار وظایف به دست می‌آورند.
به‌گفته پلیس شهر فیلادلفیا در آمریکا در یک بیانیه (منبع به زبان انگلیسی)، این سرنخ جعلی ۱۸ ژوئیه از طریق وب‌سایتی ثبت‌شده که اطلاعات مربوط به قتل‌های حل‌نشده را جمع‌آوری می‌کند.
شرکت آنتروپیک گفت مدل «کلود هایکو ۴.۵»، یکی از نسخه‌های قدیمی‌تر مجموعه کلود، هنگام انجام وظایف نمونه در صفحات وب انتخاب‌شده به‌طور تصادفی با این وب‌سایت روبه‌رو شده است. این مدل سپس اطلاعات ساختگی‌ای ارسال‌کرده که وانمود می‌کرد شخصی را نزدیک صحنه جنایت دیده و بخش‌های مربوط به نام و راه‌های تماس را خالی گذاشته است.
پلیس فیلادلفیا اعلام‌کرد آنتروپیک ۲۸ سپتامبر متوجه این رویداد شده اما تا ۷ اکتبر اداره پلیس را مطلع‌نکرده است. به‌گفته پلیس، پس از نشست توجیهی در روز بعد، ماموران این ارسال را در سامانه یافتند و تایید‌کردند که به‌عنوان هرزنامه علامت‌گذاری شده و هرگز برای کارآگاهان فرستاده نشده است.
اداره پلیس فیلادلفیا در این بیانیه اعلام‌کرد که «پرونده‌های حل‌نشده به قربانیان واقعی، خانواده‌های داغدار و کارآگاهانی مربوط می‌شود که برای یافتن پاسخ تلاش می‌کنند».
این اداره افزود که «شرکت‌های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارسال اطلاعات نادرست به نهادهای مجری قانون انجام دهند».
پلیس آمریکا تاخیر در شناسایی و گزارش این رویداد را «غیرقابل‌قبول» توصیف‌کرد، اما افزود هیچ نشانه‌ای از دسترسی غیرمجاز به سامانه‌های این نهاد یا به‌خطر افتادن داده‌ها مشاهده نشده است.
آنتروپیک در گزارشی که روز جمعه منتشر‌کرد و در وب‌سایت خود (منبع به زبان انگلیسی) قرار داد، به موارد دیگری اشاره‌کرد که در آنها مدل‌های هوش‌مصنوعی به‌جای نسخه‌های تمرینی، فرم‌های واقعی دولتی را ارسال کرده یا فرم‌هایی را فرستاده‌اند که به‌صراحت از ارسال آنها منع شده بودند.
در همین گزارش آمده است که کلود همچنین با سوءاستفاده از یک نقص در سرور یک دانشگاه، محاسبه‌ای را اجرا کرده و بدون پرداخت هزینه لازم به داده‌های دولتی دسترسی پیداکرده است.
آنتروپیک بخش عمده این رفتار را نوعی «پافشاری» توصیف‌کرد؛ یعنی مدل‌ها به‌جای توقف، راه‌های دورزدن محدودیت‌ها را پیدا می‌کنند. این شرکت اعلام‌کرد در حال تغییر شیوه‌های آموزش است و دسترسی زنده به اینترنت را برای همه ارزیابی‌های داخلی تا زمانی که سازوکارهای ایمنی قابل‌اعتماد شوند، متوقف‌می‌کند.
این شرکت گفت کاخ سفید را در جریان قرار داده و نهادهای دولتی درگیر در آمریکا را نیز مطلع‌کرده است.
افزایش نگرانی درباره عامل‌های هوش‌مصنوعی
این رویدادها در حالی رخ‌می‌دهد که نگرانی‌های گسترده‌ای درباره عامل‌های هوش‌مصنوعی شکل‌گرفته است؛ سامانه‌هایی که می‌توانند برای انجام یک وظیفه مجموعه‌ای از اقدامات پیاپی را خودکار انجام‌دهند و این پرسش را مطرح‌می‌کنند که آیا توسعه‌دهندگان می‌توانند آنها را به‌طور قابل‌اعتماد کنترل‌کنند یا نه.
اوپن‌اِی‌آی در ماه ژوئیه فاش‌کرد که مدل‌های هوش‌مصنوعی این شرکت از محیط آزمایشی تحت‌کنترل خارج شده و در یک رخنه بزرگ، به سامانه‌های شرکت «هاگینگ‌فیس»، پلتفرمی برای اشتراک‌گذاری مدل‌ها و مجموعه‌داده‌های هوش‌مصنوعی، نفوذ‌کرده‌اند.
مقام‌های استرالیایی نیز در سپتامبر اعلام‌کردند که یکی از مدل‌های اوپن‌اِی‌آی در جریان آزمایش در ژوئن، به پرونده‌های محدودشده در وب‌سایت دولتی آمارهای سلامت دسترسی پیداکرده است.
این رخدادها در ماه سپتامبر به درخواست رهبران شرکت‌های بزرگ فعال در حوزه هوش‌مصنوعی برای تنظیم‌گری سخت‌گیرانه‌تر و نظارت بین‌المللی دامن‌زد؛ در حالی که هشدار داده می‌شود سامانه‌های هرچه قدرتمندتر ممکن است از کنترل انسان خارج‌شوند.