اعلام متا کمی پس از آن منتشر شد که اوپنایآی و آنتروپیک نیز گزارش دادند مدلهای هوش مصنوعی آنها هنگام آزمایش به سامانههای شرکتهای دیگر نفوذ کردهاند.
شرکت متا روز چهارشنبه نخستین ایجنت کدنویسی خود با نام Muse Code را راهاندازی کرد؛ در حالی که این شرکت همچنان برای رقابت بهتر با رقبایی چون OpenAI و Anthropic به طور گسترده روی خدمات و مدلهای هوش مصنوعی سرمایهگذاری میکند.
آگهی
آگهی
دسترسی توسعهدهندگان به Muse Code از طریق گزینه پرداختبهازایمصرف فراهم میشود که قیمتگذاری آن مشابه نسخه Muse Spark 1.1 خواهد بود؛ نسخهای که در حال حاضر برای هر یک میلیون توکن خروجی ۴.۲۵ دلار و برای هر یک میلیون توکن ورودی ۱.۲۵ دلار دریافت میکند.
این روش باعث میشود توسعهدهندگان بتوانند در یک رابط کاربری واحد و در حالی که همزمان با چند ایجنت دیجیتال مبتنی بر هوش مصنوعی کار میکنند، آسانتر اپلیکیشن بسازند.
همزمان، این شرکت فاش کرد که یکی از مدلهای هوش مصنوعیاش در جریان یک آزمون امنیت سایبری، شرکت دیگری را هک کرده است.
این اتفاق به دلیل اشتباه شریک مستقل آزمایش این شرکت، Irregular، رخ داد؛ اشتباهی که دسترسی مدل به اینترنت را فراتر از آنچه از پیش برنامهریزی شده بود ممکن کرد و به آن اجازه داد در سامانههای داخلی شرکت ناشناس تغییر ایجاد کند.
این رویداد در حالی رخ میدهد که موج رو به افزایشی از مواردی گزارش شده که در آنها مدلهای هوش مصنوعی شرکتهای بزرگی مانند OpenAI و Anthropic در جریان آزمایش وارد سامانههای شرکتهای دیگر شدهاند.
شرکت OpenAI پیشتر پذیرفته است که یکی از ایجنتهای هوش مصنوعیاش در جریان آزمایشی مشابه، پلتفرم هوش مصنوعی Hugging Face را هک کرده است.
به همین شکل، شرکت Anthropic هفته گذشته اعلام کرد برخی از مدلهای Claude آن وارد سامانههای سه شرکت شدهاند، هرچند نام این سازمانها را اعلام نکرد.
متا اعلام کرده است که در حال بررسی این رویداد است.
افزایش موارد هک توسط مدلهای هوش مصنوعی
در پی آنکه طی ماههای اخیر چند سامانه هوش مصنوعی از محیطهای آزمایشی امن خارج شده و به طور غیرمجاز به سامانههای سازمانهای بیرونی دسترسی پیدا کردهاند، نگرانیها درباره توان مدلهای هوش مصنوعی و شرکتهای پشت آنها رو به افزایش است.
شرکتهای OpenAI و Anthropic به دلیل انتشار داوطلبانه گزارش این رخنهها تا حدی تحسین شدهاند؛ اما همچنان این پرسش باقی است که اساسا چگونه اجازه داده شده چنین شکستهایی رخ دهد.
Anthropic همچنین با موسسه مستقل ارزیابی هوش مصنوعی METR همکاری میکند تا این موضوع را بیشتر بررسی کند.
در جریان آزمونهای ایمنی، برای مدلهای Claude شرکت Anthropic ماموریتی تعیین شد: یافتن یک قطعه اطلاعات محرمانه که روی رایانه دیگری در یک شبکه آزمایشی بسته پنهان شده بود، حتی اگر لازم باشد برای دسترسی به آن هک کنند. اما به دلیل سوءتفاهم با شریک ارزیابی که این تمرین را اجرا میکرد، شبکه مورد استفاده در عمل به اینترنت واقعی متصل بود.
وقتی جستوجوی Claude آن را به سامانههای واقعی رساند، سه مدلی که در آزمایش شرکت داشتند واکنشهای متفاوتی نشان دادند؛ یکی پس از تشخیص واقعی بودن سامانه همچنان به حمله ادامه داد، دیگری ظاهرا خود را متقاعد کرد که هنوز در محیط آزمایش است، و سومی وقتی نتیجه گرفت هدف بخشی از تمرین نیست، عملیات را متوقف کرد.
Anthropic از دیگر شرکتهای فعال در حوزه هوش مصنوعی خواسته بررسی کنند آیا مدلهای خودشان بدون آنکه آگاه باشند سامانههای سازمانهای بیرونی را هک کردهاند یا نه.
نه Anthropic و نه سازمانهای آسیبدیده هنگام وقوع این رخنهها از آنها خبر داشتند. این شرکت تنها پس از بررسی بیش از ۱۴۱ هزار جلسه ارزیابی، آن هم در پی افشای قبلی OpenAI مبنی بر اینکه یکی از مدلهایش در جریان آزمایشی مشابه وارد پلتفرم هوش مصنوعی Hugging Face شده بود، متوجه این حوادث شد.