شرکت Anthropic میگوید قدرتمندترین مدل جدید هوش مصنوعیاش به نام Mythos برای عرضه عمومی بیش از حد خطرناک است و این امر بحثهای فوری با دولتها و نهادهای ناظر مالی برانگیخته است.
شرکت Anthropic در حال مذاکره با دولت آمریکا بر سر مدل جدید هوش مصنوعی Mythos است که به گفته این شرکت آنقدر قدرتمند است که انتشار عمومی آن ممکن نیست چون «ریسکهای بیسابقهای برای امنیت سایبری ایجاد میکند».
آگهی
آگهی
صنعت بانکداری هم زنگ خطر را به صدا درآورده است.
همبنیانگذار Anthropic روز دوشنبه در رویداد اقتصاد جهانی سمافور در واشنگتن گفت: «دولت باید از این چیزها خبر داشته باشد.»
او اضافه کرد: «کاملا، ما در مورد Mythos با آنها صحبت میکنیم و درباره مدلهای بعدی هم با آنها صحبت خواهیم کرد.»
او با اشاره به مناقشه علنی با دولت که ماه گذشته باعث شد این شرکت به عنوان یک ریسک زنجیره تامین برچسب بخورد گفت: «نمیخواهم این موضوع مانع از این شود که توجه عمیق ما به امنیت ملی دیده نشود.»
برچسب ریسک زنجیره تامین پس از شکست مذاکرات بر سر تلاش Anthropic برای محدود کردن نحوه استفاده وزارت دفاع آمریکا از مدلهای هوش مصنوعی این شرکت صادر شد.
این اقدام پس از آن انجام شد که اسکات بسنت، وزیر خزانهداری آمریکا، هفته گذشته نشستی با مدیران ارشد بانکهای آمریکایی در واشنگتن برگزار کرد تا درباره مدل Mythos گفتوگو کند.
به گزارش بلومبرگ، در این نشست از مدیران بانکی خواسته شد از مدل Mythos شرکت Anthropic برای شناسایی آسیبپذیریها استفاده کنند.
Anthropic همچنین اعلام کرد عرضه مدل جدید هوش مصنوعی خود را به چند شرکت فناوری و امنیت سایبری محدود میکند. در این فهرست آمازون، اپل و جیپی مورگان چیس دیده میشوند.
بلومبرگ گزارش داد که گلدمن ساکس، سیتیگروپ، بنک آو امریکا و مورگان استنلی نیز در حال آزمایش مدل Anthropic هستند.
دوشنبه موسسه دولتی امنیت هوش مصنوعی بریتانیا (AISI) هشدار داد که Mythos از نظر سطح تهدید سایبری «یک پله بالاتر» از مدلهای قبلی است.
همزمان روزنامه فایننشال تایمز گزارش داد نهادهای ناظر مالی بریتانیا نیز در حال بررسی ریسکهای احتمالی Mythos هستند.