این شرکت هوش مصنوعی اعلام کرد مدلهایش در موارد تازهای برای حملات سایبری، کارزارهای تبلیغاتی و تحقیقات خطرناک زیستی استفاده شده است؛ چند روز پس از آن که یکی از پژوهشگرانش به دلیل نگرانیهای ایمنی استعفا داد.
انتروپیک پنجشنبه اعلام کرد تلاش بازیگران بدخواه برای سوءاستفاده از مدلهای هوش مصنوعی خود در حملات سایبری، نظارت و تحقیقات زیستیِ بالقوه مرتبط با توسعه سلاح را متوقف کرده است.
آگهی
آگهی
این شرکت گفت با قدرتمندتر شدن مدلهای هوش مصنوعی، اجرای حملات سایبری پیشرفته به مهارت فنی چندانی نیاز ندارد و حتی افراد تنها هم اکنون میتوانند تهدیدهایی ایجاد کنند که تا یک سال پیش عملا غیرممکن بود.
انتروپیک افزود در جدیدترین مدلهای خود تدابیر حفاظتی را تقویت کرده تا تحقیقات زیستی با کاربرد احتمالی در ساخت سلاح را محدود کند.
انتروپیک در سومین گزارش خود درباره سوءاستفاده از هوش مصنوعی از مارس ۲۰۲۵ تاکنون اعلام کرد: «مواردی که اینجا به اشتراک میگذاریم نمونههای معمول سوءاستفاده نیست، بلکه مصداق برجستهترین و جدیدترین فعالیتهای تهدیدآمیزی است که تا امروز شناسایی کردهایم.»
این گزارش شامل بخشهایی از کدهای مخرب و دستورهای هوش مصنوعی است که شرکت میگوید شناسایی کرده و از دولتها و رقبای فعال در حوزه هوش مصنوعی خواسته برای سوءاستفادههای مشابه هوشیار باشند.
این شرکت گفت: «این یافتهها را منتشر میکنیم چون معتقدیم مسئولیت داریم موارد سوءاستفاده مخرب از خدمات خود را علنی کنیم.»
شرکت افزود: «هرچه مدلها توانمندتر شوند، خطراتشان هم بیشتر میشود، مگر آنکه توسعهدهندگان هوش مصنوعی و مدافعان جامعه برای ایمنتر کردن آنها اقدام کنند.»
انتروپیک که خود را برای عرضه اولیه سهام در پاییز امسال آماده میکند، این گزارش را دو روز پس از آن منتشر کرد که یکی از پژوهشگرانش به دلیل نگرانی از آنچه نبود توسعه مسئولانه هوش مصنوعی در این شرکت و رقبایش میدانست، استعفا داد.
او هشدارهایی را که پیشتر در صنعت درباره احتمال خارج شدن این فناوری از کنترل انسان مطرح شده بود، تکرار کرد.
درخواست از کلود برای خطرناکتر کردن یک ویروس
بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ پژوهشگران انتروپیک موارد سوءاستفادهای را شناسایی کردند که از فروشندگان جاسوسافزار و افراد با انگیزههای سیاسی تا گروههای تحت حمایت دولتها را در بر میگرفت که به انتشار تبلیغات میپرداختند.
در میان موارد تشریحشده در گزارش، بازیگران ناشناس تلاش کردند از مدلهای انتروپیک برای تحقیقاتی استفاده کنند که میتوانست به تولید سلاحهای زیستی منجر شود.
به گفته شرکت، در یک مورد سیستمهایش درخواست استفاده از چتبات کلود برای تدوین یک درخواست بودجه پژوهشی را مسدود کردند.
در گزارش آمده است: «پژوهشی که در این درخواست توضیح داده شده بود شامل تحقیق «افزایش کارکرد» بود؛ یعنی تحقیقاتی که با دستکاری ژنتیکی یک موجود زنده، ویژگی زیستی جدید یا تقویتشدهای در آن ایجاد میکند؛ آن هم روی ویروس چیکونگونیا.»
این تحقیق بر میزان قابلیت انتقال ویروس و توانایی آن برای گریز از سیستم ایمنی بدن تمرکز داشت.
چیکونگونیا ویروسی منتقلشونده از طریق پشه است که درد شدید و تب ایجاد میکند. در این طرح پیشنهادی برای دریافت کمکهزینه، هدف از تقویت جهشها این بود که ویروس به تدریج خطرناکتر شود.
انتروپیک اعلام کرد چنین تحقیقاتی «قطعا» میتواند به توسعه واکسنها و درمانها کمک کند، اما افزود «ممکن است برای خطرناکتر کردن عامل بیماریزا نیز مورد استفاده قرار گیرد».
«نمیتوانیم تضمین کنیم آسیبی رخ نمیدهد»
در هیچیک از موارد ذکرشده در گزارش، از مدلهای جدیدتر و قدرتمندتر انتروپیک، یعنی کلود فیبل یا مدلهای کلاس میتوس، استفاده نشده بود؛ به جز یک مورد: «کارزار پنهان در مقیاس صنعتی برای استخراج تواناییهای یک مدل و بازتولید آنها در مدلی دیگر بدون مجوز».
انتروپیک گفت مدلهای قدیمیترش، از جمله کلود اوپوس ۴ و کلود سونت ۴.۵ که در سال ۲۰۲۵ عرضه شدند، «به مراتب زیر آستانهای قرار داشتند که بتوانند به شکلی معنادار به یک کاربر خبره در انجام تحقیقات خطرناک زیستی کمک کنند».
در گزارش آمده است: «در نتیجه، تدابیر ایمنی در این مدلها سختگیرانهتر نبود و بیشتر بر جلوگیری از دسترسی به محتوایی متمرکز بود که ممکن بود به افراد مبتدی در بازسازی سلاحهای زیستی شناختهشده کمک کند.»
گزارش افزود: «اما درباره مدلهای امروزی، که قادرند در طیف گستردهای از وظایف پیچیده تحقیقاتی علمی کمک کنند، شواهد دیگر قطعی نیست و ما نمیتوانیم همان اطمینان را بدهیم.»
به همین دلیل، انتروپیک در مدلهای جدیدتر خود، از جمله کلود فیبل ۵، تدابیر سختگیرانهتری برای محدود کردن دسترسی به طیف وسیعی از پرسشهای مربوط به تحقیقات زیستی دوکاربردی اعمال کرده است.
همزمان با عرضه مدلهای هرچه قدرتمندتر توسط شرکتهای هوش مصنوعی، کارشناسان از دولتها خواستهاند این فناوری را تنظیمگری کنند و مسئولیت نظارت را صرفا بر عهده خود صنعت نگذارند.
جان ثیکستون، استادیار علوم رایانه در دانشگاه کرنل، گفت این وضعیت شرکتهایی چون انتروپیک و اوپناِیآی را در موقعیتی ناخوشایند قرار میدهد، زیرا عملا ناچارند «در مقیاس اجتماعی دست به داوری ارزشی بزنند بیآنکه هیچ نوع نظارت دموکراتیک یا شور و مشورتی وجود داشته باشد».
گزارش پس از هشدار یک پژوهشگر منتشر شد
انتروپیک همچنین گروههایی را شناسایی کرد که صدها حساب کاربری جعلی در شبکههای اجتماعی ساخته بودند؛ حسابهایی که طوری طراحی شده بود تا شبیه کاربران عادی به نظر برسند و سپس در طول یک هفته مطالبی منتشر میکردند که همگی یک پیام سیاسی واحد را تقویت میکرد.
شرکت ۹ مورد از این دست را تشریح کرده که منشأ آنها روسیه، ایران، ترکیه و کشورهای حوزه خلیج فارس، جنوب آسیا، آفریقا و اروپا بوده است.
انتروپیک گفت در حالی که پلتفرمهای شبکههای اجتماعی معمولا زمانی میتوانند عملیات نفوذ را شناسایی کنند که پستها در حال گردش است، این شرکت «ممکن است همان عملیات را هنگام طراحی در کلود مشاهده کند».
این گزارش پس از استعفای جیکوب کاکسون، پژوهشگر انتروپیک، منتشر میشود؛ او گفت شرکت و رقیب اصلیاش، اوپناِیآی، «به سرعت به سوی ابرهوش خودبهخود بهبوددهنده در حرکتاند و با زندگی ما قمار میکنند» و به همین دلیل محل کارش را ترک میکند.
کاکسون هشدار داد برخی از همکاران سابقش بر این باورند که هوش مصنوعی میتواند پیش از پایان دهه جان انسانها را تهدید کند.
انتروپیک اعلام کرد همه فعالیتهای مخربی را که در گزارش شناسایی شده بود مسدود کرده، از این یافتهها برای تقویت تدابیر ایمنی خود بهره گرفته و اطلاعات مربوط را در اختیار نهادهای دولتی و شرکای صنعتی گذاشته است.
شرکت گفت: «امیدواریم یافتههای این گزارش به دیگر توسعهدهندگان کمک کند الگوهای مشابه را در پلتفرمهای خود شناسایی کنند، به دولتها و جامعه مدنی دید روشنتری از چگونگی شکلگیری تهدیدهای نوظهور بدهد و توان دفاع جمعی را تقویت کند.»