اعلام آمودی چند روز پس از آن انجام شد که شرکت هوش مصنوعی فاش کرد از مدلهایش در حملات سایبری، کارزارهای تبلیغاتی و تحقیقات خطرناک زیستی استفاده میشود.
داریا آمودی، مدیرعامل انتروپیک، روز شنبه از شرکتهای فعال در حوزه هوشمصنوعی (AI) خواست روند توسعه این فناوری قدرتمند را کند کنند، همزمان با آنکه نگرانیها از خطرات سامانههای رایانهای «فراهوشمند» رو به افزایش است.
آگهی
آگهی
فراهوشمندی مفهومی نظری است که در آن تواناییهای هوشمصنوعی از هوش انسانی فراتر میرود.
این اظهارات چند روز پس از آن مطرح شد که پژوهشگر هوشمصنوعی، جیکوب کاکسون، که از اوپناِیآی جدا شده و به انتروپیک پیوسته بود، تصمیم گرفت از این صنعت خارج شود و شرکتهای آمریکایی و غولهای این حوزه را متهم کرد که در رقابت برای توسعه مدلهای خودبهبودشونده «با جان ما قمار میکنند».
آمودی در یک یادداشت در وبسایت شخصی خود (منبع به زبان انگلیسی) نوشت: «باید سرعت بهبود تواناییهای مدلهای هوشمصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و باید از زمانی که به دست میآوریم عاقلانه استفاده کنیم.»
آمودی افزود: «هوشمصنوعی با خود خطراتی میآورد و چون فناوری بسیار قدرتمندی است این خطرات جدی هستند.»
آمودی که همراه خواهرش دانیلا در سال ۲۰۲۱ انتروپیک، سازنده مدل هوشمصنوعی کلود، را بنیان گذاشت، گفت: «نساختن این فناوری بشر را از منافع آن محروم میکند یا صرفا هوشمصنوعی را در اختیار قدرتهای اقتدارگرا قرار میدهد، در حالی که ساخت آن با سرعتی بسیار بالا بیملاحظه است. ما در پی راه میانه بودهایم.»
مدیرعامل انتروپیک افزود: «اما در چند ماه گذشته به این نتیجه رسیدهام که برای مقابله کامل با خطرات، احتیاط بسیار بیشتری لازم است.»
این موضعگیری آمودی بازتابدهنده درخواست دیگری از سوی انتروپیک در اوایل ژوئن برای کند کردن یا توقف توسعه است. سپس در اواخر ژوئیه، سم آلتمان، رئیس اوپناِیآی، رقیب انتروپیک و توسعهدهنده چتجیپیتی، گفت توسعهدهندگان شاید ناچار شوند داوطلبانه سرعت پیشرفت سریع خود را کم کنند تا جامعه فرصت همگامشدن پیدا کند.
تقریبا همزمان با بیانیه ماه ژوئن، بیش از هزار نفر از کارکنان شرکتهای پیشرو در حوزه هوشمصنوعی، از جمله خود آمودی، طوماری را امضا کردند که در آن از دولت آمریکا خواسته شده بود به «تنظیم آگاهانه سرعت پیشروی در مرزهای توسعه خودکار هوشمصنوعی» کمک کند.
اوپناِیآی فاش کرده بود که در جریان آزمایشها، مدلهای هوشمصنوعی از محیط محدود خود خارج شده، به اینترنت وصل شده و به هاگینگفیس، سایتی که برنامهنویسان برای ذخیره و اشتراکگذاری کد از آن استفاده میکنند، نفوذ کردهاند.
اوایل همین هفته، جیکوب کاکسون ۲۷ ساله، پس از آن که سه سال گذشته را صرف پیشآموزش مدلهای هوشمصنوعی کرده بود، ابتدا در اوپناِیآی و سپس امسال در رقیب آن انتروپیک که رویکردش را محتاطانهتر میدانست، زنگ خطر را به صدا درآورد.
پیشآموزش مرحلهای است که در آن مدلهای هوشمصنوعی حجم عظیمی از دادههای گوناگون، از عکس و ویدیو تا ضبطهای صوتی، را جذب میکنند تا بتوانند آنها را درک کنند و بعد تصاویر تولید کنند یا به پرسشهای کاربران در پلتفرمهای چت پاسخ دهند.
کاکسون سهشنبه در رشتهپستهایی در شبکه اجتماعی ایکس گفت: «هیچکدام از این دو شرکت مسئولانه رفتار نمیکنند. آنها مستقیم به سوی فراهوشمندی خودبهبودشونده میتازند و با جان ما قمار میکنند.»
او افزود: «کسانی که هوشمصنوعی میسازند جدی باور دارند که ممکن است تا پایان این دهه همه ما را از بین ببرد.»