اعلام آمودی چند روز پس از آن انجام شد که شرکت هوش مصنوعی فاش کرده بود از مدلهایش برای حملات سایبری، کارزارهای تبلیغاتی و پژوهشهای خطرناک زیستی بهره گرفته میشد.
داریو آمودی، مدیرعامل انتروپیک، روز شنبه از شرکتهای فعال در حوزه هوشمصنوعی خواست روند توسعه این فناوری قدرتمند را کند کنند، در حالی که نگرانیها درباره خطرهای سامانههای رایانهای «فراهوشمند» رو به افزایش است.
آگهی
آگهی
فراهوش نقطهای نظری است که در آن تواناییهای هوشمصنوعی از هوش انسانی فراتر میرود.
اظهارات او چند روز پس از آن مطرح شد که جیکوب کاسون، پژوهشگر هوشمصنوعی که از اوپنایآی جدا شده و به انتروپیک پیوسته بود، تصمیم گرفت از این صنعت کنارهگیری کند و شرکتهای آمریکایی و غولهای این حوزه را به «بازی کردن با جان ما» در رقابت برای توسعه مدلهای خودارتقادهنده متهم کرد.
آمودی در یادداشتی در وبسایت شخصی خود نوشت: باید سرعت ارتقای تواناییهای مدلهای هوشمصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و باید از زمانی که به دست میآوریم عاقلانه استفاده کنیم.
او نوشت: هوشمصنوعی با خود خطراتی میآورد و چون فناوری بسیار قدرتمندی است این خطرات جدی است.
آمودی که همراه خواهرش دنیلا در سال ۲۰۲۱ شرکت انتروپیک، توسعهدهنده مدل هوشمصنوعی کلود، را بنیانگذاری کرد، گفت: اگر این فناوری را نسازیم، بشریت از مزایایش محروم میشود یا صرفا هوشمصنوعی به دست قدرتهای اقتدارگرا میافتد و اگر آن را خیلی سریع بسازیم، بیپروا عمل کردهایم. ما در پی یافتن راه میانه بودهایم.
مدیرعامل انتروپیک اضافه کرد: اما در چند ماه گذشته به این نتیجه رسیدهام که برای پرداختن کامل به خطرات، احتیاط بیشتری لازم است.
اظهارات آمودی همسو با درخواست دیگری است که انتروپیک اوایل ژوئن برای کند کردن یا توقف توسعه مطرح کرده بود. سپس در اواخر ژوئیه، سم آلتمن، رئیس اوپنایآیِ رقیب انتروپیک و توسعهدهنده چتجیپیتی، گفت ممکن است لازم باشد توسعهدهندگان داوطلبانه از سرعت پیشرفتهای سریع خود بکاهند تا به جامعه فرصت همگام شدن بدهند.
تقریبا همزمان با بیانیه ژوئن، بیش از هزار کارمند شرکتهای پیشرو هوشمصنوعی، از جمله خود آمودی، دادخواستی را امضا کردند که از دولت آمریکا میخواست برای تنظیم آگاهانه سرعت پیشرفت در مرزهای توسعه خودکار هوشمصنوعی کمک کند.
اوپنایآی فاش کرده بود که در جریان آزمایش، مدلهای هوشمصنوعی از محیط محدود خود خارج شده، به اینترنت وصل شده و به هوگینگفیس، سایتی که توسعهدهندگان برای ذخیره و اشتراکگذاری کد از آن استفاده میکنند، نفوذ کردهاند.
اوایل همین هفته، جیکوب کاسونِ ۲۷ ساله پس از آن که سه سال گذشته را صرف پیشآموزش مدلهای هوشمصنوعی کرده بود، ابتدا در اوپنایآی و سپس امسال در رقیب آن انتروپیک که رویکردش را محتاطانهتر میدانست، زنگ خطر را به صدا درآورد.
پیشآموزش مرحلهای است که در آن مدلهای هوشمصنوعی حجم عظیمی از دادههای گوناگون، از تصویر و ویدئو گرفته تا ضبطهای صوتی، را جذب میکنند؛ دادههایی که به درک آنها از جهان کمک میکند تا بعد بتوانند تصویر تولید کنند یا به درخواستهای کاربران در سکوهای گفتوگومحور پاسخ دهند.
کاسون روز سهشنبه در رشتهپستهایی در ایکس گفت: هیچیک از این دو شرکت مسئولانه عمل نمیکند. آنها مستقیم به سمت فراهوشِ خودارتقادهنده میتازند و با جان ما قمار میکنند.
او اضافه کرد: کسانی که هوشمصنوعی را میسازند جدی باور دارند که این فناوری تا پایان این دهه میتواند همه ما را از بین ببرد.