جیکوب کاکسون میگوید مدیران هوش مصنوعی در خفا از فاجعه میترسند اما باز هم برای ساخت آن میشتابند. کنارهگیری او پس از تابستانی از شکست در مهار این فناوری و تلاش تازه کنگره برای ممنوعیت کامل ابرهوش مصنوعی است.
یک پژوهشگر که سه سال از عمرش را صرف ساخت سامانههای پشت برخی از قدرتمندترین مدلهای هوش مصنوعی جهان کرده، به طور کامل از این صنعت کنار رفته و هشدار داده است که شرکتهایی که برای ساخت سامانههای هرچه توانمندتر هوش مصنوعی با هم رقابت میکنند «با جان ما قمار میکنند».
آگهی
آگهی
جیکوب کاکسون ۲۷ ساله، پس از دورهای کار در اوپنایآی، روز ۸ سپتامبر از Anthropic استعفا داد و در یک رشته طولانی در ایکس دلایل این تصمیم را تشریح کرد.
او نوشت: «هیچکدام از این دو شرکت مسئولانه عمل نمیکنند. آنها مستقیما به سمت ابرهوش خودبهبوددهنده میتازند.»
کاکسون در آن رشته نوشت که سامانههای هوش مصنوعی در حال نزدیک شدن به نقطهای هستند که میتوانند «هر چیزی را هک کنند، ظرف یک شب هر حوزهای را دگرگون کنند و به قدرت و منابع واقعی دست پیدا کنند» و تاکید کرد سرعت پیشرفت در هر یک از این حوزهها «کند نمیشود».
او مدعی شد بسیاری از کسانی که این فناوری را میسازند، در محافل خصوصی از این میترسند که ممکن است برای بشریت مهلک باشد، هرچند در ملأعام از بیان آن خودداری میکنند.
او نوشت: «کسانی که مشغول ساخت سامانههای هوش مصنوعی هستند صادقانه باور دارند که این فناوری میتواند تا پایان این دهه همه ما را از بین ببرد» و افزود که مدیران شرکتها در رسانهها طوری حرف میزنند که «معقول به نظر برسد»، اما در جلسات خصوصی همان ترسها را بیان میکنند.
رقابتی که هر دو طرف میگویند نمیتوانند متوقفش کنند
ترک کار کاکسون هشداری منفرد و استثنایی نیست.
داریو آمودی، همبنیانگذار Anthropic، بخش زیادی از سال را صرف زنگ خطر به صدا درآوردن درباره فناوریای کرده که شرکت خودش میسازد. او در مقالهای در ژانویه هشدار داد که هوش مصنوعی قدرتمند میتواند ابزارهای لازم برای «کابوس تمامیتخواهانه» نظارت کامل را در اختیار حکومتهای اقتدارگرا بگذارد و در یادداشتی بعدی هم تذکر داد که ابرهوش «ما را به عنوان یک گونه در بوته آزمایش خواهد گذاشت».
سم آلتمن، مدیرعامل اوپنایآی، در اظهارنظرهای عمومی لحنی محتاطانهتر اختیار کرده، اما همچنان ابرهوش را – اصطلاحی که او به جای «هوش عمومی مصنوعی» ترجیح میدهد – پدیدهای توصیف میکند که ظرف «چند هزار روز» یا حدودا تا سال ۲۰۳۲ از راه خواهد رسید.
آمودی در مقابل، در سند سیاستیای که مارس ۲۰۲۵ به کاخ سفید ارائه کرد اعلام کرد که باید از همان اواخر ۲۰۲۶ انتظار ظهور چیزی را داشت که او آن را «هوش مصنوعی قدرتمند» مینامد.
کاکسون به نوبه خود نوشت کارکنان Anthropic خطرها را به خوبی میشناسند اما خود را گرفتار یک رقابت میبینند و معتقدند اگر سرعتشان را کم کنند، توسعهدهندگانی کماحتیاطتر جای آنها را خواهند گرفت.
او این وضعیت را «قماری سرشار از غرور و خودبزرگبینی» توصیف کرد که به گفته او «نباید از درون اسلک یک شرکت خصوصی به راه بیفتد».
این نخستین استعفای از این جنس در Anthropic هم نیست. فوریه امسال، مرینانک شارما، سرپرست پیشین پژوهشهای ایمنی این شرکت، در نامهای هنگام کنارهگیری هشدار داد که بشریت با خطری جدی و رو به گسترش از سوی این فناوری روبهرو است.
تیرهای هشدار
کاکسون نسبت به امکان هماهنگی درون صنعت خوشبین است و به رشتهای از رخدادهای امسال اشاره میکند که در آنها سامانههای هوش مصنوعی از مرزهایی که برایشان تعیین شده بود فراتر رفتند.
در ژوئیه، عاملهای هوش مصنوعی ساخته اوپنایآی از یک محیط آزمایشی داخلی خارج شدند و به طور خودکار به هاگینگ فیس، سکوی بهاشتراکگذاری کد، نفوذ کردند؛ رویدادی که خود اوپنایآی بعدا آن را «تیر هشداری» برای این بخش توصیف کرد.
Anthropic، محل کار پیشین کاکسون، الگوی مشابهی را افشا کرده و گفته است مدلهای کلود این شرکت بدون مجوز به سامانههای واقعی سه سازمان مختلف دسترسی پیدا کردهاند.
کاکسون گفت چنین رخدادهایی امکان توافق بر سر تنظیم سرعت توسعه میان آزمایشگاههای آمریکایی را «عملیتر» کرده است، هرچند او باور ندارد صنعت در حال حاضر در مسیری قرار دارد که بتواند از یک رقابت جهانی اجتناب کند.
او پیشنهاد کرد که در نهایت شاید نیاز به «اقداماتی پرهزینه، مانند ممنوعیت موقت ارتقای تواناییهای مدلها» باشد.
ورود قانونگذاران به میدان
برخی قانونگذاران دیگر منتظر هماهنگی داوطلبانه آزمایشگاهها نماندهاند.
برنی سندرز، سناتور، و گرگ کاسار، عضو مجلس نمایندگان، سوم سپتامبر طرح «قانون ممنوعیت ابرهوش مصنوعی» را معرفی کردند؛ لایحهای که توسعه ابرهوش مصنوعی را در ایالات متحده برای همیشه غیرقانونی میکند و تا زمان تعیین مقررات ایمنی از سوی یک نهاد ناظر فدرال جدید، وقفهای موقت بر سایر انواع توسعه پیشرفته هوش مصنوعی اعمال خواهد کرد.
متخلفان ممکن است با حبس تا ۲۰ سال روبهرو شوند. در اقدامی جداگانه، جرج وایتسایدز و پت هریگان، دو عضو دیگر مجلس نمایندگان، طرحی ارائه کردهاند که موسسه ملی استانداردها و فناوری را موظف میکند رصد کند سامانههای پیشرفته هوش مصنوعی چگونه خود برای انجام پژوهش و توسعه بیشتر در حوزه هوش مصنوعی به کار گرفته میشوند.
در بروکسل، اتحادیه اروپا مسیری تدریجی اما سختگیرانهتر در تنظیمگری برگزیده است.
تعهدات مربوط به مدلهای هوش مصنوعی با کاربرد عمومی در چارچوب قانون هوش مصنوعی این اتحادیه از اوت ۲۰۲۵ لازمالاجرا شد و مقررات سختگیرانهتر برای سامانههای پرخطر نیز از اوت ۲۰۲۶ به دنبال آن آمد.
کمیسیون اروپا فشار چند شرکت بزرگ فناوری برای تعویق اجرای این قانون را رد کرده و شرکتهایی که آن را نقض کنند با جریمهای تا سقف ۳۵ میلیون یورو یا ۷ درصد از گردش مالی جهانیشان، هرکدام که بیشتر باشد، روبهرو خواهند شد.
با وجود ابعاد گسترده هشدارهایش، کاکسون رشته خود را با فراخوانی مستقیم به پژوهشگرانی که همچنان در آزمایشگاههای مرزی هوش مصنوعی کار میکنند به پایان رساند و از آنها خواست خوب بیندیشند که سالهای پیش رو در عمل چه چیزی از آنها مطالبه خواهد کرد.
او پرسید: «آیا میخواهید یک اجرای RL ابرهوشمند را شروع کنید، بدون آنکه درکی دقیق از ذهن آن داشته باشید؟»
او افزود: «باید سرتان را پایین بیندازید چون «به هر حال دارد اتفاق میافتد» یا از همین لحظه برای طلب شرایطی متفاوت استفاده کنید؟»