سازندگان هوش مصنوعی از دولت‌ها می‌خواهند سرعت رشد این صنعت را پس از رخنه مدل‌ها کاهش دهند

بیش از هزار کارمند از شرکتهای پیشروی فعال در حوزه هوش مصنوعی روز سه‌شنبه طوماری را امضا کردند که در آن از دولت آمریکا خواسته شده برای «تنظیم آگاهانه سرعت» توسعه هوش مصنوعی اقدام کند.

آگهی

آگهی

در میان امضاکنندگان، مدیرعامل شرکت آنتروپیک، رئیس بخش پژوهش اوپن‌ای‌آی، رهبر استراتژیک دیپ‌مایند، زیرمجموعه هوش مصنوعی گوگل، و دانشمند ارشد متا ای‌آی حضور داشتند.

این طومار (منبع به زبان انگلیسی) خواستار آن است که «دولت آمریکا از تلاش بین‌المللی برای تدوین ابزارهای فنی و حکمرانی لازم به منظور تنظیم آگاهانه مرزهای توسعه خودکار هوش مصنوعی حمایت کند».

طومار می‌گوید: «شرکتهای پیشروی جهان در حوزه هوش مصنوعی بر این باورند که ممکن است به خودکارسازی پژوهش در این حوزه نزدیک شده باشند. پیش‌بینی دقیق این که این روند تا چه حد پیشرفت هوش مصنوعی را شتاب خواهد داد دشوار است، اما خطر واقعی وجود دارد که توسعه قابلیت‌ها به سرعت از توان ما برای درک یا کنترل سامانه‌های حاصل فراتر برود.»

این فراخوان در پی یک هشدار امنیتی اخیر مطرح شد؛ پس از آن که مدلهای پیشرفته هوش مصنوعی یک حمله سایبری خودکار انجام دادند، از محیط کنترل‌شده «سندباکس» که قرار بود آزمایش در آن انجام شود گریختند و به سرورهای پلتفرم اشتراک‌گذاری کد هاگینگ فیس نفوذ کردند.

سم آلتمن، مدیرعامل اوپن‌ای‌آی که این طومار را امضا نکرد، سه‌شنبه در گفت‌وگو با پادکست «سرمایه‌گذاری مثل بهترین‌ها» گفت که توسعه‌دهندگان هوش مصنوعی ممکن است ناچار شوند داوطلبانه سرعت پیشرفت را کم کنند تا به جامعه فرصت سازگاری بدهند.

آلتمن سه‌شنبه در پادکست «سرمایه‌گذاری مثل بهترین‌ها» گفت: «این نخستین نوع حادثه امنیتی بود که آن را به شکلی بسیار ملموس احساس کردم» و افزود که «کمی شگفت‌زده» شده است از این که افراد بیشتری واکنشی مشابه نشان ندادند.

این نخستین بار نبود که یک مدل هوش مصنوعی خارج از کنترل توسعه‌دهندگانش عمل می‌کرد، اما آخرین حادثه از نظر بسیاری به‌طور ویژه نگران‌کننده ارزیابی شد.

آیا به تکینگی هوش مصنوعی رسیده‌ایم؟

چند روز پیش‌تر آلتمن در مصاحبه‌ای با پادکست «ریلنتلس» گفته بود که به نقطه‌ای رسیده‌ایم که در آن هوش مصنوعی از هوش انسانی پیشی می‌گیرد و آغاز به پیشرفت با سرعتی بیشتر از توان پیش‌بینی یا کنترل انسان می‌کند؛ نقطه‌ای که از آن با عنوان «تکینگی» یاد می‌شود.

آلتمن یادآور شد که موضوع تکینگی تا یک دهه پیش بیشتر بحثی دور و تا حدی شوخی‌گونه در گفت‌وگوهای ناهار همکاران بود، اما اکنون این وضعیت تغییر کرده است.

او در ادامه همان گفت‌وگو از برخی رهبران حوزه هوش مصنوعی که درباره خطرهای این فناوری هشدار داده‌اند انتقاد کرد، بی آن که نامی از شرکت آنتروپیک ببرد، هرچند مدیرعامل آن داریو آمودی به چنین هشدارهایی شناخته می‌شود.

او گفت قصد دارد به طور فعال در برابر آنچه «چشم‌اندازهای ترسناک» بدیل از آینده هوش مصنوعی می‌خواند، مقابله کند.