اسناد عرضه اولیه شرکت هوش مصنوعی نسبت به خطرات احتمالی ناشی از سامانه‌های هرچه خودکارتر و چالش‌های مالی و مقرراتی هشدار می‌دهد.
سامانه‌های سرکش هوش مصنوعی، حملات سایبری و امکان استفاده از هوش مصنوعی برای ساخت سلاح‌های خطرناک، از جمله خطرهایی هستند که شرکت انتروپیک هنگام آماده شدن برای ورود به بازار سهام، به اطلاع سرمایه‌گذاران رسانده است.
آگهی
آگهی
از میان ۳۳۵ صفحه‌ای که وضعیت مالی انتروپیک، دستمزد مدیران، سیاست تقسیم سود و موارد مشابه را تشریح میکند، ۹۳ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی مواردی که میتواند به سرمایه‌گذاری سهامداران بالقوه آسیب بزند. برای مقایسه، عوامل خطر رقیب این شرکت، اسپیس‌اکس، تنها ۳۸ صفحه از بیش از ۲۵۰ صفحه را شامل میشود.
این افشاگری‌ها بخشی الزامی از روند عرضه اولیه سهام است و به سرمایه‌گذاران بالقوه تصویر روشن‌تری از خطرهایی می‌دهد که با خرید سهام شرکت با آنها روبه‌رو میشوند.
انتروپیک هنگام معرفی خود به سرمایه‌گذاران، عرضه اولیه سهامش را گامی برای کاهش خطرهایی توصیف میکند که به باور این شرکت، هوش مصنوعی به همراه می‌آورد.
بنیانگذاران شرکت در نامه‌ای خطاب به سهامداران بالقوه در مدارک عرضه اولیه نوشته‌اند: «ساخت هوش مصنوعی به معنای مهار خودِ شناخت است و هر چیز به این اندازه قدرتمند میتواند هم به بدی و هم به خوبی به کار رود.» آنها در ادامه افزوده‌اند: «انتروپیک سازمانی است که عمیقا بر ارزش‌ها استوار است و تا حد زیادی با هدف کمک به جهان برای بهره‌گیری از مزایای هوش مصنوعی و پرهیز از خطرهای آن تاسیس شده است.»
با این حال، فهرست خطرها طولانی است و از مسائل روزمره، مانند احتمال ناتوانی شرکت در حفظ کارکنان کلیدی یا عبور از موانع مقرراتی، تا نقش داشتن در حملات سایبری و گسترش اطلاعات نادرست خطرناک را در بر میگیرد.
در ادامه نگاهی داریم به بخشی از خطرهایی که انتروپیک تشریح کرده است:
رشد سریع این فناوری
این شرکت اعلام کرده است که ممکن است مدل‌هایش آنقدر سریع پیشرفت کنند که نتواند تدابیر ایمنی کافی را اجرا کند؛ امری که به گفته انتروپیک «میتواند احتمال رخدادهای ایمنی، مداخله نهادهای ناظر یا آسیب به اعتبار را افزایش دهد و به کسب‌وکار ما لطمه بزند.»
داریو آمودی، مدیر عامل انتروپیک، در ماه سپتامبر هشدار داد: «ممکن است ظرف شش تا دوازده ماه، هوش مصنوعی قادر شود انبوهی از عامل‌ها را هدایت کند که میتوانند کنترل سراسر اینترنت را در دست بگیرند.» این هشدار و اکنون تصمیم انتروپیک برای عرضه سهام در شرایطی مطرح میشود که در داخل و خارج از صنعت، نگرانی‌ها درباره سامانه‌های هرچه قدرتمندتری که میتوانند مسائلی فراتر از توان انسان را حل کنند اما در عین حال قادرند به طور خودکار دست به اقدامات زیان‌بار بزنند، رو به افزایش است.
این شرکت در پرونده خود نزد کمیسیون بورس و اوراق بهادار آمریکا (SEC) نوشته است: «هرچه سامانه‌های هوش مصنوعی خودگردان‌تر شوند و توانایی انجام اقدامات مهم با نظارت کمتر انسانی را پیدا کنند، این خطر وجود دارد که چنین سامانه‌هایی بدون دخالت انسان، به طور مستقل و در مقیاس وسیع دست به اقدامات زیان‌بار بزنند.»
انتروپیک افزوده است: «حتی اگر مدل‌های خود ما چنین آسیبی ایجاد نکنند، یک حادثه جدی ایمنی در هر سامانه پیشروی هوش مصنوعی میتواند به اعتبار کل صنعت هوش مصنوعی لطمه بزند، واکنش منفی افکار عمومی را برانگیزد و باعث موج جدیدی از مقررات شود که میتواند کسب‌وکار ما را تحت تاثیر منفی قرار دهد.»
اکنون که خودِ مدل‌های هوش مصنوعی در پژوهش و توسعه انتروپیک نقش دارند، به گفته این شرکت ممکن است پیشرفت هوش مصنوعی «فراتر از توان ما برای ارزیابی و تامین ایمنی مدل‌های جدید» باشد؛ امری که به نوشته این سند میتواند به کسب‌وکار انتروپیک آسیب برساند.
امکان سوءاستفاده عاملان خرابکار از این فناوری
این پرونده به نگرانی‌هایی اشاره میکند مبنی بر اینکه سامانه‌های پیشرفته هوش مصنوعی، اگر بدون تضمین‌های ایمنی و نظارت کافی توسعه یابند و به کار گرفته شوند، به گفته انتروپیک «برای بشریت خطرهای فاجعه‌بار یا وجودی ایجاد میکنند، به ویژه اگر این سامانه‌ها مورد سوءاستفاده قرار گیرند، نسخه‌برداری شوند، به سلاح تبدیل شوند یا با درجه بالایی از خودمختاری فعالیت کنند.»
انتروپیک اعلام کرده است که در صورتی که استفاده خرابکاران از فناوری آن باعث خسارت شود «یا اگر تدابیر ایمنی و محدودکننده مدل‌های ما نتوانند جلوی چنین سوءاستفاده‌ای را بگیرند»، این شرکت متضرر خواهد شد.
انتروپیک احتمال استفاده خرابکاران از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی یا توسل حاکمان اقتدارگرا به این فناوری برای سرکوب شهروندان را ترسیم کرده است. این شرکت در سپتامبر اعلام کرد که تلاش‌هایی را برای استفاده از مدل‌های خود در فعالیت‌های مخرب، از جمله حملات سایبری، جاسوسی و پژوهش‌هایی که میتوانست به توسعه سلاح‌های زیستی منجر شود، مسدود کرده است.
محدودیت توان پردازش میتواند مانع کار شرکت شود
توان پردازش یا «کامپیوت» یعنی قدرت و منابع محاسباتی لازم برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی، گران و پرتقاضا است. انتروپیک میگوید اگر نتواند توان پردازش کافی تامین کند یا «اگر نتوانیم توان پردازش خود را به شکل موثری میان کارهایمان توزیع کنیم، ممکن است نتوانیم مدل‌هایی آموزش دهیم که با محصولات رقبا رقابت کنند یا به شکل مناسب به مشتریان خود خدمت دهند.»
انتروپیک مخالفت‌های محلی با ساخت مراکز داده را نیز یک خطر برای کسب‌وکارش میداند. به گفته این شرکت، توسعه مراکز داده «باعث جنجال عمومی و توجه نهادهای ناظر درباره تاثیرات زیست‌محیطی، استفاده از زمین و آب و تخصیص منابع محدود برق شده است» و اگر ناظران در نتیجه این نگرانی‌ها الزامات یا هزینه‌های جدیدی تحمیل کنند، توان شرکت برای فعالیت ممکن است کاهش یابد.
علاوه بر این، بخش بزرگی از درآمد انتروپیک از شمار اندکی مشتری، از جمله اسپیس‌اکس و مایکروسافت، و کانال‌های توزیع محدود به دست می‌آید. این وابستگی به گفته شرکت به آن معناست که حتی اگر تنها یکی از مشتریان بزرگ تصمیم بگیرد همکاری را کاهش دهد یا کاملا قطع کند، چشم‌انداز و وضعیت مالی انتروپیک میتواند آسیب ببیند.
کاهش خطرها
در برخی جنبه‌ها، ترکیب خطرهای عظیم هوش مصنوعی با ظرفیت‌های عظیم آن، مهم‌ترین نقطه قوت انتروپیک در بازار است. این شرکت تلاش کرده خود را به عنوان تولیدکننده‌ای مسئول در حوزه هوش مصنوعی معرفی کند و با تاکید بر رویکرد ایمن، مشتریان تجاری را جذب کند.
انتروپیک در پرونده خود نوشته است: «ما معتقدیم شرکت‌های فعال در مرزهای هوش مصنوعی باید برای ایمنی و همراستاسازی سرمایه‌گذاری کنند تا به انتشار مسئولانه این فناوری کمک شود.»
برایان مالبری، استراتژیست ارشد بازار در شرکت تحقیقات سرمایه‌گذاری زَکس، گفت: «در عرضه‌های اولیه سهام باید بسیار روشن نشان داده شود که مردم هنگام سرمایه‌گذاری پول خود در سهامی که تازه وارد بازار شده با چه خطرهایی روبه‌رو هستند.»
او افزود: «این یکی از نکته‌های مثبت بازار سرمایه در داخل ایالات متحده است؛ سطح شفافیتی که شرکت‌ها باید به آن پایبند باشند. حضور به عنوان یک شرکت سهامی عام در بورس آمریکا مستلزم آن است که این خطرها را به شکلی بسیار واضح تشریح کنید تا مردم درک کنند اگر میخواهند با پولی که به سختی به دست آورده‌اند در چنین معامله‌ای مشارکت و آن را تامین مالی کنند، با چه چیزی مواجه میشوند.»