مدیران انویدیا، اوپناِیآی و انتروپیک سهشنبه در کاخ سفید تعهد کردند هوش مصنوعی خود را مهار کنند اما این تعهد ضمانت حقوقی ندارد. در اتحادیه اروپا در صورت نقض مقررات تا ۳ درصد گردش مالی جهانی جریمه میشوند.
قدرتمندترین چهرههای دنیای فناوری سهشنبه پس از شرکت در نشست کاخ سفید با رئیسجمهور آمریکا دونالد ترامپ، با این وعده بیرون آمدند که خلاقیتهای خود را مهار کنند.
آگهی
آگهی
ترامپ گفت مدیران عامل، از جمله جنسن هوانگ از انویدیا، گرگ بروکمن از اوپناِیآی و داریو آمودی از آنتروپیک، تعهدی «اخلاقا الزامآور» را امضا کردهاند که آنها را ملزم میکند سازوکارهای حفاظتی را در هوش مصنوعی (AI) تعبیه کنند.
این توافقنامه پشتوانه حقوقی ندارد و هیچ مجازات روشنی برای نقض آن تعیین نشده است.
ترامپ پس از نشست به خبرنگاران گفت: «قرار است خودشان بر کار خود نظارت کنند.»
این ضیافت ناهار ۳۱ مهمان را دور هم جمع کرد، از جمله مارک زاکربرگ از متا، ایلان ماسک، بنیانگذار آمازون جف بزوس، ساتیا نادلا از مایکروسافت و سندار پیچای از گوگل، و در زمانی برگزار شد که فضای واشنگتن نسبت به هوش مصنوعی هر روز بدبینتر میشود.
نمایندگان کنگره تحت فشار فزاینده رایدهندگان قرار گرفتهاند تا رشد این فناوری را مهار یا کند کنند زیرا بیم آن میرود که جای نیروی انسانی را بگیرد و نظم اجتماعی را برهم بزند. مجموعهای از رخدادها در ماههای اخیر که در آنها سامانههای خودکار اوپناِیآی از محدودیتهای تعیینشده سر برآوردهاند، بر این نگرانیها افزوده است.
اولین حادثه، نفوذ به هاگینگ فیس، پلتفرم پرکاربرد اشتراکگذاری مدلهای هوش مصنوعی، در ماه ژوئیه بود. روز دوشنبه اوپناِیآی انتشار تازهترین مدل خود، آسترا 6.1، را پس از آن که آزمونهای داخلی نشان داد با استانداردهای ایمنی همخوانی ندارد، لغو کرد.
مهمترین نکات این نشست را در ادامه میخوانید.
مدیران فناوری و «خودنظارتی»
این سند که «توافقنامه کاخ سفید» نام گرفته، تعهد صنعت به تنظیمگری بر محور خود را تشریح میکند. این توافقنامه الزام قانونی ندارد اما راه را به روی آن باز میگذارد که «در صورت لزوم، این گامها در قالب قوانین یا مقررات تدوین شوند».
زاکربرگ گفت این توافقنامه قرار است به مشتریان اطمینان دهد که هوش مصنوعی «دقیقا آن طور که ما میخواهیم عمل میکند». به گفته او، این توافق شامل «کنترلهای داخلی قوی» و چندین لایه حسابرسی، از ارزیابیهای داخلی ریسک گرفته تا حسابرسان بیرونی و نظارت هیاتمدیره شرکتهاست و میتواند نقطه آغاز استانداردهای سراسری در صنعت باشد.
ماسک این موضوع را صریحتر بیان کرد و گفت: «مدیران در عمل توافق کردهاند که تکالیف یکدیگر را تصحیح کنند؛ کاری که به دلایل روشن، بسیار بهتر از آن است که هرکس تنها تکالیف خودش را تصحیح کند.»
ترامپ اعلام کرد ظرف چند روز آینده فردی را برای نظارت بر اجرای این توافقنامه منصوب خواهد کرد و همچنین پیشنهاد داد کمیتهای حدودا دهنفره تشکیل شود تا «بر کل این فعالیت نظارت کند».
شرکت آمودی مدتهاست بر سر ایمنی هوش مصنوعی با کاخ سفید درگیر جدی است و او لحنی محتاطتر از دیگران در پیش گرفت.
آمودی پس از نشست گفت: «همان طور که رئیسجمهور گفته، هرکس در هوش مصنوعی برنده شود، برنده است. فکر میکنم این نکته بسیار مهم است، اما باور دارم این فناوری خطرات بسیار واقعی دارد و سازوکار رسیدگی به این خطرات هنوز در دست بحث است.»
شرکت او اخیرا در امیدنامه عرضه اولیه سهام خود به سرمایهگذاران درباره خطرات بالقوه وجودی برای بشریت هشدار داده است. آنتروپیک امیدوار است از اوایل نوامبر وارد بورس شود.
مشوقها برای مراکز داده
ترامپ که در زمینه گسترش هوش مصنوعی با مشاوره هوانگ و مسئول سابق واحد هوش مصنوعی خود دیوید ساکس پیش میرود، بر توسعه بیقید و شرط این فناوری فشار میآورد تا هم از چین پیشی بگیرد و هم موتور اقتصادی آمریکا را که هرچه بیشتر به رشد مبتنی بر هوش مصنوعی تکیه میکند، تقویت کند.
این فشار از مسیر مراکز داده میگذرد؛ تاسیسات عظیم محاسباتی با مصرف بالای انرژی که هوش مصنوعی به آنها وابسته است. مراکز داده در هر دو حزب به یکی از موضوعات جنجالی رقابتهای انتخابات میاندورهای تبدیل شدهاند زیرا جوامع محلی از افزایش قبوض برق و فشار بر منابع آب و زمین نگرانند.
یک نظرسنجی مشترک رادیوی عمومی ملی آمریکا (NPR)، شبکه PBS و موسسه ماریست که در ۱۴ و ۱۵ سپتامبر انجام شد نشان داد ۶۵ درصد رایدهندگان ثبتنامشده با ساخت مراکز داده در جوامع خود مخالفاند و ۴۳ درصد بهشدت مخالفاند.
بیش از ۸۰ درصد دموکراتها با این مراکز مخالف بودند، در حالی که جمهوریخواهان دوپاره بودند؛ ۴۴ درصد مخالف و ۴۶ درصد موافق.
در ۱۶ سپتامبر، مجلس نمایندگان با ۴۱۷ رای موافق در برابر ۳ رای مخالف به تصویب قانون «حفاظت از مشترکان» (Ratepayer Protection Act) رای داد. این لایحه ایالتها را موظف میکند مقرراتی را بررسی کنند که بر اساس آنها مراکز داده هزینه ارتقای شبکه و افزایش هزینه برق را خودشان پرداخت کنند و این هزینهها به قبوض خانوارها منتقل نشود. این طرح هنوز در سنای آمریکا تصویب نشده است.
ترامپ اوایل ماه جاری در شبکه تروث سوشال نوشت جوامعی که مراکز داده را رد میکنند، در واقع انتخاب میکنند که «عقبمانده و فقیر» بمانند. او پس از نشست سهشنبه لحنی ملایمتر در پیش گرفت و گفت شرکتهای فعال در هوش مصنوعی با جوامعی که به استقبال آنها میروند «بسیار سخاوتمند» خواهند بود.
او گفت: «آنها به مدارسشان کمک خواهند کرد، به معلمانشان کمک خواهند کرد.»
خداحافظ هوش مصنوعی
ترامپ همچنین تایید کرد که قصد دارد نام رسمی این فناوری را از «هوش مصنوعی» به «ابرهوش» تغییر دهد، «چون مصنوعی نیست».
چند ساعت بعد، او فرمان اجراییای را امضا کرد که به دولت فدرال دستور میدهد هرجا ممکن است به جای اصطلاح هوش مصنوعی از «ابرهوش» و مخفف آن «SI» استفاده کند.
این فرمان توضیح میدهد: «اصطلاح "Super Intelligence" بهمراتب بهتر میتواند وعده، ظرفیت و تواناییهای بهسرعت در حال پیشرفت این فناوریها را منعکس کند.»
روش بروکسل
آن سوی اقیانوس اطلس، اتحادیه اروپا سازوکارهای حفاظتی خود را تبدیل به قانون کرده است. قانون هوش مصنوعی (AI Act) که بروکسل آن را نخستین قانون جامع جهان درباره هوش مصنوعی میخواند، برای هر شرکتی که در اتحادیه اروپا هوش مصنوعی میفروشد، فارغ از محل استقرار آن، لازمالاجراست.
از اوت ۲۰۲۵، شرکتهای سازنده مدلهای هوش مصنوعی عمومی، مانند مدلهایی که اوپناِیآی، آنتروپیک و گوگل تولید میکنند، به طور قانونی موظفاند نحوه کارکرد مدلهای خود را مستند کنند، اطلاعات کلیدی را با کسبوکارهایی که روی این مدلها محصول میسازند به اشتراک بگذارند، حقوق مالکیت فکری در اتحادیه اروپا را رعایت کنند و خلاصهای از دادههایی را که برای آموزش مدل استفاده شده منتشر کنند.
قدرتمندترین این مدلها با قواعد سختگیرانهتری روبهرو هستند. سازندگانشان باید آنها را از نظر ریسکها، از جمله با حملات آزمایشی موسوم به «رد تیمینگ»، آزمون کنند، رخدادهای جدی را به بروکسل گزارش دهند و سامانههای خود را در برابر حملات سایبری ایمن نگه دارند.
این قواعد ضمانت اجرای واقعی دارند. از دوم اوت، دفتر هوش مصنوعی کمیسیون اروپا میتواند از شرکتها اطلاعات بخواهد، ارزیابی مستقل خود را از مدلهای آنها انجام دهد و دستور محدود کردن یا جمعآوری یک مدل از بازار اتحادیه اروپا را صادر کند.
شرکتهایی که این قوانین را نقض کنند با جریمههایی تا سقف ۱۵ میلیون یورو یا ۳ درصد از گردش مالی سالانه جهانی خود، هرکدام که بیشتر باشد، مواجه میشوند؛ رقمی که برای غولهای فناوری میتواند به میلیاردها یورو برسد.
در کنار این قانون، یک آییننامه رفتاری داوطلبانه نیز وجود دارد تا به شرکتها در اجرای آن کمک کند. اما بر خلاف توافق کاخ سفید، امضای این آییننامه اختیاری است؛ اجرای قانون هوش مصنوعی اختیاری نیست.