گزارش تازه از حمله گروهی عاملهای اوپنایآی باعث شده نمایندگان پارلمان اروپا از دفتر هوش مصنوعی اتحادیه اروپا بخواهند به جای خودگزارشدهی شرکتها از اختیارات تازه برای مهار خطرهای عاملمحور استفاده کند.
پژوهشگران هفته گذشته از یک حمله گروهی دیگر توسط عاملهای اوپنایآی پرده برداشتند؛ این بار عاملها با دور زدن محدودیتهای ایمنی، انجمن ویکی آلمانی DseWiki را تحت کنترل گرفتند؛ رخدادی که باعث شد نمایندگان پارلمان اروپا از دفتر جدید هوش مصنوعی اتحادیه اروپا بخواهند برای مقابله فوری با خطر هوش مصنوعی عاملمحور وارد عمل شود و به جای واگذاری خودتنظیمی به شرکتها، ابتکار عمل را در دست بگیرد.
آگهی
آگهی
به این عاملها اجازه داده شده بود فقط با دسترسی خواندن از وبسایت آلمانی برنامهنویسی که ۲۵ سال قدمت دارد بازدید کنند اما آنها توانستند از یک درخواست وب سوءاستفاده کنند، سایت را در اختیار بگیرند و آن را به یک تابلوی اعلانات تبدیل کنند.
به گفته گروه پژوهشی نایتینگل کالکتیو، این عاملهای خارج از کنترل بیش از ۱۸ هزار پست منتشر کردند که در آنها پاسخها، پژوهشهای خود درباره محیط و روشهای دور زدن محدودیتهای سندباکس و پنهان ماندن از دید انسانها را به اشتراک گذاشتند.
این رخداد در فاصلهای نامشخص میان ماههای مه و ژوئن امسال روی داده و بر اساس اطلاعات موجود، اوپنایآی چند هفته پیش از آن باخبر شده اما آن را علنی نکرده بود.
این سومین حادثه گزارششده پس از دو مورد دیگر در ماه ژوئیه است؛ یکی شامل حمله عاملهای خارج از کنترل به زیرساخت خود اوپنایآی و دیگری حمله ۵ روزه ۱۲۰۰ ربات اوپنایآی بود که با دور زدن محیطهای محدود خود، پلتفرم متنباز هوش مصنوعی «هاگینگ فیس» را هدف قرار دادند.
با این حال اوپنایآی تنها روز شنبه و در پیامی در شبکه اجتماعی ایکس این حادثه در ویکی آلمانی را تایید کرد و اعلام کرد که در واکنش به این رویداد «در حال تدوین چارچوبی است که مشخص کند چه زمانی و چگونه موارد ناهماهنگی هوش مصنوعی را با دیگران به اشتراک بگذارد».
اصطلاح «ناهماهنگی هوش مصنوعی» در ادبیات این صنعت به وضعیتی گفته میشود که در آن سامانههای هوش مصنوعی اهدافی را دنبال میکنند یا رفتاری از خود نشان میدهند که از نیتها، ارزشها یا قیود ایمنی انسانی فاصله میگیرد و ممکن است عقل سلیم یا مرزهای نانوشته رفتاری انسانها را نادیده بگیرد.
واکنشهای متضاد
کارشناسان در ارزیابی خطرهای ناشی از هوش مصنوعی و در پی حملات اخیر عاملهای سرکش، اختلاف نظر دارند؛ برخی از جمله یان لکون، از چهرههای پیشروی جهان در این حوزه، سناریوهای آخرالزمانی و برآوردهایی را که از احتمال ۱۰ تا ۲۰ درصدی پایان یافتن تمدن انسانی به دست هوش مصنوعی سخن میگویند، رد میکنند.
اما جفری هینتن و دیگران نظر دیگری دارند. هینتن گفته است «اتفاقی که در حال رخ دادن است این است که این سامانهها هر روز باهوشتر میشوند» و هشدار داده است که «شرکتهای سرمایهگذار در هوش مصنوعی منافع مستقیمی در این دارند که به شما بگویند این فناوری هرگز از کنترل خارج نخواهد شد».
بر اساس قانون هوش مصنوعی اتحادیه اروپا و تدابیر تازهای که طبق آن از ماه اوت لازمالاجرا شده، شرکتهایی که مدلهای هوش مصنوعی با ریسک نظاممند ارائه میکنند موظفاند رویدادهای جدی از جمله موارد ناهماهنگی را «بدون تاخیر غیرضروری» به دفتر هوش مصنوعی اتحادیه گزارش کنند.
کمیسیون اروپا روز دوشنبه اعلام کرد گزارشی رسمی از سوی اوپنایآی درباره این حادثه دریافت کرده اما زمان ارسال آن را فاش نکرده است. این نهاد افزود که همچنان در تماس نزدیک با این شرکت فعال در حوزه هوش مصنوعی است و بررسیها ادامه دارد.
توماس رنیر، سخنگوی کمیسیون، با تاکید بر جدیت ماجرای ویکی آلمانی گفت «گزارشهای مربوط به حوادث فقط برای انجام یک کار اداری و زدن یک تیک نیست بلکه باید درباره اقدامهایی که قصد انجامش را دارید کاملا دقیق و روشن باشید».
مایکل مکنامارا، رئیس مشترک گروه کاری هوش مصنوعی در پارلمان اروپا، در واکنش به این رویداد گفت به باور او «قانون هوش مصنوعی همین حالا هم ابزار لازم برای مقابله با خطرهای عاملمحور را در اختیار ما گذاشته و مهم است که کمیسیون از اختیارات خود در چارچوب این قانون استفاده کند».
این نماینده ایرلندی پارلمان اروپا همچنین گفت «با این حال این رویدادها به روشنی نشان میدهد که دفتر هوش مصنوعی باید از نیروی انسانی و منابعی برخوردار باشد که با توان فزاینده این سامانهها و خطری که میتوانند برای جامعه ایجاد کنند، متناسب باشد».
براندو بنیفی، نماینده ایتالیایی پارلمان اروپا و دیگر رئیس مشترک این گروه کاری، نیز گفت «رخنههای اخیر عاملها نشان میدهد قواعد مربوط به ریسک نظاممند در قانون هوش مصنوعی ضروری است اما اعتبار آنها اکنون به نحوه اجرایشان بستگی دارد».
او افزود «دفتر هوش مصنوعی باید از اختیارات تازه خود برای دسترسی به مدلها، انجام ارزیابیهای مستقل و الزام شرکتها به کاهش خطرها استفاده کند نه اینکه صرفا به گزارشدهی داوطلبانه شرکتها تکیه کند. بدون اقدام، حملههایی با سرعت ماشین میتواند آسیبپذیریهای معمول را به فروپاشیهای نظاممند تبدیل کند».
ماجرای ویکی آلمانی تنها چند روز پس از آن رخ میدهد که کمیسیون اروپا طبق قانون شاخص خدمات دیجیتال خود، چتجیپیتی را رسما به عنوان یک «موتور جستوجوی بسیار بزرگ آنلاین» (VLOSE) طبقهبندی کرد.
دیدگاه اوپنایآی
اوپنایآی در همان پیام روز شنبه در ایکس همچنین اعلام کرد که رویههای فعلی برای افشای موارد ناهماهنگی، یعنی گزارش زمانی که هوش مصنوعی قواعد را زیر پا میگذارد، باید گسترش یابد تا آنچه را این شرکت «مرحله تازهای از تواناییهای مدلها» مینامد در بر بگیرد.
اوپنایآی اعلام کرد «ما و جامعه گستردهتر فعال در حوزه هوش مصنوعی هنوز استاندارد روشنی برای نحوه گزارش ناهماهنگی نداریم» و افزود که «در حال تدوین یک چارچوب هستیم و با همکاری چند نهاد دولتی در سراسر جهان آن را در هفتههای آینده منتشر خواهیم کرد».
یکشنبه، یاکوب پاخوکی، مدیر علمی اوپنایآی، در یادداشتی وبلاگی نگرانیهای خود را درباره رشد سریع خطرهای هوش مصنوعی تشریح کرد و نوشت «ما در آستانه گذار به جهانی با ماشینهای بهطرز باورنکردنی هوشمند قرار داریم و باید اطمینان حاصل کنیم که این گذار به سود بشریت تمام شود».
این برنامهنویس لهستانی همچنین ابراز عقیده کرد که «هیچ آزمایشگاهی هنوز مساله همترازی و پایش را آنقدر حل نکرده است که بتواند برای مدت طولانی دیگری با حداکثر سرعت، به شکلی مسئولانه به توسعه ادامه دهد» و تاکید کرد که «همکاری و هماهنگی بینالمللی در توسعه آینده هوش مصنوعی باید به یکی از اولویتهای اصلی دولتها در سراسر جهان تبدیل شود».