گزارش جدید حمله دستهجمعی، این بار توسط عاملهای اوپن ای آی به فروم ویکی آلمانی، شرکت را واداشته تا بپذیرد سیستم گزارشدهی رخدادهای خود نیاز به بهبود دارد.
پژوهشگران هوش مصنوعی هفته گذشته متوجه شدند که گروهی از عاملهای اوپناِیآی با دور زدن پارامترهای ایمنی، فوروم ویکی آلمانی DseWiki را در اختیار گرفتهاند تا با هم همکاری کنند.
آگهی
آگهی
به این عاملها اجازه داده شده بود تنها با سطح دسترسی خواندن به سایت برنامهنویسی آلمانی ۲۵ ساله سر بزنند اما آنها با سواستفاده از یک درخواست وب توانستند سایت را تصاحب کنند و آن را به یک تابلوی اعلانات تبدیل کنند.
به گفته گروه پژوهشی نایتینگل کالکتیو، این عاملهای سرکش بیش از ۱۸ هزار پست منتشر کردند و در آنها پاسخها، تحقیقاتی درباره محیط خود و روشهای دور زدن محدودیتهای سندباکس و پنهان ماندن از دید انسانها را به اشتراک گذاشتند.
این رویداد در بازهای میان ماههای مه و ژوئن امسال رخ داده و بنا بر گزارشها، اوپناِیآی چند هفته پیش از آن باخبر شده اما موضوع را پنهان نگه داشته است.
این سومین رویداد گزارش شده است، پس از دو مورد دیگر در ژوئیه؛ یکی حمله عاملهای سرکش به زیرساختهای خود اوپناِیآی و دیگری حمله ۱۲۰۰ ربات سرکش اوپناِیآی که با دور زدن محیطهای محدود خود، حملهای پنج روزه به پلتفرم متنباز هوش مصنوعی هاگینگ فیس انجام دادند.
اوپناِیآی روز شنبه سرانجام در پستی در ایکس این رویداد را تایید کرد و نوشت: «در حال کار روی چارچوبی هستیم که مشخص کند چه زمانی و چگونه رویدادهای ناهمترازی هوش مصنوعی را با دیگران در میان بگذاریم».
اصطلاح «ناهمترازی هوش مصنوعی» در صنعت برای شرایطی به کار میرود که سامانههای هوش مصنوعی اهدافی را دنبال میکنند یا رفتاری نشان میدهند که از مقاصد، ارزشها یا محدودیتهای ایمنی انسانی فاصله میگیرد و ممکن است عقل سلیم یا مرزهای ضمنی انسانی را نادیده بگیرد.
واکنشهای دوپاره
در پی حملات اخیر عاملهای سرکش هوش مصنوعی، کارشناسان درباره میزان خطرات ناشی از این فناوری اختلاف نظر دارند؛ برخی مانند یان لوکون، از چهرههای شاخص جهانی در حوزه هوش مصنوعی، سناریوهای آخرالزمانی و برآوردهایی را که احتمال پایان دادن هوش مصنوعی به حیات بشر را ۱۰ تا ۲۰ درصد میدانند، رد میکنند.
جفری هیِنتن اما گفته است: «آنچه در حال رخ دادن است این است که این سامانهها هر روز هوشمندتر میشوند» و هشدار داده است که: «شرکتهایی که در هوش مصنوعی سرمایهگذاری کردهاند، منافعی دارند که به شما بگویند [هوش مصنوعی] سرکش نخواهد شد».
بر اساس قانون هوش مصنوعی اتحادیه اروپا و تدابیر تازهای که طبق آن از اوت لازم الاجرا شده است، شرکتهایی که مدلهای هوش مصنوعی با ریسک سیستمی عرضه میکنند، موظفند رویدادهای جدی از جمله موارد ناهمترازی را بدون تاخیر غیرضروری به دفتر هوش مصنوعی اتحادیه اروپا گزارش دهند.
کمیسیون اروپا روز دوشنبه اعلام کرد گزارشی رسمی درباره این رویداد از اوپناِیآی دریافت کرده است اما زمان ارسال آن را اعلام نکرد؛ با این حال میگوید همچنان در تماس نزدیک با این شرکت هوش مصنوعی است و تحقیقات بیشتری انجام میدهد.
توماس رنیه، سخنگوی کمیسیون، با تاکید بر جدی بودن رویداد ویکی آلمانی گفت: «گزارش رویداد فقط یک کار صوری برای پر کردن چک لیست نیست؛ باید کاملا دقیق و روشن توضیح دهید که چه اقداماتی قصد دارید انجام دهید».
این رویداد در ویکی آلمانی چند روز پس از آن رخ میدهد که کمیسیون اروپا به طور رسمی چتجیپیتی را طبق قانون محوری خدمات دیجیتال به عنوان یک «موتور جستوجوی آنلاین بسیار بزرگ» (VLOSE) طبقهبندی کرد.
مایکل مکنمارا، نایب رئیس گروه کاری هوش مصنوعی در پارلمان اروپا، در واکنش به این رویداد گفت: «قانون هوش مصنوعی همین حالا هم توانایی مقابله با خطرات عامل محور را به ما میدهد و مهم است که کمیسیون از اختیارات خود در چارچوب این قانون استفاده کند».
این نماینده ایرلندی پارلمان اروپا همچنین گفت: «با این حال، این رویدادها روشن میکند که دفتر هوش مصنوعی باید نیروی انسانی و منابعی در اختیار داشته باشد که همسطح تواناییهای رو به رشد این سامانهها و خطر فزایندهای باشد که میتوانند برای جامعه ایجاد کنند».
اوپناِیآی چه میگوید
اوپناِیآی در پست روز شنبه خود در ایکس همچنین اعلام کرد که رویههای فعلی افشای موارد ناهمترازی، یعنی گزارش زمانی که هوش مصنوعی قواعد را نقض میکند، باید گسترش یابد تا آنچه این شرکت آن را «مرحلهای جدید در تواناییهای مدلها» مینامد، در نظر گرفته شود.
اوپناِیآی با اشاره به نبود استانداردهای شفاف در این زمینه گفت: «ما و جامعه گستردهتر هوش مصنوعی هنوز استاندارد روشنی برای نحوه گزارش موارد ناهمترازی نداریم» و افزود: «در حال کار روی یک چارچوب هستیم و آن را در هفتههای پیش رو، با همکاری چند نهاد دولتی در سراسر جهان، منتشر خواهیم کرد».
یکشنبه، یاکوب پاخوچکی، دانشمند ارشد اوپناِیآی، در یادداشتی وبلاگی نگرانیهای خود را درباره شتاب گرفتن خطرات هوش مصنوعی تشریح کرد و نوشت: «در آستانه گذار به جهانی با ماشینهایی به طور باورنکردنی هوشمند هستیم و باید مطمئن شویم این گذار به نفع بشریت تمام میشود».
این برنامهنویس لهستانی همچنین باور خود را چنین توضیح داد و گفت: «هیچ آزمایشگاهی تاکنون مساله همترازی و پایش را در حدی حل نکرده است که بتواند برای مدت طولانی با بیشترین سرعت، به شکلی مسئولانه به توسعه مقیاس ادامه دهد» و تاکید کرد: «هماهنگی بینالمللی درباره توسعههای آتی هوش مصنوعی باید به یکی از اولویتهای اصلی دولتها در سراسر جهان تبدیل شود».