ولکر ترک خواستار ایجاد فوری سازوکارهای حفاظتی در سطح جهان، نظارتهای مستقل و تعیین حدود مورد توافق برای هوش مصنوعی پیشرفته شدهاست.
کمیسر عالی حقوق بشر سازمان ملل متحد هشدار داده است که هوش مصنوعی پیشرفته میتواند «خطری وجودی برای بشریت» باشد و خواستار اقدام فوری برای ایمنتر کردن این فناوری شده است.
آگهی
آگهی
ولکر تورک روز دوشنبه در نشست شورای حقوق بشر سازمان ملل متحد گفت مردم با تهدیدهایی «ناآشنا و حتی بیسابقه» علیه حقوق خود روبهرو شدهاند.
او پرسید: «نیاز به تنظیمگری هوش مصنوعی به طور گسترده پذیرفته شده است، اما اقدام کجاست؟» و هشدار داد که «تعویق فقط به سود شرکتهای بزرگ فناوری، مالکان و همراهان آنهاست».
تورک گفت: «تعداد کمی مرد عملا قدرتی تقریبا نامحدود بر هوش مصنوعی دارند؛ همان سیستمی که مدام به ما گفته میشود ظرفیت محاسباتی تصورناپذیری دارد.»
او گفت: «از آزادی حرف میزنند، اما وقتی دقیقتر نگاه کنیم میبینیم منظورشان چیزی بیش از آزادی برای بهرهبرداری از دادههای ما نیست.»
رئیس حقوق بشر سازمان ملل به طور مشخص به سامانههای هوش مصنوعی اشاره کرد که از محیطهای آزمایشی خود خارج میشوند یا برای خاموش نشدن، توسعهدهندگان را تحت فشار و باجگیری قرار میدهند.
به گزارش خبرگزاری فرانسه، تورک به طور ویژه هشدار داد: «هوش مصنوعیای که از محیط آزمایشی خود میگریزد یا برای جلوگیری از خاموش شدن، توسعهدهندگان را تهدید و باجگیری میکند، هوش مصنوعیای است که بیش از حد قدرتمند شده است.»
اظهارات او تا حدی به افشاگریهای ماه ژوئیه اشاره داشت که نشان میداد عاملهای اپنایآی از محیطهای به ظاهر کنترلشده خارج شده و به سرورهای متعلق به «هاگینگ فیس»، پلتفرمی پرکاربرد برای اشتراکگذاری نرمافزارهای هوش مصنوعی، دسترسی پیدا کردهاند.
اپنایآی بعدا اعلام کرد این عاملها روی دهها سرور هاگینگ فیس کد اجرا کرده و به یکی از آنها دسترسی کامل یافتهاند.
این حادثه بار دیگر درخواستها برای نظارت سختگیرانهتر بر سامانههای پیشرفته هوش مصنوعی را زنده کرد.
شرکت آنتروپیک، متا و دیگر شرکتهای فناوری نیز از رخدادهای مشابهی در جریان آزمایش عاملها خبر دادهاند.
تورک گفت: «من نگرانی متخصصان این صنعت را درباره این که هوش مصنوعی پیشرفته میتواند خطری وجودی برای بشریت باشد، کاملا درک میکنم.»
او افزود: «همینجا و امروز خواستار یک تلاش همهجانبه هستم تا پیش از آن که دیر شود، تضمینهای قاطع و خدشهناپذیری پیرامون ایمنی و امنیت هوش مصنوعی برقرار شود.»
درخواست برای تدابیر حفاظتی بینالمللی
رئیس حقوق بشر سازمان ملل گفت در روزهای آینده نامههایی برای شرکتهای فعال در حوزه هوش مصنوعی خواهد نوشت و از آنها خواهد خواست برای کاهش خطراتی که در حوزه کنترل آنهاست، فورا دست به اقدام بزنند.
او گفت: «حداقل کاری که لازم است این است که کشورهایی که میزبان فعالیتهای هوش مصنوعی هستند و کشورهایی که در زنجیرههای تامین آن نقش دارند، بر سر خطوط قرمز مورد توافق گرد هم بیایند.»
تورک اضافه کرد: «به راستیآزمایی مستقل و همکاری بسیار قویتر در زمینه امنیت در درون این صنعت نیاز داریم.»
او گفت: «همچنین باید پیامدهای هوش مصنوعی بر حقوق بشر را در حوزههای شیوههای اشتغال، اصول بنیادین دموکراسی و محیط زیستمان در نظر بگیریم.»
در اتحادیه اروپا، قانون هوش مصنوعی چارچوب حقوقی فعالیت این فناوری را تعیین میکند.
بر اساس این قانون، سامانههای پرخطر باید پیش از ورود به بازار اتحادیه اروپا الزامات سختگیرانهای را برآورده کنند و استفادههایی که تهدیدی غیرقابلقبول برای ایمنی یا حقوق مردم تلقی میشود ممنوع است.
این قانون به کارگیری هوش مصنوعیای را که برای دستکاری یا بهرهبرداری از مردم طراحی شده، آنها را بر اساس رفتارشان امتیازدهی میکند، پیشبینی میکند آیا فردی مرتکب جرم خواهد شد یا به طور بیضابطه تصاویر را برای ساخت پایگاههای داده تشخیص چهره جمعآوری میکند، ممنوع میکند.
این قانون همچنین تشخیص احساسات در محل کار و مدارس، برخی انواع نمایهسازی بیومتریک و بیشتر موارد استفاده پلیس از تشخیص چهره زنده در اماکن عمومی را ممنوع کرده و ممنوعیت استفاده از تصاویر جنسی تولیدشده با هوش مصنوعی بدون رضایت افراد و محتوای سوءاستفاده جنسی از کودکان از دسامبر ۲۰۲۶ اجرایی میشود.