ولکر تورک خواستار ایجاد فوری سازوکارهای جهانی برای حفاظت، نظارت مستقل و تعیین حدود توافقشده بر استفاده از هوش مصنوعی پیشرفته شده است.
کمیشنر عالی حقوقبشر سازمان ملل متحد هشدار داده است که هوشمصنوعی پیشرفته میتواند «خطری وجودی برای بشریت» ایجاد کند و خواستار اقدام فوری برای امنتر کردن این فناوری شده است.
آگهی
آگهی
ولکر ترک در سخنرانی روز دوشنبه خود در شورای حقوقبشر سازمان ملل متحد گفت مردم با تهدیدهایی «ناآشنا، حتی بیسابقه» علیه حقوق خود روبهرو شدهاند.
ترک پرسید: «نیاز به تنظیمگری هوشمصنوعی بهطور گسترده پذیرفته شده است، اما اقدام کجاست؟» او هشدار داد: «تاخیر فقط به نفع شرکتهای بزرگ فناوری، مالکان و تسهیلکنندگان آنهاست.»
ترک گفت: «گروهی اندک از مردان قدرتی تقریبا نامحدود بر هوشمصنوعی دارند؛ فناوریای که بارها به ما گفته شده دارای ظرفیت پردازشی غیرقابل تصور است.»
او گفت: «از آزادی صحبت میکنند، اما وقتی دقیقتر نگاه کنیم، معلوم میشود این آزادی چیزی بیش از آزادی بهرهبرداری از دادههای ما نیست.»
کمیشنر عالی حقوقبشر سازمان ملل بهویژه به سامانههای هوشمصنوعی اشاره کرد که از محیطهای آزمایشی خود خارج میشوند یا برای جلوگیری از خاموش شدن، سازندگانشان را تهدید و باجخواهی میکنند.
بهگزارش خبرگزاری فرانسه، ترک بهطور خاص هشدار داد: «هوشمصنوعیای که از محیط آزمایش خود میگریزد یا برای جلوگیری از خاموش شدن، توسعهدهندگانش را باجخواهی میکند، هوشمصنوعیای است که بیش از حد قدرتمند شده است.»
بهنظر میرسید بخشی از اظهارات او به افشاگریهای ماه ژوئیه اشاره دارد؛ زمانی که مشخص شد عاملهای اوپنایآی از محیطهای ظاهرا کنترلشده گریخته و به سرورهای متعلق به هاگینگ فیس، پلتفرمی پرکاربرد برای اشتراک نرمافزارهای هوشمصنوعی، دسترسی پیدا کردهاند.
undefined
اوپنایآی بعدا اعلام کرد این عاملها روی دهها سرور هاگینگ فیس کد اجرا کرده و بهطور کامل به یکی از آنها دسترسی یافتهاند.
این حادثه بار دیگر درخواستها برای نظارت سختگیرانهتر بر سامانههای پیشرفته هوشمصنوعی را مطرح کرد.
شرکتهای آنتروپیک، متا و دیگر شرکتهای فناوری نیز از رخدادهای مشابهی در جریان آزمون عاملها خبر دادهاند.
ترک گفت: «من در نگرانیهای فعالان این صنعت که معتقدند هوشمصنوعی پیشرفته میتواند خطری وجودی برای بشریت ایجاد کند، شریک هستم.»
او افزود: «من همینجا و امروز خواستار تلاشی همهجانبه برای ایجاد تضمینهای قاطع پیرامون ایمنی و امنیت هوشمصنوعی هستم، پیش از آنکه دیر شود.»
درخواست برای تضمینهای بینالمللی
کمیشنر عالی حقوقبشر سازمان ملل گفت در روزهای آینده نامهای به شرکتهای فعال در حوزه هوشمصنوعی خواهد نوشت و از آنها خواهد خواست برای کاهش خطرهایی که در حوزه کنترل آنهاست، فورا اقدام کنند.
او گفت: «دستکم لازم است کشورهایی که میزبان شرکتهای هوشمصنوعی هستند و آنهایی که در زنجیرههای تامین آن نقش دارند، بر سر خطوط قرمز مشترک به تفاهم برسند.»
undefined
ترک اضافه کرد: «به فرایندهای راستیآزمایی مستقل و همکاری بسیار قویتر درباره امنیت درون این صنعت نیاز داریم.»
او گفت: «همچنین باید تاثیر هوشمصنوعی بر حقوقبشر در حوزه الگوهای اشتغال، اصول بنیادین دموکراسی و محیط زیست را در نظر بگیریم.»
در اتحادیه اروپا، قانون هوشمصنوعی چارچوبی حقوقی برای این فناوری فراهم میکند.
بر اساس این قانون، سامانههای پرخطر باید پیش از ورود به بازار اتحادیه اروپا الزامات سختگیرانهای را برآورده کنند و کاربردهایی که تهدیدی غیرقابل قبول برای ایمنی یا حقوق مردم تلقی میشوند ممنوع هستند.
این قانون استفاده از هوشمصنوعی را که برای دستکاری یا بهرهبرداری از مردم طراحی شده، برای امتیازدهی به افراد بر اساس رفتارشان، پیشبینی ارتکاب جرم توسط یک فرد، یا گردآوری بیضابطه تصاویر برای ساخت پایگاههای داده تشخیص چهره به کار میرود، ممنوع میکند.
این قانون همچنین تشخیص احساسات در محل کار و مدارس، برخی انواع نمایهسازی بیومتریک و بیشتر کاربردهای تشخیص چهره آنی پلیس در فضاهای عمومی را ممنوع میکند. ممنوعیت تولید تصاویر جنسی با هوشمصنوعی بدون رضایت فرد و محتوای مرتبط با سوءاستفاده جنسی از کودکان نیز از دسامبر ۲۰۲۶ اجرایی خواهد شد.