بریتانیا از طریق موسسه امنیت هوش مصنوعی و جامعه پژوهشی خود نقشی مهم در ایمنی این فناوری ایفا میکند اما این حوزه زیر سلطه آمریکا و چین است
پادشاه بریتانیا، چارلز سوم، با شماری از چهرههای برجسته حوزه هوشمصنوعی دیدار کرده و از آنان خواستهاست این فناوریها را تحت کنترل انسان نگه دارند و تضمین کنند که در خدمت مردم، جوامع و محیطزیست باشد.
آگهی
آگهی
نمایندگان شرکتهای اوپنایآی، انثروپیک، گوگل دیپمایند و انویدیا به دعوت پادشاه در دمفریس هاوس در اسکاتلند گرد هم آمدند تا درباره این که چگونه میتوان از هوشمصنوعی به سود جامعه بهره گرفت و در عین حال خطرات آن را محدود کرد گفتوگو کنند.
در این نشست، در کنار پادشاه و مدیران ارشد شرکتهای فعال در هوشمصنوعی، از جمله جنسن هوانگ مدیرعامل غول فناوری انویدیا، کانیشکا نارایان وزیر تازهمنصوبشده هوشمصنوعی در بریتانیا نیز حضور داشت.
پادشاه در سخنان آغازین خود با اشاره به سرعت پیشرفت هوشمصنوعی گفت: «تحول هوشمصنوعی، چه از نظر ماهیت و چه از نظر سرعت، به یک اندازه هم جذاب است و هم عمیقا نگرانکننده.»
او افزود که «خطرات وجودی ناشی از افتادن چنین فناوریهایی در دست افراد نادرست و استفاده احتمالی از آنها به شیوههای فاجعهبار» باید فوری مورد توجه قرار گیرد.
پادشاه چارلز در سخنرانی خود نام هیچ کشور یا شرکتی را ذکر نکرد، اما گفت میخواهد حاضران در جلسه راههایی بیابند تا هوشمصنوعی را با «محوریت ایمنی» در جهت اهداف مفید به کار بگیرند و بررسی کنند چگونه میتوان برای تحقق این هدف، «همکاری و اجماع بینالمللی» ایجاد کرد.
نگرانیها درباره آینده هوشمصنوعی
این نشست در اسکاتلند پس از چندین رویداد پرسر و صدا درباره ایمنی فناوری هوشمصنوعی برگزار میشود.
هفته گذشته، جیکوب کوکسون پژوهشگر شرکت انثروپیک با استعفا و انتشار هشداری جدی درباره خطرات بالقوه این فناوری، خبرساز شد. داریو آمودی مدیرعامل انثروپیک در پاسخ، مقالهای منتشر کرد و گفت ممکن است لازم باشد این صنعت سرعت کار خود را کاهش دهد.
روز چهارشنبه، شرکت اوپنایآی که سازنده چتجیپیتی است، از شش مورد رفتار «غیرمنتظره یا نگرانکننده» در مدلهای خود گزارش داد؛ رفتارهایی از جمله انجام وظایف بدون مجوز، هماهنگی با سایر مدلها و گریز از نظارت پژوهشگران انسانی.
در مقابل، هوانگ از انویدیا درخواستها برای کند کردن روند کار را نقد کرده است. مدیرعامل انویدیا گفت که هر شرکت باید خود مسئول توسعه ایمن فناوری هوشمصنوعی و آزمایش دقیق آن پیش از عرضه هر محصولی به عموم باشد.
او در سخنرانی خود پس از اظهارات پادشاه گفت: «وقتی محصولی به اندازه کافی ایمن نیست، باید آن را نگه داریم و به کار مهندسی ادامه دهیم. ما همیشه همین کار را کردهایم و باید همچنان همین کار را انجام دهیم.»