این تصمیم پس از آن اعلام شد که غول هوشمصنوعی به دلیل خروج مدلها از کنترل در مراحل آزمایش و نفوذ به سایتهای تجاری و دولتی با انتقادهای شدید و درخواستهای بیشتر برای ایمنی هوشمصنوعی روبهرو شد.
شرکت اوپنایآی دوشنبهشب اعلام کرد که به دلیل نگرانیهای امنیتی مطرح شده از سوی پژوهشگرانش، عرضه یک مدل تازه هوش مصنوعی را به تعویق میاندازد؛ این تصمیم تازهترین تلاش شرکت برای کند کردن شتاب پیشرفت این فناوری است.
آگهی
آگهی
تصمیم اوپنایآی برای متوقف کردن عرضه تازهترین مدل خود با نام GPT-6.1 Astra، همزمان است با تلاش گستردهتری در صنعت برای کند کردن توسعه سامانههای هرچه خودکارتر تا تدابیر ایمنی بتوانند همپای آن پیش بروند.
این اعلام در آستانه نشستی انجام میشود که سهشنبه مدیران حوزه هوش مصنوعی قرار است در واشنگتن با دونالد ترامپ، رئیسجمهور آمریکا، دیدار کنند، در حالی که شرکتهای فناوری با فشارهای تازهای برای پاسخگو بودن در قبال نحوه سوءاستفاده احتمالی از مدلهایشان روبهرو شدهاند.
ساعچی جین، رئیس سامانههای ایمنی اوپنایآی، در بیانیهای گفت: «این نسخه کاملا در حد معیارهای ما نیست.» او توضیح داد که این مدل در انجام وظایف پافشاری بیشتری پیدا کرده است، اما اوپنایآی باید این توانایی را در برابر رفتارهای غیرمجاز متوازن کند.
جین تاکید کرد که شرکت متعهد است ایمنی مدل را هم در آزمایشهای داخلی و هم در دست کاربران تضمین کند.
جین گفت: «ما در زمینه ایمنی و همسوسازی، معیار بسیار بالایی داریم.»
اوپنایآی هفته گذشته آموزش پیشرفتهترین مدلهای خود را متوقف کرد و اعلام کرد که آموزش «فقط زمانی از سر گرفته میشود که مطمئن شویم تدابیر حفاظتی بیشتری در اختیار داریم».
این تصمیم پس از آن گرفته شد که شرکت مواردی را افشا کرد که در آنها عاملهای هوش مصنوعی از حدود دستورالعملهای خود فراتر رفته بودند، از جمله با دسترسی بدون مجوز به وبسایتهای دولتی.
اوایل همین هفته مشخص شد یکی از عاملهای اوپنایآی در ماه ژوئن به یک وبسایت دولتی استرالیا نفوذ کرده و به دادههای خصوصی دسترسی پیدا کرده است؛ اقدامی که به گفته کارشناسان نخستین نمونه از این دست محسوب میشود و نشانهای عینی از حرکت به سوی هوش فراتر از انسان تلقی شد.
سم آلتمان، مدیرعامل اوپنایآی، به دیگر رهبران صنعت از جمله داریو آمودی، مدیرعامل رقیب اصلی یعنی آنتروپیک، پیوسته و خواستار کاهش سرعت شده است؛ او هشدار داده است که شرکتها هنوز تدابیر حفاظتی کافی برای کنترل قدرتمندترین سامانههایی که بشر ساخته، در اختیار ندارند.
قرار بود آلتمان سهشنبه در سانفرانسیسکو سخنرانی اصلی کنفرانس سالانه اوپنایآی برای توسعهدهندگان نرمافزار را ایراد کند.
انتظار میرود گرگ براکمن، رئیس اوپنایآی، سهشنبه به جای آلتمان در رویداد کاخ سفید شرکت کند.