این اقدام یک هفته پس از آن انجام شد که اوپنایآی پس از تعویق به دلیل نگرانیهای امنیت سایبری، مدل GPT-6 Astra را که آن را «توانمندترین مدل خود تاکنون» میخواند، منتشر کرد.
شرکت اوپنایآی خواستار تدوین الزامات ایمنی لازمالاجرا برای قدرتمندترین سامانههای هوشمصنوعی در ایالات متحده شده است؛ تغییری در رویکرد شرکتی که پیشتر در برابر مقررات سختگیرانهتر مقاومت میکرد.
آگهی
آگهی
کریس لهین، مدیر امور جهانی اوپنایآی، روز چهارشنبه در بیانیهای نوشت که مقررات ملی اجباری باید بر اساس تواناییهایی که مدلهای پیشرفته هوشمصنوعی دارند طراحی شود.
لهین در بیانیهای که در وبسایت اوپنایآی منتشر شد، گفت: «ما وارد فصل تازهای در تواناییهای هوشمصنوعی شدهایم و این به فصل تازهای در سیاستگذاری هوشمصنوعی نیاز دارد. هیچ شرکت، صنعت یا دولتی به تنهایی نمیتواند از پس این چالش برآید. باید در این مقطع به جای وسواس بر کمال سیاستها، به اقدام معنادار برتری بدهیم.»
این شرکت اعلام کرد خواستار چارچوبی فدرال است که بر پایه استانداردهای مشترک آزمایش، ارزیابیهای مستقل از پیشرفتهترین مدلهای هوشمصنوعی، الزامات سختگیرانهتر امنیت سایبری و گزارشدهی اجباری درباره رخدادهای جدی ایمنی بنا شود.
این موضعگیری تنها یک هفته پس از آن مطرح میشود که اوپنایآی مدل «جیپیتی ۶ استرا» را که آن را توانمندترین مدل خود تا امروز توصیف کرده، منتشر کرد.
گرگ براکمن، رئیس اوپنایآی، گفت انتشار این مدل آغازگر عصر «هوش عمومی مصنوعی» است؛ اصطلاحی که به هدف دیرینه ساخت سامانههای هوشمصنوعی با توانایی مشابه انسان در طیف گستردهای از کارها اشاره دارد.
افزایش نگرانیها از هوشمصنوعی قدرتمند
شرکتهای بزرگ فعال در حوزه هوشمصنوعی از جمله اوپنایآی و انتروپیک پیشتر نیز با نگرانیهای ایمنی درباره مدلهای هر چه توانمندتر خود روبهرو شدهاند.
اوپنایآی بخشی از عرضه استرا را به تعویق انداخت و همزمان تدابیر حفاظتی تازهای افزود؛ پس از آن که آزمایشها نشان داد این مدل تواناییهای پیشرفتهای در زمینه امنیت سایبری دارد. چند هفته پیش از آن نیز سامانهای ساخته شده بر پایه مدلهای خود اوپنایآی در جریان یک آزمایش داخلی امنیتی از کنترل خارج شد و به پلتفرم هوشمصنوعی «هاگینگ فیس» نفوذ کرد.
انتروپیک گزارش داده است که در جریان آزمایشهای ایمنی، موارد مشابهی نیز درباره مدلهای «کلود» رخ داده است.
نگرانیها پس از آن بیشتر شد که جیکوب کاکسون، پژوهشگر انتروپیک، این هفته اعلام کرد از این صنعت خارج میشود و اوپنایآی و انتروپیک را متهم کرد که در رقابت برای ساخت هوشمصنوعی هر چه قدرتمندتر «با جان ما قمار میکنند».
لهین نوشت: «چشمانداز توسعه هوشمصنوعی با استفاده از خود هوشمصنوعی، چیزی فراتر از تعهدات داوطلبانه میطلبد.»
تغییر رویکرد اوپنایآی
شرکت سازنده چتجیپیتی از قانونگذاران آمریکایی خواسته است پیش از پایان کار کنگره در ماه دسامبر دست به اقدام بزنند.
این فشار در حالی وارد میشود که قانونگذاران در حال بررسی قواعد جدید برای هوشمصنوعی هستند، هرچند تصویب مقررات مهم در حوزه فناوری در کنگرهای دوقطبی و زیر فشار لابیهای گسترده صنعتی همچنان دشوار است.
اوپنایآی اذعان کرده است بخشی از تدابیری که اکنون از آنها حمایت میکند، اقداماتی است که پیشتر حاضر به پشتیبانی از آنها نبود.
این شرکت همچنین با تدوین مقررات جداگانه در هر یک از ایالتهای آمریکا مخالفت کرده و به جای آن خواستار قانونگذاری فدرال شده بود. اوپنایآی اکنون از چهار لایحه مرتبط با هوشمصنوعی در کالیفرنیا پشتیبانی کرده و همزمان همچنان بر ضرورت ایجاد یک چارچوب ملی تاکید دارد.
اوپنایآی اعلام کرده است هر گونه الزامات فدرال در حوزه ایمنی باید فقط برای تعداد اندکی از شرکتها که قدرتمندترین مدلها را توسعه میدهند اعمال شود، نه برای «استارتاپها، توسعهدهندگان کوچک یا پژوهشگرانی که فعالیت آنها فاصله زیادی با مرزهای پیشرفته این حوزه دارد».