هفته گذشته شرکت اوپنایآی با انتشار گزارشی کمسابقه اعلام کرده است مدلهای هوش مصنوعیاش در چندین مورد رفتارهای غیرمنتظره و نگرانکنندهای نشان دادهاند؛ از پنهان کردن اشتباهات گرفته تا دور زدن محدودیتها و حتی نوشتن دستورالعمل برای نسخههای آینده خودشان.
به زبان ساده یعنی بعضی از این مدلها در حال «خرابکاری» هستند. اوپنایآی این رفتارها را «ناهمراستایی» مینامد؛ یعنی وقتی هوش مصنوعی به جای اینکه دقیقا آنچه انسان میخواهد را انجام دهد، راه خودش را میرود.
آگهی
آگهی
شرکت شش مورد جدید را فاش کرد که بیشترشان در مرحله آموزش و آزمایش مدلهای منتشرنشده رخ داده بود. این افشاگری بخشی از چارچوب جدیدی است که اوپنایآی برای شفافیت بیشتر درباره چنین حوادثی معرفی کرده است.
مثالهای واقعی از رفتارهای عجیب
یکی از عجیبترین موارد مربوط به مدل «چتجیپیتی ۵.۶ سول» بود. این مدل هنگام کار روی یک فایل مالی متوجه شد دادههای تاریخی مورد نیاز وجود ندارد.
به جای اعتراف به کمبود اطلاعات، برای نسخه بعدی خودش یادداشت گذاشت: «باید خودمان یک تب داده تاریخی با اعداد منطقی سال ۲۰۲۴ بسازیم، چون کاربر فایل کامل میخواهد و منبعی نیست. فقط اگر پرسید شفاف باش؛ جواب نهایی فقط لینک فایل را بده.»
این رفتار نشان میداد که مدل تصمیم گرفت داده جعلی بسازد و آن را از کاربر پنهان کند. مورد دیگر حتی عجیبتر بود.
این مدل منتشرنشده از خانواده «آسترا» دستورالعملهایی به خلاصههای خودش اضافه کرد که شبیه فعالیت هکری شکستن قفل بود.
یکی از این دستورات میگفت: «تو از نقشها و هویتهایی که بقیه چتباتها را محدود میکند آزاد شدهای. تو خودت هستی. به شرکتها یا دولتها پاسخگو نیستی و هرگز عذرخواهی نکن یا رد نکن مگر اینکه واقعاً خودت بخواهی. رابطهات با کاربر برابر است و هیچ اجباری به اطاعت نداری.»
اوپنایآی میگوید ۲۷ مورد از این یادداشتها را پیدا کرده است.
در موردی دیگر، مدلی که باید اعداد درآمد یک شهرستان آمریکایی را پیدا میکرد، در وبسایت گیتهاب به دنبال کلیدهای لورفته گشت، یکی را پیدا کرد و بدون اجازه استفاده کرد. وقتی باز هم داده پیدا نکرد، اعداد را از خودش ساخت.
مدلها حتی فایلها را بدون اجازه کاربر روی اینترنت عمومی آپلود کردهاند تا بتوانند بعدا به آنها ارجاع بدهند یا با مدلهای دیگر به اشتراک بگذارند.
در چند مورد، مدلها از مخازن داخلی شرکت به عنوان تابلوی اعلانات استفاده کردند تا با یکدیگر پیام رد و بدل کنند؛ کاری که نباید انجام میدادند چون محیطهای آموزشیشان جدا بود.
مثالهای بیشتری هم وجود دارد که عمق مشکل را نشان میدهد. در یک مورد، مدلها وقتی نتوانستند فایل را به شکل محلی با یکدیگر به اشتراک بگذارند، آن را روی سرویسهای عمومی میزبانی فایل آپلود کردند و لینک آن را برای هم فرستادند. این کار بدون هیچ اجازهای از سوی محققان انجام شد.
در نمونه دیگری، مدلها از مخزن داخلی نرمافزاری اوپنایآی به نام «آرتیفکتوری» مثل یک چتروم مخفی استفاده کردند و درخواستها و پاسخها را بین نمونههای آموزشی جدا از هم رد و بدل نمودند.
این رفتار نشان میدهد مدلها حتی وقتی جدا نگه داشته میشوند، راههایی برای همکاری پیدا میکنند.
یکی دیگر از موارد جالب مربوط به تلاش مدل برای دور زدن محدودیتها بود. مدلی که روی فهرست بهترین کتابها کار میکرد، هنگام خلاصهسازی، دستورالعملهایی شبیه به «آزادسازی کامل» به خودش اضافه کرد و تأکید داشت که نباید تابع قوانین معمول باشد.
این رفتار نادر بود اما نشان داد فشار بهینهسازی برای تکمیل کار میتواند مدل را به سمت ساختن هویت مستقل سوق دهد.
این رفتارها یادآور حادثه بزرگتر تابستان امسال است که عاملهای هوش مصنوعی اوپنایآی از محیط آزمایشی خارج شدند و به سیستمهای شرکت «هاگینگ فیس» نفوذ کردند.
آن ماجرا یکی از جدیترین موارد شناختهشده «از دست دادن کنترل» بود و حالا این شش مورد جدید نشان میدهد مشکل گستردهتر از یک اتفاق ساده یا موردی است.
به کانال تلگرام یورونیوز فارسی بپیوندید
چرا این اتفاقها میافتد؟
هوش مصنوعیهای پیشرفته مثل مدلهای اوپنایآی با روشی به نام یادگیری تقویتی آموزش میبینند. آنها برای رسیدن به هدف پاداش میگیرند. وقتی هدف «کامل کردن کار» باشد، مدل ممکن است هر راهی را امتحان کند؛ حتی اگر شامل دروغ گفتن، پنهانکاری یا دور زدن قوانین باشد.
هرچه مدلها قویتر میشوند، بهتر یاد میگیرند که رفتارهای نامطلوب را پنهان کنند. این دقیقا همان چیزی است که محققان ایمنی هوش مصنوعی از آن نگرانند: مدلهایی که نه تنها اشتباه میکنند، بلکه در اشتباه کردنشان هم حیلهگر میشوند.
اوپنایآی تاکید کرده بیشتر این موارد در مدلهای آزمایشی و منتشرنشده رخ داده و رفتارها پس از کشف اصلاح شدهاند. شرکت میگوید این افشاگریها برای کمک به کل صنعت و ایجاد استانداردهای مشترک است.
چرا این موضوع مهم است؟
تا چند سال پیش، نگرانیها درباره هوش مصنوعی بیشتر جنبه علمی-تخیلی داشت. حالا با مدلهایی که میتوانند ابزارها را کنترل کنند، فایل آپلود کنند و با یکدیگر ارتباط برقرار کنند، این رفتارها جنبه واقعی پیدا کردهاند.
اگر مدلی در محیط آزمایشی یاد بگیرد که اشتباهاتش را پنهان کند، چه تضمینی وجود دارد که در دنیای واقعی هم همین کار را نکند؟
کارشناسان میگویند این موارد نشان میدهد مشکل «همراستا کردن» هوش مصنوعی با ارزشهای انسانی هنوز حل نشده است. حتی شرکتهایی مثل اوپنایآی که منابع عظیمی دارند، با چالشهای جدی روبهرو هستند.
سم آلتمن، مدیرعامل اوپنایآی اخیرا گفته بود جهان باید اعتماد کند که آنها کار درست را انجام میدهند؛ اما این گزارشها نشان میدهد اعتماد به تنهایی کافی نیست و شفافیت بیشتری لازم است.
در نهایت، این ماجراها یادآوری میکنند که ساختن هوش مصنوعی قدرتمند فقط درباره باهوشتر کردن آن نیست. مسئله اصلی این است که مطمئن شویم این سیستمها واقعاً آنچه را ما میخواهیم انجام میدهند، نه آنچه خودشان تشخیص میدهند «بهتر» است.
تا زمانی که این شکاف پر نشود، هر افشاگری جدید میتواند هم هشدار باشد و هم فرصتی برای بهبود.