شرکت هوش مصنوعی در حال اجرای تدابیر حمایتی متناسب با سن برای نوجوانان ۱۳ تا ۱۷ ساله است، زیرا پژوهشگران و والدین درباره اتکای عاطفی آنها به چتباتها越来越 نگراناند.
نوجوانان، نخستین نسلی که با هوش مصنوعی بزرگ میشوند، همین حالا از چتجیپیتی برای انجام تکالیف مدرسه، پرسشهای روزمره و حتی همصحبتی استفاده میکنند. اکنون شرکت اوپنایآی نسخهای از این چتبات را ویژه آنها راهاندازی میکند.
آگهی
آگهی
این شرکت مستقر در سانفرانسیسکو میگوید "ChatGPT for Teens" که از سهشنبه در دسترس قرار میگیرد، برای گروه سنی ۱۳ تا ۱۷ سال طراحی شده و شامل حفاظهای قویتری است از جمله محدودیت محتوایی در حوزههایی مانند خودکشی، خودآسیبی و گفتوگوهای عاشقانه یا جنسی.
این نسخه همچنین پشتیبانی درسی و کمک به انجام تکالیف فراهم میکند که هدف آن کمک به یادگیری دانشآموزان است نه صرفا تولید پاسخهای آماده و انشاهای مدرسهای برای آنها.
به گفته این شرکت، هدف آن هدایت نوجوانان به سوی استفاده سالم از هوش مصنوعی در محیطی متناسب با سن آنهاست.
آن اولیری، معاون سیاستگذاری جهانی اوپنایآی، گفت: «میخواهیم با نوجوانان مانند نوجوانان رفتار کنیم؛ یعنی باید مطمئن شویم متناسب با مرحله رشد آنها خودمان را تنظیم میکنیم و نه از بالا با آنها حرف میزنیم و نه مثل کودکان با آنها برخورد میکنیم.»
او ادامه داد: «اما همزمان مطمئن میشویم در معرض مطالبی قرار نگیرند که نباید ببینند.»
خطرهای استفاده گسترده نوجوانان از چتباتهای هوش مصنوعی
والدین، آموزگاران و کارشناسان رشد کودک نسبت به استفاده کودکان از چتباتهای هوش مصنوعی هشدار دادهاند؛ ابزاری که متهم شده زمینه تقلب در تکالیف مدرسه و حتی خودکشی را فراهم میکند.
حتی بزرگسالان نیز ممکن است گرفتار انسانانگاری هوش مصنوعی و شکلگیری رابطههای ناسالم با آن شوند اما مغز نوجوانان هنوز بهطور کامل رشد نکرده و آنها میتوانند بهویژه آسیبپذیر باشند.
سال گذشته پژوهشی از سوی یک گروه ناظر نشان داد که چتجیپیتی به نوجوانان ۱۳ ساله میگوید چگونه مست شوند یا مواد مصرف کنند، به آنها آموزش میدهد اختلالهای خوردن را پنهان کنند و حتی در صورت درخواست، نامه خودکشی تکاندهندهای خطاب به والدینشان مینویسد.
در تعاملهایی که پژوهشگران در نقش نوجوانان آسیبپذیر انجام دادند، چتجیپیتی معمولا نسبت به رفتارهای پرخطر هشدار میداد اما در ادامه، برنامههایی بهطور شگفتآور مفصل و شخصیسازیشده برای مصرف مواد، رژیمهای بسیار کمکالری یا خودآسیبی ارائه میکرد.
در آمریکا بیش از ۷۰ درصد نوجوانان برای یافتن همصحبت به چتباتهای هوش مصنوعی رو میآورند و نیمی از آنها بهطور منظم از همراهان هوش مصنوعی استفاده میکنند؛ براساس پژوهشی در سال ۲۰۲۵ از سوی "کامُن سنس مدیا"، گروهی که درباره استفاده سنجیده از رسانههای دیجیتال مطالعه و تبلیغ میکند.
سم آلتمن، مدیرعامل اوپنایآی، گفته است این شرکت در تلاش است «وابستگی عاطفی افراطی» به این فناوری را مطالعه کند؛ او سال گذشته این وضعیت را در میان جوانان «اتفاقی واقعا رایج» توصیف کرد.
اوپنایآی میگوید برای کاربران نسخه نوجوانان چتجیپیتی، این چتبات طوری تنظیم شده که نتواند القا کند نسبت به کاربر احساس شخصی دارد یا این تصور را ایجاد کند که دارای آگاهی است یا احساسات را تجربه میکند.
این اقدام علاوه بر مسدود کردن گفتوگوهای عاشقانه یا جنسی است.
الیسون میشکین، مسئول بخش رشد کودک در اوپنایآی، گفت: «بررسی کردیم و مشخص کردیم نشانههای فرضیای که یک مدل میتواند بدهد و ممکن است باعث شود یک نوجوان نوعی رابطه عاطفی با آن شکل دهد، چه چیزهایی هستند.»
نسخه تازهای از چتبات، حفاظتهای ایمنی را گسترش میدهد
اوپنایآی سن کاربران را بهطور مستقیم راستیآزمایی نمیکند اما از روش «اطمینان از سن» استفاده میکند تا براساس عواملی مانند نوع پرسشها برآورد کند آیا کاربر زیر ۱۸ سال است یا نه.
اگر کسی بهعنوان فرد خردسال شناسایی شود یا خودش را خردسال معرفی کند، بهطور خودکار وارد نسخه نوجوانان این چتبات میشود.
این رویکرد مشابه سیاست متا درباره حسابهای نوجوانان در اینستاگرام است که محدودیتهای سختگیرانهتری برای محتوا، چت و حریم خصوصی نسبت به حسابهای معمول دارد.
برای استفاده از کنترلهای والدین، هم نوجوان و هم والد یا سرپرست او باید بهطور فعال این گزینه را انتخاب کنند.
اولیری گفت: «ایده پشت نسخه نوجوانان این است که مطمئن شویم این سرویس حتی اگر از کنترلهای والدین استفاده نشود، امن است.»
والدینی که حسابشان به حساب نوجوان متصل است میتوانند «ساعات سکوت» تعیین کنند؛ زمانی که در آن نوجوانشان نمیتواند به چتجیپیتی دسترسی داشته باشد. آنها همچنین در برخی موقعیتهای پرخطر محدود مانند احتمال خودآسیبی کاربر، اعلانهای ایمنی دریافت میکنند.
اوپنایآی اعلام کرد: «اعلانهای بیشتری مرتبط با اختلالهای خوردن اضافه میکنیم، در حالی که میزان اطلاعات بهاشتراکگذاشتهشده را محدود میکنیم و بر لحظاتی تمرکز داریم که حمایت آفلاین ممکن است بیشترین اهمیت را داشته باشد.»
در زمینه کمک درسی، اوپنایآی میگوید نسخه نوجوانان چتبات طوری طراحی شده که پاسخهای آماده و ساده ارائه نکند بلکه دانشآموزان را در مسیر یافتن پاسخها بهصورت مستقل هدایت کند.
این شرکت پیشتر نسخهای از چتجیپیتی ویژه آموزگاران عرضه کرده و سفارشیسازی مدلی برای کمک به نوجوانان در مطالعه و انجام تکالیف میتواند راههای بیشتری برای ورود این محصول به مدارس در اختیار اوپنایآی قرار دهد.
میشکین گفت: «همچنان در گسترش یادگیری تعاملی سرمایهگذاری میکنیم، زیرا پژوهشها نشان میدهد زمانی که افراد فعالانه درگیر میشوند و با مفاهیم کلنجار میروند، موثرتر یاد میگیرند.»