اوپن ای آی و انثروپیک اعلام کردند در حال مذاکره با اتحادیه معلمان آمریکا درباره توافقهای امنیت و حریم خصوصی هستند، اما گوگل به عنوان تامینکننده اصلی فناوری آموزشی مدارس آمریکا هنوز نگفته آیا میخواهد چنین حمایتهایی فراهم کند یا نه.
مایکروسافت در بحبوحه افزایش واکنشهای منفی به هوش مصنوعی و زمان استفاده از صفحهنمایش، در مدارس ایالات متحده برای ابزارهای هوش مصنوعی خود محدودیتها و استانداردهای حریم خصوصی وضع میکند؛ این استانداردها در مذاکره با دومین اتحادیه بزرگ معلمان این کشور تدوین شده است.
آگهی
آگهی
این توافق (منبع به زبان انگلیسی) که هفته گذشته امضا شد، استفاده از همراههای هوش مصنوعی یا قابلیتهایی را که «برای ایجاد دلبستگی یا وابستگی عاطفی» طراحی شدهاند، یا با هدف نگه داشتن دانشآموزان درگیر ابزار بیش از زمان لازم برای انجام یک فعالیت آموزشی ساخته شدهاند، ممنوع میکند.
این استانداردها از نظر حقوقی لازمالاجرا هستند و مستلزم حسابرسی توسط نهادهای مستقلاند.
مایکروسافت میگوید در چارچوب این توافق گسترده، از دادههای دانشآموزان یا معلمان برای آموزش سامانههای هوش مصنوعی استفاده نخواهد کرد، مگر در یک استثنای محدود برای دادههایی که میتواند به حفاظت از دانشآموزان کمک کند. این شرکت میگوید دادههایی که جمعآوری میکند نه میتواند فروخته شود، نه برای تبلیغات و نه برای توسعه محصولات مورد استفاده قرار گیرد.
در این توافق همچنین تدابیر حسابرسی و شفافیت پیشبینی شده که شرکت را ملزم میکند برای خانوادهها به زبان ساده توضیح دهد ابزارهایش چگونه کار میکنند و چه دادههایی را جمعآوری میکنند.
براد اسمیت، نایب رییس هیات مدیره و رییس مایکروسافت، در بیانیهای گفت: «این استاندارد معیار بالایی برای حریم خصوصی کودکان و ایمنی هوش مصنوعی تعیین میکند و ما این توافق را به همه نواحی آموزشی در سراسر کشور تعمیم خواهیم داد.»
به گفته این شرکت، استانداردها از اول نوامبر در همه قراردادهای مدارس مایکروسافت در سراسر آمریکا اعمال خواهد شد.
آیا مدارس اروپا به ترمز هوش مصنوعی نیاز دارند؟
هوش مصنوعی از هماکنون راه خود را به کلاسهای درس اروپا باز کرده است و جوانان نیز فراتر از تکالیف مدرسه، بیش از پیش به چتباتها رو میآورند.
یک مطالعه کمیسیون اروپا (منبع به زبان انگلیسی) روی استفادهکنندگان اولیه در مدارس متوسطه فنلاند، آلمان، ایرلند، لوکزامبورگ و اسپانیا نشان داد دانشآموزان از هوش مصنوعی مولد برای توضیح موضوعات دشوار، تمرین مهارتها و آماده شدن برای امتحان استفاده میکنند.
همزمان، یک مطالعه جداگانه در اتریش در سال ۲۰۲۶ نشان داد ۶۰ درصد از نوجوانان ۱۱ تا ۱۷ سالهای که مورد پرسش قرار گرفتند، برای مسائلی مانند استرس، تعارضها یا شکست عشقی از چتباتهای هوش مصنوعی مشورت گرفتهاند، در حالی که ۳۰ درصد نگرانیها یا احساسات خود را با این ابزارها در میان گذاشتهاند.
برخی دولتهای اروپایی هماکنون در حال تعیین مرزهایی برای استفاده دانشآموزان کمسنتر هستند.
نروژ (منبع به زبان انگلیسی) امسال اعلام کرد کودکان حدود ۶ تا ۱۲ ساله به طور کلی نباید خودشان از هوش مصنوعی مولد برای انجام تکالیف مدرسه استفاده کنند، در حالی که نوجوانان حدود ۱۳ تا ۱۵ ساله میتوانند با احتیاط کار با آن را آغاز کنند.
فرانسه (منبع به زبان انگلیسی) اجازه میدهد دانشآموزان در سن دبستان درباره هوش مصنوعی آموزش ببینند، اما میگوید آنها نباید مستقیما از هوش مصنوعی مولد استفاده کنند. استفاده کلاسی تحت نظارت میتواند از حدود سن ۱۳ یا ۱۴ سالگی آغاز شود.
یک سند که یورونیوز آن را رویت کرده است حاکی است کمیسیون اروپا در یک پیشنهاد قانونی که قرار است پنجشنبه منتشر شود، پیشنهاد خواهد داد دسترسی افراد زیر ۱۵ سال به خدمات آنلاین پرریسک مانند چتباتهای هوش مصنوعی ممنوع شود.
اوپنایآی و انثروپیک در حال مذاکره درباره سازوکارهای حفاظتی مشابه
کارشناسان میگویند تدابیر ایمنی پیشبینیشده در توافق آمریکا قابل توجه است، اما برخی هشدار میدهند که نباید وجود سازوکارهای حفاظتی قویتر را به معنای تایید خودکار استفاده بیشتر از هوش مصنوعی در مدارس دانست.
جاش گولین، مدیر اجرایی سازمان آمریکایی «فیرپلی» که در حوزه ایمنی آنلاین فعالیت میکند، گفت: «نگرانم چارچوب پرسر و صدایی مثل این به اشتباه فهمیده شود و مدارس فکر کنند اگر در زمینه حریم خصوصی دادهها و ایمنی کار خوبی انجام میشود، پس یعنی باید از این ابزار استفاده کنیم.»
گولین میگوید این استانداردها تنها زمانی موثر خواهند بود که دیگر شرکتهای بزرگ فعال در حوزه هوش مصنوعی نیز به آن بپیوندند.
او گفت: «این که آیا گوگل این چارچوب را خواهد پذیرفت یا نه، سوال بسیار مهمی است.»
گوگل پس از آنکه در ماه اوت ابزارهای مبتنی بر جمینی را در «کلاسروم گوگل» برای حسابهای مدرسهای مورد استفاده دانشآموزان زیر ۱۸ سال گسترش داد، در آمریکا با انتقاد روبهرو شد.
منتقدان این گسترش را گامی دیگر در رقابت میان غولهای فناوری برای جا انداختن محصولات هوش مصنوعی خود در مدارس و دسترسی به کاربران کمسنتر توصیف کردهاند. گوگل میگوید «کلاسروم» توسط بیش از ۱۵۰ میلیون معلم و دانشآموز در سراسر جهان مورد استفاده قرار میگیرد.
اتحادیه معلمان آمریکا همچنین با اوپنایآی و انثروپیک که هر دو به طور علنی از توافق با مایکروسافت استقبال کردهاند، در حال مذاکره است.
شرکت اوپنایآی، سازنده چتجیپیتی، در بیانیهای این توافق را «نقطه عطف مهمی برای ایمنی و حریم خصوصی هوش مصنوعی در مدارس» توصیف کرد و گفت با اتحادیه معلمان همکاری کرده و انتظار دارد توافق مشابه خود را نهایی کند.
شرکت انثروپیک، سازنده کلود، نیز اعلام کرد از تلاشها برای ترویج استفاده مسئولانه از هوش مصنوعی در آموزش حمایت میکند و در حال کار با این اتحادیه برای تدوین استانداردهای ایمنی و حریم خصوصی است.