شرکتهای اوپنایآی و انتروپیک گفتهاند در حال گفتوگو با اتحادیه معلمان آمریکا درباره توافقهای ایمنی و حریم خصوصی هستند، اما گوگل، تامینکننده اصلی فناوری آموزشی مدارس این کشور، هنوز نگفته آیا قصد ارائه حمایتهای مشابه را دارد.
شرکت مایکروسافت در حالی که موج مخالفت با هوش مصنوعی و زمان استفاده از صفحهنمایش رو به افزایش است، در مدارس ایالات متحده برای استفاده از هوش مصنوعی چارچوبهای حفاظتی و استانداردهای حریم خصوصی معرفی میکند؛ چارچوبی که در نتیجه مذاکره با دومین اتحادیه بزرگ معلمان این کشور تدوین شده است.
آگهی
آگهی
بر اساس این توافقنامه (منبع به زبان انگلیسی) که هفته گذشته امضا شد، استفاده از همدمها یا قابلیتهای هوش مصنوعی «که برای ایجاد دلبستگی یا وابستگی عاطفی طراحی شدهاند» یا به گونهای طراحی شدهاند که دانشآموزان را فراتر از زمان مورد نیاز برای انجام یک تکلیف آموزشی درگیر نگه دارند، ممنوع است.
این استانداردها از نظر حقوقی لازمالاجرا هستند و مستلزم انجام حسابرسیهای مستقل برای بررسی پایبندی به آنها است.
در چارچوب این توافق گسترده، مایکروسافت اعلام میکند که دادههای دانشآموزان و معلمان را برای آموزش سامانههای هوش مصنوعی به کار نخواهد گرفت، جز در یک استثنای محدود مربوط به دادههایی که میتواند به حفاظت از دانشآموزان کمک کند. این شرکت میگوید دادههایی که جمعآوری میکند نه قابل فروش است، نه برای تبلیغات و نه برای توسعه محصولات مورد استفاده قرار خواهد گرفت.
این توافق همچنین تدابیر حسابرسی و شفافیت را شامل میشود که شرکت را ملزم میکند برای خانوادهها با زبانی ساده توضیح دهد ابزارهایش چگونه کار میکنند و چه دادههایی جمعآوری میکنند.
برد اسمیت، نایبرئیس و رئیس مایکروسافت، در بیانیهای گفت: «این استاندارد سطح بالایی برای حریم خصوصی کودکان و ایمنی هوش مصنوعی تعیین میکند و ما این توافق را به همه نواحی آموزشی در سراسر کشور تسری خواهیم داد.»
به گفته این شرکت، این استانداردها از اول نوامبر در تمام قراردادهای آموزشی مایکروسافت در سراسر ایالات متحده اعمال خواهد شد.
آیا کلاسهای درس اروپا به ترمز هوش مصنوعی نیاز دارند؟
هوش مصنوعی هماکنون به تدریج راه خود را به کلاسهای درس اروپا باز میکند.
مطالعهای از کمیسیون اروپا (منبع به زبان انگلیسی) درباره مدارس متوسطه پیشرو در فنلاند، آلمان، ایرلند، لوکزامبورگ و اسپانیا نشان داد که دانشآموزان از هوش مصنوعی مولد برای توضیح موضوعات دشوار، تمرین مهارتها و آماده شدن برای امتحانها استفاده میکنند.
برخی دولتهای اروپایی از همین حالا برای استفاده دانشآموزان کمسن از این فناوری محدودیت تعیین کردهاند.
نروژ امسال اعلام کرد کودکانی در حدود ۶ تا ۱۲ سالگی به طور کلی نباید خودشان برای انجام تکالیف مدرسه از هوش مصنوعی مولد استفاده کنند، در حالی که نوجوانان حدود ۱۳ تا ۱۵ سال میتوانند با احتیاط استفاده آزمایشی از آن را آغاز کنند.
فرانسه اجازه میدهد دانشآموزان در مقطع ابتدایی درباره هوش مصنوعی آموزش ببینند، اما تاکید میکند که نباید مستقیما از هوش مصنوعی مولد استفاده کنند. استفاده از این فناوری در کلاس و تحت نظارت از حدود ۱۳ یا ۱۴ سالگی میتواند آغاز شود.
سندی که یورونیوز مشاهده کرده است حاکی از آن است که کمیسیون اروپا در طرح قانونیای که قرار است پنجشنبه منتشر شود، ممنوعیت دسترسی افراد زیر ۱۵ سال به خدمات آنلاین پرخطر مانند چتباتهای هوش مصنوعی را پیشنهاد خواهد کرد.
گفتوگوهای اوپنایآی و آنتروپیک برای تدابیر مشابه
در حالی که کارشناسان میگویند مفاد ایمنی در توافق آمریکا قابل توجه است، برخی هشدار میدهند که نباید تقویت تدابیر حفاظتی به خودی خود به معنای تایید گسترش استفاده از هوش مصنوعی در مدارس تلقی شود.
جاش گلین، مدیر اجرایی سازمان غیردولتی آمریکایی «فیرپلی» که در حوزه ایمنی آنلاین فعالیت میکند، گفت: «نگرانم چارچوب پر سر و صدایی مثل این، بد فهمیده شود و مدارس فکر کنند "اگر در زمینه حریم خصوصی دادهها و ایمنی کار خوبی انجام میدهند، پس یعنی باید از این ابزار استفاده کنیم".»
او میگوید این استانداردها تنها زمانی موثر خواهد بود که دیگر شرکتهای بزرگ هوش مصنوعی نیز آن را بپذیرند.
او گفت: «آیا گوگل این چارچوب را خواهد پذیرفت؟ این پرسش بسیار بزرگی است.»
گوگل پس از آنکه در ماه اوت ابزارهای مبتنی بر جمینی را در سرویس «گوگل کلاسروم» برای حسابهای مدرسهای مورد استفاده دانشآموزان زیر ۱۸ سال گسترش داد، در ایالات متحده با موجی از انتقاد روبهرو شد.
منتقدان این گسترش را گامی دیگر در رقابت میان غولهای فناوری برای جا انداختن محصولات هوش مصنوعی خود در مدارس و دسترسی به کاربران کمسنوسال توصیف کردهاند. گوگل میگوید بیش از ۱۵۰ میلیون معلم و دانشآموز در سراسر جهان از کلاسروم استفاده میکنند.
این اتحادیه معلمان همچنین با اوپنایآی و آنتروپیک که هر دو به طور علنی از توافق مایکروسافت استقبال کردهاند، در حال مذاکره است.
اوپنایآی، سازنده چتجیپیتی، این توافق را «گامی مهم برای ایمنی و حریم خصوصی هوش مصنوعی در مدارس» توصیف کرد. این شرکت اعلام کرد با اتحادیه معلمان همکاری داشته و انتظار دارد به زودی توافق جداگانه خود را نهایی کند.
آنتروپیک، سازنده «کلود»، نیز اعلام کرد از تلاشها برای ترویج استفاده مسئولانه از هوش مصنوعی در آموزش حمایت میکند و همراه با این اتحادیه روی استانداردهای ایمنی و حریم خصوصی کار میکند.