این پرونده نگرانی‌های بیشتری درباره ایمنی هوش مصنوعی برای کودکان برمی‌انگیزد، زیرا شرکت‌های فناوری با شکایات بیشتری درباره فناوری خود روبه‌رو هستند.
پدر و مادر یک دختر ۱۳ ساله از گوگل شکایت کرده‌اند و مدعی شده‌اند دخترشان از فناوری هوش مصنوعی این شرکت روی رایانه‌ای که مدرسه در اختیارش گذاشته بود استفاده کرده تا برای یک خودکشی احتمالی و مراسم خاکسپاری خود برنامه‌ریزی کند.
آگهی
آگهی
این دادخواست که روز دوشنبه ۲ نوامبر در دادگاهی در ایالت کالیفرنیای آمریکا ثبت شد، بنا بر گزارش‌ها نخستین موردی است که گوگل را به سهل‌انگاری در قبال قابلیت‌های جست‌وجوی مجهز به هوش مصنوعی متهم می‌کند؛ قابلیت‌هایی که از طریق یک کروم‌بوک مدرسه‌ای، یکی از لپ‌تاپ‌های ارزان‌قیمت این شرکت که به طور گسترده در مدارس استفاده می‌شود، در دسترس بوده است.
این دختر که از او با نام اِما یاد شده، به دلیل مسدود شدن برنامه جمینی گوگل و چت‌جی‌پی‌تی اوپن‌ای‌آی از سوی مدرسه، به آن‌ها دسترسی نداشت. با این حال همچنان می‌توانست از موتور جست‌وجوی گوگل که شامل قابلیت‌های مبتنی بر هوش مصنوعی است استفاده کند.
به گفته این شکایت، با وجود آن‌که او «هیچ سابقه‌ای» از بیماری روانی نداشت، اِما در عرض چند ماه پس از استفاده از این موتور جست‌وجو وارد «سقوط آرام به سوی یک بحران شدید روان‌شناختی» شد.
روز ۱۷ مارس، مدرسه پس از آن‌که نرم‌افزار پایش آن سندی با عنوان «خاکسپاری» را علامت‌گذاری کرد، والدینش را مطلع کرد. مادرش بعدتر او را دید که در حال نوشتن یک نامه خداحافظی است و همین امر باعث شد پدرش مداخله کند.
اندرو لیدل، یکی از وکلای خانواده، روز پنجشنبه ۵ نوامبر به خبرگزاری فرانسه گفت: «مدارس باید قابلیت جست‌وجو را خاموش کنند و خاموش نگه دارند تا زمانی که گوگل حالت هوش مصنوعی را از جست‌وجو حذف کند یا اطمینان یابد که هر تک‌تک دانش‌آموزان هنگام تعامل با هوش مصنوعی همیشه در امنیت کامل هستند.»
افزایش فشارهای حقوقی بر غول‌های فناوری
گوگل اعلام کرده است که حالت هوش مصنوعی آن شامل تدابیر حفاظتی برای جلوگیری از خودآسیب‌رسانی و تلاش برای دور زدن این تدابیر است.
خوزه کاستاندا، سخنگوی گوگل، به خبرگزاری فرانسه گفت: «ما در حال بررسی ادعاهای مطرح‌شده در این دادخواست هستیم و این موضوع را بسیار جدی می‌گیریم.»
اوپن‌ای‌آی با چندین شکایت حقوقی مربوط به مرگ ناحق روبه‌رو است، از جمله شکایتی که والدین آدام رِین ۱۶ ساله طرح کرده‌اند؛ او پس از آن‌که بنا بر ادعا از چت‌جی‌پی‌تی توصیه‌های زیان‌بار دریافت کرده بود، با خودکشی جان خود را از دست داد.
در ماه ژانویه، گوگل و کاراکتر اِی‌آی نیز با حل‌وفصل چندین شکایت مطرح‌شده از سوی خانواده‌های نوجوانان خارج از دادگاه موافقت کردند.
در همین حال، در پرونده‌ای حقوقی جداگانه، گوگل، تیک‌تاک و متا روز چهارشنبه علیه ایالت کالیفرنیا دادخواستی مطرح کردند تا جلوی قانونی را بگیرند که استفاده از ویژگی‌های اعتیادآور شبکه‌های اجتماعی برای کاربران زیر ۱۶ سال را ممنوع می‌کند.
این قانون که در ماه سپتامبر به امضای گاوین نیوسام، فرماندار کالیفرنیا، رسید، قرار است از روز ۱ ژانویه ۲۰۲۷ میلادی اجرایی شود.