در این نامه، کارکنان گوگل هشدار میدهند این فناوری میتواند توسط پنتاگون به شیوههای غیرانسانی، از جمله برای نظارت گسترده و سلاحهای خودکار کشنده بهکار رود.
بر اساس بیانیهای که روز دوشنبه منتشر شد، بیش از ۶۰۰ کارمند گوگل از این شرکت خواستهاند توافق احتمالی با پنتاگون را که امکان استفاده از هوش مصنوعی آن در عملیات نظامی محرمانه را میدهد، رد کند.
آگهی
آگهی
در نامه سرگشادهای (منبع به زبان انگلیسی) که خطاب به مدیرعامل گوگل سوندار پیچای نوشته شده، آمده است: «ما میخواهیم هوش مصنوعی در خدمت بشریت باشد، نه این که به شیوههای غیرانسانی یا بسیار زیانبار به کار گرفته شود. این مساله شامل سلاحهای مرگبار خودکار و نظارت گسترده تودهای میشود، اما به همین موارد محدود نمیماند.»
این نامه که به امضای کارکنان گوگل دیپمایند، بخش ابری و دیگر واحدها رسیده، در حالی منتشر شده است که این غول فناوری در حال مذاکره با وزارت دفاع امریکا بر سر استفاده احتمالی از مدل هوش مصنوعی جمینی خود در محیطهای طبقهبندیشده است.
بیش از ۲۰ مدیر، مدیر ارشد و معاون شرکت نیز این نامه را به طور علنی امضا کردهاند.
یکی از کارمندان سازماندهنده این کمپین که نامش در بیانیه ذکر نشده، گفت: «ماهیت کارهای محرمانه به خودی خود شفاف نیست.»
او گفت: «در حال حاضر هیچ راهی برای اطمینان از این که از ابزارهای ما برای وارد کردن آسیبهای شدید یا فرسایش آزادیهای مدنی دور از چشم افکار عمومی استفاده نخواهد شد، وجود ندارد. بحث ما درباره مواردی مثل پروفایلسازی افراد یا هدف قرار دادن غیرنظامیان بیگناه است.»
انتشار این نامه در زمانی صورت میگیرد که شرکتهای فناوری زیر فشار فزایندهای قرار دارند تا روشن کنند ابزارهای هوش مصنوعی آنها چگونه میتواند در اختیار ارتش و نهادهای اطلاعاتی قرار گیرد؛ فشاری که پس از مناقشه میان پنتاگون و استارتاپ هوش مصنوعی انتروپیک شدت گرفته است.
انتروپیک پیشتر پس از آن که به دلیل درخواستش برای عدم استفاده از سامانههایش در نظارت گسترده یا جنگافزارهای خودکار، از سوی دولت امریکا «ریسک زنجیره تامین» شناخته شد، از وزارت دفاع امریکا شکایت کرد.
داریو آمودی، مدیرعامل انتروپیک، گفت که «نمیتواند با وجدان آسوده با درخواست پنتاگون» برای دسترسی نامحدود به سامانههای هوش مصنوعی این شرکت موافقت کند.
آمودی در ادامه نوشت: «در مجموعه محدودی از موارد، ما بر این باوریم که هوش مصنوعی میتواند به جای دفاع از ارزشهای دموکراتیک، آنها را تضعیف کند. برخی کاربردها نیز به سادگی فراتر از تواناییهای فناوری امروز برای انجام ایمن و قابل اعتماد آنهاست.»
در واکنش به این تصمیم آمودی، دونالد ترامپ، رئیسجمهور امریکا، دستور داد دستگاههای دولتی استفاده از چتبات این شرکت به نام «کلود» را متوقف کنند.
به گفته سازماندهندگان این نامه، گوگل در مذاکرات خود پیشنهاد کرده است بندی در قرارداد گنجانده شود که مانع استفاده از جمینی برای نظارت گسترده داخلی یا سلاحهای خودکار بدون کنترل کافی انسانی شود.
اما پنتاگون بر فرمولبندی کلیتر «همه استفادههای قانونی» پافشاری کرده و میگوید چنین عبارتی برای حفظ انعطافپذیری عملیاتی ضروری است. کارکنان گوگل میگویند اجرای عملی چنین تضمینهایی دشوار خواهد بود و به سیاستهای فعلی پنتاگون اشاره میکنند که کنترل خارجی بر سامانههای هوش مصنوعی این نهاد را محدود میکند.
بیانیه اخیر کارکنان گوگل با اعتراض پیشین کارکنان این شرکت در سال ۲۰۱۸ مقایسه میشود؛ اعتراضی که در نهایت باعث شد گوگل از پروژه میون، ابتکار پنتاگون برای استفاده از هوش مصنوعی در تحلیل تصاویر پهپادها، کنار بکشد.
در آن نامه آمده بود: «ما معتقدیم گوگل نباید وارد تجارت جنگ شود.»
در ادامه آمده بود: «بنابراین از شما میخواهیم پروژه میون لغو شود و گوگل یک سیاست روشن تدوین، منتشر و اجرا کند که تصریح میکند نه این شرکت و نه پیمانکارانش هرگز فناوری جنگی تولید نخواهند کرد.»