سازمان ملل در ژنو درباره محدود کردن تسلیحات خودمختار مجهز به هوش مصنوعی مذاکره می‌کند. این سلاح‌ها می‌توانند بدون دخالت انسان اهداف را شناسایی و به آن‌ها حمله کنند. کارشناسان با اشاره به جنگ ایران و اوکراین هشدار می‌دهند که سرعت گسترش این فناوری از تلاش‌ها برای قانون‌گذاری پیشی گرفته است.
تسلیحات خودمختار مرگبار مجهز به هوش مصنوعی در آستانه ایجاد تحولی بنیادین در شیوه جنگیدن هستند، اما هنوز چارچوب حقوقی و مقرراتی مناسبی برای کنترل این فناوری جدید وجود ندارد.
آگهی
آگهی
قرار است از روز دوشنبه نشستی در سازمان ملل متحد در ژنو برگزار شود تا کشورهای شرکت‌کننده درباره اعمال محدودیت‌ها و ممنوعیت‌های احتمالی بر این تسلیحات که برخی آن‌ها را «ربات‌های قاتل» می‌نامند، گفت‌وگو کنند.
با این حال، برخی تحلیلگران تردید دارند که مذاکرات در چارچوب «کنوانسیون برخی سلاح‌های متعارف» (CCW) بتواند با سرعت تحولات این فناوری همگام شود.
خبرگزاری فرانسه در آستانه این نشست، سه پرسش اصلی درباره تسلیحات خودمختار مرگبار را بررسی کرده است.
تسلیحات خودمختار مرگبار چیستند؟
ژان مارک ریکلی، رئیس بخش خطرات جهانی و نوظهور در مرکز سیاست امنیتی ژنو، می‌گوید سامانه‌های تسلیحاتی خودمختار مرگبار (LAWS) می‌توانند «بدون دخالت اپراتور انسانی در اجرای این وظایف، هدف را شناسایی، انتخاب و با آن درگیر شوند.»
تسلیحات خودمختار از مدت‌ها پیش وجود داشته‌اند.
لور دو روسی روشگوند، پژوهشگر مرکز ژئوپلیتیک فناوری در موسسه روابط بین‌الملل فرانسه (IFRI)، می‌گوید: «مین ضدنفر از این نظر یک سلاح خودمختار است که وقتی کسی روی آن پا می‌گذارد، منفجر می‌شود.»
اما با گسترش پهپادهای مجهز به هوش مصنوعی، این تسلیحات اکنون به گفته ریکلی قادرند «هدفی را که از پیش تعیین نشده، انتخاب کنند و مورد حمله قرار دهند و بدون دخالت انسان خود را با محیط تطبیق دهند.»
بنابراین، مسئله اساسی برای نهادهایی که قصد تنظیم مقررات را دارند، تعیین میزان کنترل انسان بر تصمیم استفاده از چنین تسلیحاتی است.
آمریکا در زمینه استفاده از سلاح‌های خودمختار از اصطلاح «سطوح مناسب قضاوت انسانی» استفاده می‌کند.
فرانسه معتقد است که انسان باید همچنان در چرخه تصمیم‌گیری حضور داشته باشد. این کشور سامانه‌های تسلیحاتی خودمختار مرگبار (LAWS) را ممنوع می‌داند، اما استفاده از سامانه‌های «نیمه‌خودمختار» موسوم به PLAWS را مجاز می‌شمارد.
دریادار ونسان سباستین، معاون مدیر آژانس هوش مصنوعی دفاعی وزارت نیروهای مسلح فرانسه (AMIAD)، می‌گوید: «نقش انسان همواره از طریق آنچه کنترل مناسب توسط فرمانده نظامی نامیده می‌شود، تضمین می‌شود؛ مفهومی که دامنه آن بسته به حساسیت سامانه و شرایط عملیاتی متفاوت است.»
چالش‌های اخلاقی استفاده از هوش مصنوعی در جنگ چیست؟
آنتونیو گوترش، دبیرکل سازمان ملل متحد، و میریانا اسپولیاریک، رئیس کمیته بین‌المللی صلیب سرخ، در بیانیه مشترکی در ماه اوت هشدار دادند: «ما اکنون به شکلی خطرناک به عبور از یک خط قرمز اخلاقی نزدیک شده‌ایم: هدف قرار دادن خودمختار انسان‌ها توسط ماشین‌ها.»
با این حال، تحلیلگران می‌گویند مذاکرات ژنو، با وجود اهمیت آن، تنها بخشی از این مسئله را در بر خواهد گرفت.
امروزه کاهش نقش انسان در میدان نبرد تا حد زیادی ناشی از گسترش استفاده از هوش مصنوعی در تحلیل اطلاعات و تعیین اهداف حملات است.
ریکلی معتقد است دامنه موضوعات مورد بحث در ژنو «بسیار محدود» است.
او می‌گوید این مذاکرات «تمام مسائل مربوط به هوش مصنوعی در میدان نبرد را پوشش نمی‌دهد»؛ حوزه‌ای که استفاده از این فناوری در آن، به‌ویژه برای شناسایی و تعیین اهداف، به‌سرعت در حال گسترش است.
به گفته او، نمونه این روند را می‌توان در جنگ امسال آمریکا و اسرائیل علیه ایران مشاهده کرد؛ جنگی که در جریان آن «آمریکایی‌ها روزانه تا هزار هدف را در داخل ایران مورد حمله قرار دادند.»
لور دو روسی روشگوند نیز هشدار می‌دهد: «مشکلات متعدد و خطرات غیرقابل‌قبولی در ارتباط با سامانه‌های هدف‌یابی و پشتیبانی از تصمیم‌گیری وجود دارد.»
او می‌افزاید: «بخشی از این بحث به سامانه‌هایی مربوط می‌شود که هم‌اکنون به‌طور گسترده در میدان نبرد به کار گرفته می‌شوند.»
این پژوهشگر می‌پرسد: «چه نوع نظارت انسانی لازم است تا اطمینان حاصل شود اپراتور واقعا قضاوت مستقل خود را اعمال می‌کند و صرفا توصیه‌های ماشین را بدون بررسی تایید نمی‌کند؟»
تحولات تسلیحات خودمختار با چه سرعتی پیش می‌رود؟
تسلیحات خودمختاری که قرار است در نشست ژنو درباره آن‌ها گفت‌وگو شود، هنوز به‌طور گسترده مورد استفاده قرار نگرفته‌اند؛ هرچند تحلیلگران به استفاده از آن‌ها توسط روسیه در جریان تهاجم به اوکراین و همچنین در حملات آمریکا به ایران اشاره کرده‌اند.
با این حال، گسترش استفاده از این تسلیحات اجتناب‌ناپذیر به نظر می‌رسد.
دریادار ونسان سباستین هشدار می‌دهد: «خودمختاری به‌زودی به واقعیتی در میدان نبرد تبدیل خواهد شد.»
گوترش و اسپولیاریک نیز در بیانیه مشترک خود تاکید کرده‌اند: «سامانه‌های تسلیحاتی خودمختار متعلق به آینده‌ای دور نیستند؛ رقابت برای افزایش خودمختاری سامانه‌های تسلیحاتی هم‌اکنون به‌طور جدی آغاز شده است.»
با این وجود، تردیدها و خطرات مهمی همچنان باقی است.
داریو آمودی، مدیرعامل شرکت بزرگ هوش مصنوعی آنتروپیک، امسال هشدار داد: «سامانه‌های پیشرفته هوش مصنوعی در حال حاضر به اندازه کافی قابل اعتماد نیستند که بتوانند تسلیحات کاملا خودمختار را کنترل کنند.»
اما در نهایت، انگیزه قدرت‌های بزرگ برای توسعه این فناوری بسیار قوی است.
به گفته ریکلی، دسته‌های پرشمار پهپادهای خودمختار که هدفشان «از کار انداختن دشمن از طریق اشباع توان دفاعی او» است، می‌توانند بسیار موثر باشند و برخی کشورها آن‌ها را یک مزیت راهبردی حیاتی می‌دانند.
وزارت دفاع چین در ماه ژانویه، دسته‌های پهپادهای خودمختار را «چهره جدید جنگ» توصیف کرد.
جرالد ماکو، پژوهشگر وابسته به دانشگاه کمبریج، در نشریه «اسمال وارز ژورنال» نوشت: «در دوره‌ای که رقابت نظامی شدید است، نخستین کشوری که حملات مرگبار کاملا خودمختار را به امری عادی تبدیل کند، انتظارات دیگران را نیز از نو تعریف خواهد کرد.»