ربات‌های انسان‌نما چه زمانی وارد جنگ می‌شوند؟ رونمایی از پروژه مخفی آمریکا در خاک اوکراین

با استقرار بسیار سریع هوش مصنوعی و جهشهای بزرگ فناوری در رباتیک، تصاویر ربات‌های انسان‌نمای مسلح دیگر فقط ساخته و پرداخته خیال عمومی نیست.

آگهی

آگهی

اما هرچه این فناوری پیشرو با شتاب بیشتری پیش می‌رود، احساس نگرانی نیز همچنان باقی است.

شرکت آمریکایی «فاندیشن فیوچر اینداستریز» که ربات‌های انسان‌نما برای کاربردهای تجاری و نظامی می‌سازد، تاکنون ربات‌های «فانتوم» خود را در اوکراین آزمایش کرده است.

مدیرعامل این شرکت می‌گوید انتظار دارد پس از برنامه‌های آزمایشی در اوکراین، از «سال آینده» سناریوهای مسلح‌سازی ربات‌ها را نیز آزمایش کند.

سانکیت پاتاک، مدیرعامل فاندیشن، به یورونیوز نکست گفت: «فکر می‌کنم واکنش روانی ما شبیه فیلم ترمیناتور است، اما اگر از زاویه عملی نگاه کنید، واقعیت این طور نیست.»

او افزود: «در اصل، اگر هدفتان ایجاد ویرانی باشد، چرا باید گروهی ربات انسان‌نما بفرستید؟»

در عوض، مدیرعامل توضیح می‌دهد که ربات‌های انسان‌نما می‌توانند به‌تدریج نقش‌های بیشتری در درگیری‌های رزمی بر عهده بگیرند و سطحی از دقت را فراهم کنند که دیگر سامانه‌های تسلیحاتی، از جمله بمباران هوایی، قادر به تامین آن نیستند.

به گفته او، استفاده از خوشه‌ای ربات انسان‌نما برای ویران کردن همه چیز منطقی نیست، چون یک بمب می‌تواند این کار را بسیار ارزان‌تر انجام دهد.

او استدلال می‌کند ربات‌های انسان‌نما زمانی به‌ویژه مفید می‌شوند که هدف نظامی به دقت بالا نیاز دارد؛ یعنی اجرای ماموریتی پیچیده بدون آسیب زدن به زیرساخت‌ها و صدمه به غیرنظامیان.

ربات‌ها در میدان نبرد

پاتاک انتظار ندارد ربات‌های انسان‌نما جایگزین پهپادها شوند، اما معتقد است می‌توانند خلائی را پر کنند، آن هم در شرایطی که نبرد زمینی برای سربازان انسانی هر روز پرخطرتر می‌شود.

او گفت: «ربات‌های انسان‌نما فقط زمانی معنا پیدا می‌کنند که هدف ماموریت شما دقت بیشتر باشد؛ یعنی تلاش کنید تا حد امکان زیرساخت‌ها را تخریب نکنید، به غیرنظامیان آسیب نزنید و در عین حال ماموریتی بسیار پیچیده را به بهترین شکل ممکن انجام دهید.»

پاتاک افزود: «به نظر من حضور سربازان روی زمین روزبه‌روز خطرناک‌تر شده است. دوم این که فکر می‌کنم این مرحله بعدی دقت در جنگ است که می‌تواند در مجموع اتفاق خوبی باشد.»

هیچ معاهده مشخصی درباره استفاده از ربات‌های انسان‌نما یا ربات‌های خودکار در میدان نبرد وجود ندارد و آنها ذیل حقوق بشردوستانه بین‌المللی فعلی تعریف می‌شوند؛ حقوقی که ایجاب می‌کند سلاح‌ها میان رزمندگان و غیرنظامیان تمایز قائل شوند.

هفته گذشته آنتونیو گوترش، دبیرکل سازمان ملل متحد، گفت «نگرانی اصلی» او «سامانه‌های سلاح خودکار مرگبار» است.

او در پستی در لینکدین نوشت: «بگذارید اسم واقعی‌شان را به کار ببریم: ربات‌های قاتل. ماشین‌هایی که هدف خود را انتخاب و درگیر می‌شوند و جان انسان می‌گیرند؛ بدون کنترل و قضاوت انسانی.»

سازمان ملل از سال ۲۰۲۳ از طریق «کنوانسیون برخی سلاح‌های متعارف» در حال مذاکره برای تدوین معاهده‌ای ویژه درباره «سامانه‌های سلاح خودکار مرگبار» (LAWS) است و دبیرکل سازمان ملل خواستار ممنوعیت الزام‌آور سلاح‌هایی شده که تا سال ۲۰۲۶ بدون کنترل انسانی عمل می‌کنند.

در پاسخ به پرسشی درباره این روند، پاتاک گفت دلیلی نمی‌بیند که ربات‌های انسان‌نما را متفاوت از دیگر سامانه‌های تسلیحاتی دقیق موجود، مانند پهپادهای مسلح و خودروهای زمینی بدون سرنشین، تلقی کنند.

هوش مصنوعی در میدان نبرد

ربات انسان‌نما از هوش مصنوعی استفاده می‌کند که بر اساس «مدل‌های جهان» اختصاصی خود شرکت ساخته شده است. شرکت تامین‌کنندگان این فناوری را افشا نمی‌کند.

«مدل‌های جهان» با یادگیری از تماشای ویدئوها یا استفاده از داده‌های شبیه‌سازی و دیگر ورودی‌های فضایی کار می‌کنند و سپس نمایش‌های خود را از صحنه‌ها یا اشیا می‌سازند.

این مدل‌ها البته برای آموزش به داده‌های بسیار زیادی نیاز دارند، اما موارد استفاده آنها با چت‌بات‌ها متفاوت است. به بیان ساده‌تر، به جای پیش‌بینی واژه بعدی، کاری که مدل‌های زبانی بزرگ انجام می‌دهند، آنها بازنمایی‌هایی از محیط‌های فیزیکی می‌سازند و پیش‌بینی می‌کنند در سناریو یا جهان بعدی چه رخ می‌دهد و چگونگی حرکت اشیا در طول زمان را مدل‌سازی می‌کنند.

پاتاک گفت: «ما تمرکز زیادی روی مدل‌های جهانی داریم که می‌توانند آینده را پیش‌بینی کنند. فکر می‌کنیم این موضوع هسته ساخت هوش مصنوعی شهودی و پایدار خواهد بود.»

در پاسخ به این پرسش که آیا هوش مصنوعی می‌تواند کنترل ربات‌های مسلح را به دست بگیرد یا نه، او معتقد است چنین تهدیدی اگر هم رخ دهد نه از سوی ربات‌های انسان‌نما، بلکه از سوی پهپادها یا بدتر از آن خواهد بود.

او گفت: «اگر هدف ماموریت یک هوش مصنوعی نابودی بشریت باشد، تضمین می‌کنم ۱۰۰ هزار ربات انسان‌نما سراغتان نمی‌فرستد، فقط از پهپادها یا زرادخانه‌های هسته‌ای استفاده می‌کند.»

به باور او، خطر فوری‌تر «تروریسم هوش مصنوعی» است؛ یعنی سوءاستفاده از مدل‌های هوش مصنوعی در دسترس عموم برای حملات سایبری، انتشار اطلاعات نادرست یا مسلح کردن پهپادهای تجاری؛ خطری که او آن را به مدل‌های متن‌باز نسبت می‌دهد.

شرکت‌های هوش مصنوعی که خود را متن‌باز می‌نامند، می‌گویند در حال در دسترس‌تر کردن فناوری برای همه هستند، اما طرفداران مدل‌های بسته هشدار می‌دهند که این رویکرد تهدیدی برای امنیت عمومی است، زیرا هر کسی می‌تواند این مدل‌ها را به‌روزرسانی و تدابیر ایمنی آنها را تغییر دهد.

نمونه بارز این مساله زمانی بود که شرکت متا در سال ۲۰۲۳ مدل زبانی بزرگ متن‌باز خود، «لاما ۲»، را منتشر کرد.

فقط چند روز بعد، برخی کاربران نسخه‌های سانسورنشده خود از لاما ۲ را منتشر کردند و سوال‌هایی مانند نحوه ساخت بمب هسته‌ای را از آن پرسیدند؛ سوال‌هایی که این مدل زبانی می‌توانست به آنها پاسخ دهد.

اما پاتاک می‌گوید سناریویی که در آن سامانه‌های هوش مصنوعی بتوانند دستورالعمل‌های خود را بازنویسی کنند، خود را بهبود دهند و بدون نیاز به خوشه‌های محاسباتی بزرگ و قابل ردیابی تکثیر شوند، هنوز چند گام بزرگ فناورانه با واقعیت فاصله دارد.

او گفت: «وقتی این مدل‌ها کاراتر شوند، بتوانند با توان محاسباتی کمتر خود را تکثیر و بهبود دهند و رفتارهایی از خود نشان دهند که در آن از تدابیر کنترلی عبور می‌کنند و دستورالعمل‌های خود را به‌روزرسانی می‌کنند، آن وقت است که وارد آن قلمرو می‌شویم.»

با این حال او افزود: «احتمالا سه، چهار، شاید هم پنج گام با آن وضعیت فاصله داریم.»

مسیر پیش رو

با این همه، حتی اگر ربات‌ها مستقیما سلاح حمل نکنند، مدیرعامل می‌گوید ربات‌های انسان‌نما می‌توانند در میدان نبرد نقش‌هایی مانند جابه‌جایی تجهیزات، یعنی انتقال تدارکات بین فضاهای باز و بسته، و شناسایی، از جمله نقشه‌برداری از داخل ساختمان‌ها و پاکسازی آنها را بر عهده بگیرند؛ وظایفی که پیشتر در اوکراین آزمایش شده است.

آزمایش‌های نظامی در اوکراین باعث شد فاندیشن سخت‌افزار خود را برای شرایط بیرونی و پرفشار بازطراحی کند.

این شرکت در حال ساخت نسل بعدی ربات خود، «فانتوم ۲»، است؛ رباتی که در برابر آب و گردوغبار مقاوم است و ظرفیت حمل بار آن از حدود ۲۵ تا ۳۰ کیلوگرم در نسخه نخست به حدود ۸۰ کیلوگرم رسیده است.

میزان تحمل آن در برابر ضربه، که با شتاب جی سنجیده می‌شود، از ۱۲ تا ۱۵ جی به نزدیک ۱۰۰ جی افزایش یافته و یک باتری سه کیلووات‌ساعتی حمل می‌کند.

پایگاه سرمایه‌گذاران فاندیشن شامل اریک ترامپ، پسر دونالد ترامپ، رئیس‌جمهور آمریکا، شرکت استرایپ و شرکت سرمایه‌گذاری خطرپذیر «دیفاین» در کنار چند حامی دیگر است.

فاندیشن در حال حاضر ربات‌های فانتوم را برای کاربردهای تجاری با هزینه‌ای حدود ۱۰۰ هزار دلار در سال برای هر ربات اجاره می‌دهد. مشتریان نظامی این ربات‌ها را با قیمتی مشابه خریداری می‌کنند.