آنتروپیک همزمان با عرضه سهام خود در بورس، توهین به هوش مصنوعی «کلود» را ممنوع کرد؛ قانونی که در صورت تکرار به مسدود شدن حساب کاربر منجر میشود. به گفته پژوهشگران، پشت ادعای «حفظ رفاه» کلود، انگیزههای اقتصادی و جلوگیری از مکالمات پرهزینه و بیفایده نهفته است.
همزمان با ورود شرکت آمریکایی «آنتروپیک» به بازار بورس در روز پنجشنبه ۱۹ نوامبر (۲۸ آبان)، این شرکت قوانین استفاده از هوش مصنوعی خود یعنی «کلود» را سختگیرانهتر کرده و هرگونه رفتار توهینآمیز و مکرر علیه این چتبات را رسما ممنوع اعلام کرده است. اگرچه آنتروپیک «حفظ رفاه» این هوش مصنوعی را دلیل این تصمیم عنوان کرده، اما پژوهشگران معتقدند در پسِ این اقدام، انگیزههای جدی اقتصادی و مدیریت هزینهها نهفته است.
بر اساس مقررات جدید آنتروپیک، رفتارهای «بیرحمانه و مکرر» از جمله توهینهای بیدلیل به «کلود» ممنوع است. توجیه این شرکت برای چنین تصمیمی، دستکم در ظاهر، غافلگیرکننده است؛ چراکه با استناد به «رفاه» کلود، این تصور را ایجاد میکند که این سیستم هوش مصنوعی میتواند رنج بکشد و نوعی از حیات به شمار رود. تصمیمی بحثبرانگیز که با تردید جامعه علمی روبهرو شده و بیارتباط با محاسبات مالی شرکت نیست.
وقتی کاربری با کلود لحن توهینآمیز به کار میبرد، این هوش مصنوعی ابتدا چند هشدار میدهد و میگوید: «بگو چه اتفاقی افتاده است، وگرنه میتوانیم همینجا گفتگو را تمام کنیم.» اما در صورت ادامه این رفتار، کلود پس از حدود ۱۰ دقیقه به صورت خودکار به مکالمه پایان میدهد و مینویسد: «دو بار با تو خداحافظی کردم، بنابراین الان تماس را قطع میکنم. مراقب خودت باش.»
آنتروپیک در یادداشتی در وبسایت خود توضیح داده که «رفتارهای آزاردهنده، بیرحمانه، غیرضروری و مکرر» ممنوع است و در صورت تکرار، حساب کاربری افراد ممکن است مسدود شود. با این حال، این شرکت تاکید کرده که این قانون شامل گفتگوهای معمولی که در آن کاربران ممکن است نارضایتی یا مخالفت خود را ابراز کنند، و همچنین برخی متون داستانی یا فعالیتهای پژوهشی نمیشود.
تردید پژوهشگران درباره «آگاهی» هوش مصنوعی
شرکت آنتروپیک به درخواست ما برای مصاحبه پاسخ نداد، اما سخنگوی این شرکت حدود یک ماه و نیم پیش اعلام کرده بود که آنتروپیک نمیداند «آیا مدلهایش میتوانند احساس مورد تهاجم قرار گرفتن داشته باشند یا نه» و تحقیقات خود را درباره «رفاه» آنها ادامه میدهد. داریو آمودی، مدیرعامل آنتروپیک، نیز پیشتر از احتمال وجود نوعی «آگاهی» در هوش مصنوعی سخن گفته بود؛ دیدگاهی که در صورت تحقق، آن را در رده موجودات زنده قرار میدهد.
با این حال، بیشتر پژوهشگران با دیده تردید به این موضوع مینگرند. سرنا ویلاتا، متخصص هوش مصنوعی و مدیر پژوهش در مرکز ملی پژوهشهای علمی فرانسه (CNRS)، در این باره میگوید: «به نظر میرسد ما بیش از حد خودمان را با پرسشهای فلسفی درباره آگاهی مشغول کردهایم و در مقابل، به چالشهای واقعی یعنی مسائل اقتصادی و امنیت سایبری توجه نمیکنیم.»
در حوزه امنیت سایبری، آنتروپیک نیز مانند شرکت «اوپنایآی» (سازنده چتجیپیتی)، محدودیتهایی را برای دسترسی به برخی از پیشرفتهترین مدلهای خود که ممکن است خطرآفرین باشند اعمال کرده است. اما در مقابل، چه در آمریکا و چه در چین و اروپا، هنوز هیچ مقررات داخلی یا عمومی مشخصی درباره پیامدهای اقتصادی و اجتماعی نحوه استفاده از هوش مصنوعی وجود ندارد.
پشتپرده مالی: زیان ۱۱ میلیارد دلاری و گفتگوهای پرهزینه
در کنار بحثهای فلسفی، یک واقعیت ملموس اقتصادی نیز پشت این قوانین جدید قرار دارد. با ورود آنتروپیک به بورس، سرمایهگذاران با دقت به دنبال کنترل هزینهها هستند؛ آن هم در شرایطی که سودآوری شرکتهای هوش مصنوعی هنوز به اثبات نرسیده است.
واقعیت این است که هر گفتگوی ساده با هوش مصنوعی هزینه قابل توجهی دارد. لورنس دوویلر، استاد هوش مصنوعی در دانشگاه سوربن و پژوهشگر مرکز ملی پژوهشهای علمی فرانسه، توضیح میدهد: «مردم تصوری از میلیاردها دلاری که در این حوزه هزینه میشود ندارند. اگر میلیونها نفر شروع به توهین کردن به هوش مصنوعی کنند، شرکتهای فناوری ناچار به پرداخت هزینههای سنگین پردازشی میشوند و تازه متوجه میشوند که بازگشت سرمایه به این سادگیها هم نیست.»
آنتروپیک در ماه سپتامبر حدود ۱۱ میلیارد دلار زیان ثبت کرده بود؛ موضوعی که نشان میدهد چرا این شرکت انگیزه جدی دارد تا گفتگوهای بیفایده و پرهزینه را محدود کند.