داریو آمودی در انتروپیک هشدار میدهد هوش مصنوعی میتواند بشریت را نابود کند اما جنسن هوانگ در انویدیا آن را بیمعنی میداند؛ بازیگران اصلی این جدال داغ فناوری را بشناسید.
بحث شدید بر سر هوش مصنوعی به دو اردوگاه متخاصم تبدیل شده و جریان میانهروی محتاط میان این دو گرفتار شده است.
آگهی
آگهی
در این گزارش نگاهی میکنیم به خطوط مقدم نبرد بر سر فناوریای که امروز ستون فقرات اقتصاد است و ممکن است سرنوشت سیاره را رقم بزند.
هر دو اصطلاح از بحثهای آنلاین درباره هوش مصنوعی در ایکس و انجمنهای اینترنتی بیرون آمدند، نه از کاربرد رسمی، و از عادت زبانی جوامع فناوری و رمزارز الهام گرفتهاند که برای اردوگاههای رقیب برچسبهای کوتاه میسازند.
اصطلاح «doomer» به کسانی اشاره دارد که پیشبینی فاجعه میکنند، در حالی که «booster» که گاهی به جای «accelerationist» هم به کار میرود، به کسانی گفته میشود که خواستار توسعه سریع و مهارنشده هوش مصنوعی هستند.
دومرها
ترس از پیامدهای خطرناک فناوری برای جامعه سابقهای طولانی در تاریخ دارد.
OpenAI بخشی از انگیزه تاسیسش این بود که حامیانش، از جمله نخستین سرمایهگذار آن، ایلان ماسک، نگران بودند توسعه هوش مصنوعی در دست گوگل متمرکز شود؛ شرکتی که به باور آنها نمیشد این فناوری را به آن سپرد.
امروز بیشتر دومرهایی که درباره پیامدهای هوش مصنوعی هشدار میدهند، یا در خود این شرکتها کار میکنند یا از دانشگاهها میآیند، یا هر دو.
در درون صنعت، شاخصترین چهره این جریان داریو آمودی است؛ همبنیانگذار شرکت آنتروپیک که اکنون از غولهای بزرگ هوش مصنوعی و در آستانه عرضه اولیه تاریخی است.
او OpenAI را ترک کرد چون احساس میکرد شرکتی که سام آلتمن اداره میکند ظرفیتها و خطرهای این فناوری را به اندازه کافی جدی نمیگیرد.
منتقدان، موضع او را ریاکارانه میدانند، چون از شرکتی میآید که خودش در حال عرضه پیشرفتهترین فناوریهاست.
جفری هینتن، پژوهشگر پیشین گوگل، و دانشمند علوم رایانه، یوشوا بنجیو، در ماههای پس از انتشار ChatGPT در سال ۲۰۲۲، که موج تازه تب هوش مصنوعی را به راه انداخت، پیشقراول هشدارها درباره تهدیدهای این فناوری بودند.
مکس تگمارک، فیزیکدان امآیتی که موسسه Future of Life را اداره میکند، نامه سرگشادهای را در سال ۲۰۲۳ سازماندهی کرد که خواستار توقف ششماهه توسعه پیشرفتهترین سیستمهای هوش مصنوعی شد و هزاران امضا از جمله امضای ماسک را جمع کرد.
در بیرون از صنعت، الیزر یودکوفسکی، نظریهپرداز خودآموختهای قرار دارد که دو دهه است استدلال میکند هوش مصنوعی به اندازه کافی قدرتمند میتواند نسل بشر را از میان ببرد.
بساز، بساز، بساز
در نقطه مقابل دومرها، شتابگرها قرار دارند؛ کسانی که به پیشرفت فناوری، اجتنابناپذیر بودن آن و سود بنیادی آن برای جامعه باور دارند و ثروتشان را هم از موفقیت آن به دست میآورند.
این طرز فکر در سیلیکون ولی گسترده است اما شاید بهترین نمایندگانش چهرههای سرمایهگذاری خطرپذیر با نفوذ در کاخ سفید باشند؛ از جمله مارک اندریسن، رئیس پرنفوذ صندوق سرمایهگذاری Andreessen Horowitz، و دیوید سکس، مسئول سابق هوش مصنوعی در کاخ سفید.
این گروه از نظر شخصی و فکری به پیتر تیل، چهره شناختهشده فناوری، نزدیک است و به طور بنیادی با مقرراتگذاری مخالفت میکند و در پشت صحنه و در ایکس، علیه چیزی میجنگد که آن را «فرقه آخرالزمانی پرپول» مینامد.
این گروه دومرها را متهم میکند که پوششی برای شرکتهایی هستند که میخواهند با استفاده از مقررات، رقیبان خود را از میدان خارج کنند.
گری تن، مدیر شتابدهنده استارتاپی Y Combinator، از بلندترین این صداهاست و مقررات مبتنی بر ایمنی را تهدیدی برای شرکتهای کوچک میداند که توان جذب هزینههای آن را ندارند.
اندریسن و متحدانش سخاوتمندانه کمیتههای اقدام سیاسی را تامین مالی میکنند؛ کمیتههایی که به قانونگذارهای جمهوریخواه و دموکرات حامی رشد هوش مصنوعی کمک مالی میکنند، و در مقابل، آنتروپیک اکنون تلاش میکند با جذب منابع مالی خود، این سطح از هزینه را جبران کند.
در همین اردوگاه «تندتر، بیشتر» جنسن هوانگ، مدیرعامل انویدیا، هم قرار دارد؛ شرکتی که تراشههایش آجر و ملات انقلاب هوش مصنوعی به شمار میرود و در مراکز داده غولپیکری نصب میشود که اکنون در سراسر ایالات متحده با مخالفت روبرو شدهاند.
هوانگ بحث درباره نابودی بشر به دست هوش مصنوعی را «کاملا بیمعنا» میخواند، هرچند بر خلاف برخی شتابگرها خواستار یک چارچوب واحد فدرال برای هوش مصنوعی و نظام داوری همتایان زیر نظر خود صنعت است، نه حذف کامل مقررات.
یان لکون، که همراه با هینتن و بنجیو جایزه تورینگ را دریافت کرد، نیز سالهاست هشدارهای آنها درباره خطر وجودی هوش مصنوعی را اغراقآمیز میداند.
پیشروی با احتیاط
بسیاری از شرکتهای بزرگ فناوری تلاش میکنند با احتیاط پیش بروند؛ رویکردی که برای شرکتهای بزرگ، که نمیخواهند در یک منازعه سیاسی در طرف اشتباه قرار بگیرند، معمول است.
OpenAI در زمان تاسیس در سال ۲۰۱۵ به گونهای ساختاربندی شد که پژوهشگران، نه سرمایهگذاران، حرف آخر را درباره چگونگی به کارگیری این فناوری بزنند و ایمنی برای بشریت فلسفه راهنمای آن باشد.
اما تحت مدیریت آلتمن، که در سال ۲۰۲۳ از یک کودتای داخلی به رهبری همکاران دغدغهمند در حوزه ایمنی جان سالم به در برد، این شرکت اکنون روی خطی پیچیده حرکت میکند؛ از خطرهای هوش مصنوعی سخن میگوید و در عین حال سرعت توسعه را بالا میبرد و به کاخ سفیدی که در این حوزه رویکردی بدون ملاحظه دارد نزدیک میشود.
گوگل، مایکروسافت و آمازون سالهاست در عین حرف زدن از ایمنی فناوری، در واشنگتن به شکلی موفق عمل کردهاند تا سطح مقرراتگذاری را در حداقل نگه دارند.
در مورد هوش مصنوعی هم آنها همچنان روی همین مرز باریک حرکت میکنند.