برای نخستین بار هکرها از هوش مصنوعی برای پیدا کردن و بهرهبرداری از یک نقص امنیتی استفاده کردهاند که هیچ اسکنر خودکاری قادر به کشف آن نبود و به گفته گوگل فقط پایش فعال این شرکت جلوی یک حمله گسترده را گرفته است.
هوش مصنوعی نوشتن ایمیل، ساخت صفحات گسترده و برنامه ریزی برای تعطیلات را آسان تر کرده است؛ محبوبیت گسترده مدل های مختلف هوش مصنوعی بهترین گواه این ادعاست.
آگهی
آگهی
بر اساس یک گزارش تازه گوگل، هوش مصنوعی همچنین شناسایی شکاف هایی را که پیشتر نقشه برداری نشده بود یا پیش بینی آنها ناممکن به نظر می رسید، در نرم افزار سیستم های ما به طور چشمگیری آسان تر کرده است.
گروه اطلاعات تهدید گوگل اعلام کرده است برای نخستین بار هکرهایی را شناسایی کرده که از هوش مصنوعی برای کشف و بهره برداری از آنچه «آسیب پذیری روز صفر» خوانده می شود استفاده کرده اند؛ یعنی نقصی امنیتی که شرکت توسعه دهنده نرم افزار هنوز از وجود آن باخبر نیست و هیچ وصله ای هم برایش منتشر نشده است.
هدف، یک ابزار محبوب مبتنی بر وب برای مدیریت سیستم بود و این نقص به مهاجمان امکان می داد احراز هویت دو مرحله ای را که بسیاری آن را لایه دوم امنیت و ضامن حفاظت از حساب های کاربری شان می دانند دور بزنند.
گوگل می گوید این حمله را پیش از آنکه در مقیاس گسترده اجرا شود شناسایی و به طور بی سر و صدا به تولیدکننده نرم افزار هشدار داده است.
گزارش می گوید: «بازیگر تهدید مجرم قصد داشت از این حفره در یک عملیات سوءاستفاده گسترده استفاده کند اما کشف پیش دستانه ما شاید جلوی بهره برداری از آن را گرفته باشد.»
در این گزارش همچنین آمده است: «بازیگران تهدید منتسب به جمهوری خلق چین (PRC) و جمهوری دموکراتیک خلق کره (DPRK) نیز علاقه چشمگیری به بهره گیری از هوش مصنوعی برای کشف آسیب پذیری ها نشان داده اند.»
شکافی که از چشم توسعه دهندگان پنهان ماند
آسیب پذیری روز صفر یک نقص معمولی نبود. ابزارهای سنتی اسکن امنیتی به دنبال کرش ها و خطاهای حافظه می گردند؛ معادل نرم افزاری یک غلط گیر که در پی یافتن معادل دیجیتال غلط های املایی است، اما این آسیب پذیری در منطق کد پنهان شده بود؛ یک فرض سخت کد شده و ظریف از سوی توسعه دهنده که هیچ اسکنر خودکاری قادر به شناسایی آن نبود.
با نوعی خطا طرفیم که در آن همه چیز در ظاهر درست به نظر می رسد اما استدلال زیربنایی آن ایراد دارد. تصور کنید خزانه یک بانک با قفلی سالم که با این حال برای کسی که از وجود یک استثنا خبر دارد باز می شود، چون طراح بی آنکه متوجه باشد چنین استثنایی را در آن تعبیه کرده است.
این دقیقا همان نوع تناقضی است که هوش مصنوعی در یافتنش توانمند است. گزارش در ادامه می افزاید: «مدل های زبانی بزرگ پیشرو (LLM) در شناسایی این نوع نقص های سطح بالا و ناهنجاری های ایستای سخت کد شده فوق العاده عمل می کنند.»
گزارش در پایان نتیجه می گیرد که هرچند مدل های زبانی بزرگ پیشرو در پیمایش منطق پیچیده مجوزدهی در سازمان ها با دشواری روبه رو هستند، «توانایی فزاینده ای در استدلال مبتنی بر متن و شناسایی تناقض های ناشی از استثناهای سخت کد شده دارند».
این توانمندی می تواند به مدل ها امکان دهد خطاهای منطقی خفته ای را آشکار کنند که برای اسکنرهای سنتی از نظر کارکردی درست به نظر می رسند اما از منظر امنیتی معیوب هستند.
ماجرا فقط به همین یک ترفند ختم نمی شود
هرچند کشف آسیب پذیری روز صفر مهم ترین یافته این گزارش بود، متن کامل آن خواندنی نگران کننده ای است.
هکرهای تحت حمایت دولت های چین و کره شمالی از هوش مصنوعی برای شکار آسیب پذیری ها در ابعادی صنعتی استفاده می کنند و با ارسال پرسش های خودکار، برای یافتن نقاط ضعف در همه چیز از روترهای خانگی تا شبکه های شرکتی کاوش می کنند.
گوگل مشاهده کرده است یکی از این گروه های کره شمالی «هزاران درخواست تکراری می فرستد که به طور بازگشتی آسیب پذیری های شناخته شده مختلف (CVE) را تحلیل و بهره برداری های اثبات مفهوم (PoC) را راستی آزمایی می کنند» و به این ترتیب، آنچه را گزارش «زرادخانه مقاوم تر و گسترده تری از توانایی های بهره برداری» می نامد، می سازد؛ زرادخانه ای که بدون کمک هوش مصنوعی مدیریت آن عملا ناممکن بود.
در همین حال، گروه های وابسته به روسیه از هوش مصنوعی برای توسعه بدافزارهایی استفاده می کنند که برای گریختن از شناسایی، به طور لحظه ای خود را بازنویسی می کنند؛ قابلیتی که تا پیش از این به تخصص انسانی قابل توجهی نیاز داشت.
هوش مصنوعی همچنین شیوه اجرای حملات فیشینگ را دگرگون کرده است. مهاجمان به جای ارسال انبوه ایمیل های کلی، اکنون از هوش مصنوعی استفاده می کنند تا سلسله مراتب درون شرکت ها را ترسیم کنند، اهداف مشخصی را که به داده های حساس دسترسی دارند شناسایی کنند و، به گفته گزارش، «طعمه های فیشینگ با دقت و کیفیت بسیار بالاتری تولید کنند که متناسب با افراد دارای دسترسی مدیریتی طراحی شده است»؛ طعمه هایی که بسیار فراتر از «تاکتیک های معمول فیشینگ انبوه سنتی» می رود.
گوگل هشدار می دهد تغییر بزرگ تر این است که هوش مصنوعی از یک ابزار پژوهشی به نوعی بازیگر فعال در میدان امنیت سایبری تبدیل می شود.
این گزارش می افزاید: «مدل زبانی بزرگ دیگر صرفا یک مشاور منفعل نیست، بلکه به بازیگری فعال در زنجیره تهاجم تبدیل شده که می تواند مجموعه ابزارهای پیچیده را هدایت و در سرعت ماشین تصمیم های تاکتیکی بگیرد.»
نکته امیدوارکننده اینجاست که ابزارهای هوش مصنوعی خود گوگل، آسیب پذیری روز صفر را پیش از آنکه خسارتی ایجاد کند شناسایی کردند. این شرکت اکنون عوامل مبتنی بر هوش مصنوعی را به کار می گیرد تا آسیب پذیری ها را سریع تر از تیم های انسانی پیدا و برطرف کند.