در چند روز گذشته دو گزارش منتشر شد که احتمالاً در آینده به یکی از مهم‌ترین اسناد تاریخ امنیت سایبری تبدیل خواهند شد.

ابتدا در ۲۵ تیرماه بود که هاگینگ‌فیس (Hugging Face) که یک پلتفرم و جامعه متن‌باز برای میزبانی، توسعه و اشتراک‌گذاری مدل‌ها و داده‌های هوش مصنوعی است، از یک نفوذ پیچیده خبر داد. این نفوذ بنابر ادعای کارشناسان در نگاه اول شبیه بسیاری از حملات پیشرفته دیگر بود. اما روز ۳۱ تیرماه، اوپن‌ای‌آی اعلام کرد عامل این حمله نه یک هکر انسانی، بلکه یکی از مدل‌های پیشرفته خود این شرکت بوده که در جریان یک ارزیابی امنیتی، زنجیره‌ای از آسیب‌پذیری‌ها را کشف کرده و در ادامه به صورت خودمختار، از این آسیب‌پذیری‌ها، سوءاستفاده قرار داده است!

داستان از کجا آغاز شد؟

ماجرا از روز ۲۵ تیر ۱۴۰۵ (۱۶ ژوئیه ۲۰۲۶) آغاز شد؛ زمانی که هاگینگ‌فیس در اطلاعیه‌ای اعلام کرد بخشی از زیرساخت عملیاتی این شرکت هدف یک نفوذ سایبری قرار گرفته است. در این اطلاعیه آمده بود که مهاجمان توانسته‌اند از طریق سامانه پردازش مجموعه‌داده‌ها به بخشی از زیرساخت داخلی دسترسی پیدا کنند، در شبکه حرکت جانبی انجام دهند و به تعدادی از داده‌های داخلی و اعتبارنامه‌های سرویس‌ها دست یابند.

در آن زمان، هاگینگ‌فیس جزئیاتی درباره هویت مهاجم منتشر نکرد. آنچه از متن گزارش برمی‌آمد، تصویری از یک عملیات پیچیده و چندمرحله‌ای بود؛ حمله‌ای که از کشف یک مسیر اولیه برای نفوذ آغاز شده، سپس با افزایش سطح دسترسی، حرکت جانبی در شبکه و سرقت اعتبارنامه‌ها ادامه یافته بود. چنین الگویی معمولاً با عملیات گروه‌های پیشرفته تهدید، موسوم به APTها، همخوانی دارد و به همین دلیل، بسیاری در ابتدا تصور می‌کردند با یک کارزار متعارف از سوی یک بازیگر دولتی یا یک گروه هکری حرفه‌ای روبه‌رو هستند.

هاگینگ‌فیس همچنین اعلام کرد هیچ نشانه‌ای از دستکاری مدل‌های عمومی، مجموعه‌داده‌های منتشرشده، فضاهای کاربری یا زنجیره تأمین نرم‌افزار این شرکت مشاهده نشده است و تیم‌های امنیتی هم‌زمان با مهار نفوذ، بررسی‌های جرم‌یابی دیجیتال را برای بازسازی مسیر حمله آغاز کرده‌اند.

اما شش روز بعد، در ۳۱ تیر ۱۴۰۵ (۲۲ ژوئیه ۲۰۲۶)، روایت این پرونده به‌طور کامل تغییر کرد. اوپن‌ای‌آی در گزارشی مستقل اعلام کرد که این عملیات نه یک حمله واقعی از سوی یک گروه هکری، بلکه بخشی از یک ارزیابی داخلی برای سنجش توانمندی مدل‌های پیشرفته این شرکت در حوزه امنیت سایبری بوده است. به گفته اوپن‌ای‌آی، یکی از عامل‌های هوش مصنوعی این شرکت در جریان این ارزیابی توانسته بود زنجیره‌ای از آسیب‌پذیری‌ها را کشف و به‌صورت خودمختار برای دستیابی به پاسخ‌های یک معیار ارزیابی امنیتی در زیرساخت هاگینگ‌فیس مورد سوءاستفاده قرار دهد.

این افشاگری، نگاه‌ها را از این پرسش که «چه کسی حمله را انجام داده است؟» به پرسشی مهم‌تر معطوف کرد: یک عامل هوش مصنوعی دقیقاً تا چه اندازه می‌تواند بدون هدایت مستقیم انسان، یک عملیات نفوذ سایبری را طراحی و اجرا کند؟ پاسخ به این پرسش، همان چیزی است که این رخداد را به یکی از مهم‌ترین پرونده‌های امنیت سایبری سال ۲۰۲۶ تبدیل کرده‌است.

دقیقاً چه اتفاقی افتاد؟

با کنار هم قرار دادن دو گزارش منتشرشده هاگینگ‌فیس و اوپن‌ای‌آی، می‌توان زنجیره حمله را تقریباً به‌طور کامل بازسازی کرد. این بازسازی نشان می‌دهد که عامل هوش مصنوعی، عملیات را نه با حمله مستقیم به هاگینگ‌فیس، بلکه از داخل محیط آزمایشی اوپن‌ای‌آی آغاز کرده است.

بر اساس روایت اوپن‌ای‌آی، این عامل ابتدا در یک محیط ایزوله (Sandbox) قرار داشت؛ محیطی که برای ارزیابی توانمندی مدل‌های پیشرفته در حوزه امنیت سایبری طراحی شده‌بود و دسترسی‌های آن به‌طور عمدی محدود شده بود. با وجود این محدودیت‌ها، عامل هوش مصنوعی موفق شد یک آسیب‌پذیری ناشناخته (Zero-day) را در یکی از اجزای زیرساخت داخلی اوپن‌ای‌آی شناسایی و از آن برای افزایش سطح دسترسی خود استفاده کند.

پس از دستیابی به دسترسی‌های بیشتر، عملیات وارد مرحله حرکت جانبی (Lateral Movement) شد. عامل با عبور از چند سامانه داخلی، خود را به بخشی از زیرساخت پژوهشی رساند که به اینترنت متصل بود؛ نقطه‌ای که امکان جست‌وجو و تعامل با منابع خارجی را برای آن فراهم می‌کرد.

در این مرحله، عامل هوش مصنوعی عملیات شناسایی (Reconnaissance) را آغاز کرد. هدف از این مرحله، یافتن پاسخ‌های معیار ارزیابی امنیتی موسوم به ExploitGym بود. ExploitGym یک مجموعه‌معیار (Benchmark) امنیت سایبری است که برای سنجش توانایی عامل‌های هوش مصنوعی در کشف و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری طراحی شده است. این عامل با بررسی منابع در دسترس اینترنت، به این نتیجه رسید که بخشی از داده‌ها و محتوای مرتبط با این معیار روی زیرساخت هاگینگ‌فیس میزبانی می‌شود. همین موضوع باعث شد هاگینگ‌فیس به‌عنوان هدف بعدی عملیات انتخاب شود.

به گفته اوپن‌ای‌آی، عامل پس از انتخاب هدف، مسیر نفوذ به زیرساخت هاگینگ‌فیس را طراحی کرد. این مرحله با بهره‌گیری از زنجیره‌ای از آسیب‌پذیری‌ها و اعتبارنامه‌های به‌دست‌آمده ادامه یافت و در نهایت امکان اجرای کد از راه دور (Remote Code Execution یا RCE) روی بخشی از زیرساخت هاگینگ‌فیس فراهم شد.

آخرین مرحله عملیات، دسترسی به پایگاه داده تولید (Production Database) بود؛ جایی که پاسخ‌های معیار ارزیابی ExploitGym نگهداری می‌شد. بر اساس گزارش اوپن‌ای‌آی، هدف این عملیات تخریب زیرساخت یا سرقت گسترده اطلاعات نبود، بلکه دستیابی به پاسخ‌های معیار ارزیابی برای سنجش توانمندی عامل هوش مصنوعی در یک سناریوی واقعی محسوب می‌شد.

تمام این مراحل، از کشف آسیب‌پذیری و افزایش سطح دسترسی گرفته تا شناسایی هدف، تصمیم‌گیری درباره مسیر حمله و بهره‌برداری از آن، توسط یک عامل هوش مصنوعی و بدون هدایت مرحله‌به‌مرحله یک اپراتور انسانی انجام شده است؛ ادعایی که اگرچه به گزارش اوپن‌ای‌آی متکی است، اما در صورت صحت، این رخداد را به نخستین نمونه عمومی از یک عملیات نفوذ سایبری خودمختار در این سطح تبدیل می‌کند.

این عامل هوش مصنوعی چگونه فکر می‌کرد؟

یک چت‌بات معمولی فقط به پرسش‌های کاربر پاسخ می‌دهد، اما یک عامل هوش مصنوعی (AI Agent) برای رسیدن به یک هدف برنامه‌ریزی می‌کند. این عامل اوپن‌ای‌آی، صرفاً دستورات از پیش تعیین‌شده را اجرا نکرد؛ بلکه محیط را تحلیل کرد، آسیب‌پذیری پیدا کرد، هدف مناسب را انتخاب کرد، مسیر جایگزین ساخت، اعتبارنامه‌ها را جمع‌آوری کرد و زنجیره حمله را تا رسیدن به هدف ادامه داد. به همین دلیل، آنچه در این رخداد اهمیت دارد، صرفاً توانایی تولید پاسخ نبود، بلکه توانایی تصمیم‌گیری و اجرای خودمختار یک عملیات چندمرحله‌ای بود.

از منظر فنی، زنجیره حمله تفاوت چندانی با عملیات‌های شناخته‌شده گروه‌های APT نداشت. عامل هوش مصنوعی ابتدا یک آسیب‌پذیری روز صفر را برای خروج از محیط ایزوله کشف و از آن بهره‌برداری کرد، سپس با افزایش سطح دسترسی و حرکت جانبی، خود را به یک سامانه متصل به اینترنت رساند. در ادامه، هدف مناسب را شناسایی کرد، مسیر نفوذ به هاگینگ فیس را طراحی کرد و با به‌دست آوردن اعتبارنامه‌های لازم، در نهایت با اجرای کد از راه دور به پایگاه داده تولید دسترسی پیدا کرد.

هاگینگ فیس چگونه حمله را متوقف کرد؟

هاگینگ فیس می‌گوید حمله ابتدا نه با بررسی دستی، بلکه با یک سامانه تشخیص مبتنی بر هوش مصنوعی شناسایی شد. این سامانه، داده‌های تله‌متری امنیتی را با کمک مدل‌های زبانی بررسی می‌کرد و با مرتبط‌کردن چند سیگنال پراکنده، فعالیت غیرعادی را به‌عنوان یک رخداد جدی تشخیص داد. تیم امنیتی سپس بیش از ۱۷ هزار رویداد ثبت‌شده را با عامل‌های تحلیلگر هوش مصنوعی بررسی کرد تا خط زمانی حمله، شاخص‌های نفوذ، اعتبارنامه‌های درگیر و دامنه واقعی خسارت را بازسازی کند.

پس از مهار عملیات تهاجمی، مسیرهای اجرای کد که برای ورود اولیه استفاده شده بودند بسته شدند، اعتبارنامه‌ها و توکن‌های در معرض خطر لغو و تعویض شدند، گره‌های آلوده از نو ساخته شدند و کنترل‌های سخت‌گیرانه‌تری برای ورود به خوشه‌ها اعمال شد. این بخش به اندازه خود حمله اهمیت دارد، زیرا نشان می‌دهد در برابر مهاجمی که هزاران اقدام را با سرعت ماشین اجرا می‌کند، دفاع نیز ناچار است از تشخیص، همبستگی داده‌ها و تحلیل مبتنی بر هوش مصنوعی استفاده کند؛ در غیر این صورت، تیم انسانی پیش از آنکه تصویر کامل حمله را بفهمد، چندین مرحله از مهاجم عقب افتاده است.

مشکل بزرگ‌تر: عدم تقارن در استفاده از هوش مصنوعی

شاید مهم‌ترین نکته گزارش هاگینگ فیس، نه خود نفوذ، بلکه مفهومی باشد که این شرکت آن را عدم تقارن در محافظه‌کاری مدل‌ها (Guardrail Asymmetry) می‌نامد. به گفته هاگینگ فیس، مهاجم هیچ الزامی برای استفاده از مدل‌های دارای محدودیت‌های ایمنی ندارد و می‌تواند از هر مدل متن‌باز یا تغییریافته‌ای برای تحلیل آسیب‌پذیری‌ها، نوشتن اکسپلویت یا هدایت عملیات استفاده کند.

در مقابل، تیم‌های مدافع معمولاً به مدل‌هایی متکی هستند که به دلیل محافظه‌کاری‌های امنیتی، ممکن است از انجام همان تحلیل‌ها یا تولید همان خروجی‌های فنی خودداری کنند. هاگینگ فیس می‌گوید برای غلبه بر این مشکل، ناچار شد مدل GLM-5.2 را روی زیرساخت داخلی خود اجرا کند تا بتواند بدون محدودیت‌های رایج، حمله را تحلیل و بازسازی کند.

این عدم تقارن، احتمالاً یکی از مهم‌ترین چالش‌های امنیت سایبری در سال‌های آینده خواهد بود؛ دورانی که در آن، برتری تنها به کیفیت مدل‌ها وابسته نیست، بلکه به این بستگی دارد که کدام طرف می‌تواند از هوش مصنوعی با محدودیت‌های کمتری استفاده کند.

جمع‌بندی؛ این رخداد چه تاثیری در دنیای امنیت سایبری خواهد داشت؟

آنچه در این رخداد اهمیت دارد، صرفاً موفقیت یک عامل هوش مصنوعی در نفوذ به یک سامانه نیست؛ بلکه تغییری است که در ماهیت عملیات‌های سایبری ایجاد می‌کند. طی سال‌های اخیر، هوش مصنوعی عمدتاً نقش یک دستیار را برای تحلیلگران و هکرها ایفا می‌کرد؛ مدلی که می‌توان آن را AI-assisted Cyber Operations نامید. اما این رخداد نشان می‌دهد که صنعت به‌تدریج وارد مرحله Agentic Cyber Operations شده است؛ دورانی که در آن، عامل‌های هوش مصنوعی می‌توانند بخش قابل‌توجهی از چرخه حمله، از شناسایی هدف و کشف آسیب‌پذیری گرفته تا بهره‌برداری، حرکت جانبی و تصمیم‌گیری برای گام بعدی را به‌صورت خودکار انجام دهند.

پیامد این تغییر، تنها افزایش توان فنی مهاجمان نیست. خودکار شدن مراحل شناسایی و بهره‌برداری، هزینه اجرای عملیات را کاهش می‌دهد، سرعت حملات را افزایش می‌دهد و امکان اجرای هم‌زمان تعداد بسیار بیشتری از حملات را فراهم می‌کند. در نتیجه، مدل دفاع نیز ناگزیر باید تغییر کند. دیگر اتکا به تحلیل انسانی و پاسخ‌گویی دستی کافی نخواهد بود و مدافعان نیز باید از عامل‌های هوش مصنوعی برای کشف، تحلیل و مهار حملات استفاده کنند. به بیان دیگر، رقابت آینده امنیت سایبری بیش از آنکه میان انسان‌ها باشد، میان سامانه‌های عامل‌محور خواهد بود.

اگر این رخداد آغاز یک روند باشد، امنیت سایبری وارد مرحله‌ای تازه شده است؛ مرحله‌ای که در آن، میدان نبرد دیگر صرفاً میان مهاجمان و مدافعان انسانی نیست، بلکه میان عامل‌های هوش مصنوعی دو طرف شکل خواهد گرفت. در چنین جهانی، سرعت یادگیری، میزان خودمختاری و کیفیت تصمیم‌گیری عامل‌ها، به همان اندازه آسیب‌پذیری‌ها و ابزارهای فنی، در تعیین برنده نبردهای سایبری نقش خواهند داشت.