رمزگشایی از نحوه کاربرد هکرهای جمهوری اسلامی از هوش مصنوعی
جمهوری اسلامی ایران مدت‌هاست که از تاکتیک‌ها و سلاح‌های غیرمتعارف در جنگ نامتقارن علیه ایالات متحده و متحدان و شرکای آن استفاده می‌کند. این موارد شامل استفاده از نیروهای نیابتی غیردولتی برای حفظ فشار بر دشمنان منطقه‌ای مانند اسرائیل؛ حملات سایبری، مانند حملاتی که در سال‌های ۲۰۲۲ و ۲۰۲۳ با هدف قرار دادن سیستم‌های زیرساختی حیاتی در ایالات متحده، اسرائیل و چندین کشور دیگر خاورمیانه انجام شد؛ و عملیات‌های اطلاعاتی بی‌ثبات‌کننده، مانند مواردی که سال گذشته اعلام شد و کمپین‌های ریاست‌جمهوری ایالات متحده را درگیر کرد، بوده است. در بحبوحه اعتراضات داخلی نیز، حکومت جمهوری اسلامی ایران شروع به ادغام هوش مصنوعی (AI) در تلاش‌های نظارت داخلی خود کرده و سرکوب را در جهت ثبات رژیم تقویت می‌کند. این تحول چه چیزی را می‌تواند در مورد عملیات‌های آینده تهران در فضای سایبری و اطلاعاتی پیش‌بینی کند؟ و آیا ایران آنچه برای پیشبرد قابلیت‌های هوش مصنوعی خود لازم است را در اختیار دارد؟
در اوایل سال جاری، «مؤسسه امنیت و فناوری» (Institute for Security and Technology) گزارشی در مورد استفاده مخرب از هوش مصنوعی منتشر کرد و چندین احتمال مرتبط با الگوی رفتاری تثبیت‌شده و نیات آشکار جمهوری اسلامی ایران را تشریح کرد. این موارد شامل پتانسیل هوش مصنوعی برای گسترش توانایی دولت‌های خودکامه در ارتکاب نقض حقوق بشر و تقویت عملیات‌های اطلاعاتی و قابلیت‌های حمله سایبری آنها است. در حالی که ایران ممکن است در برخی از جنبه‌های توسعه هوش مصنوعی قابلیت‌های محدودی داشته باشد، همکاری آن با چین و روسیه فرصت‌های بی‌شماری را برای توسعه و تسلیحاتی کردن فناوری‌های پیشرفته مانند هوش مصنوعی فراهم می‌کند. علاوه بر این، جمهوری اسلامی ایران خود را در رقابت جهانی فناوری و هوش مصنوعی نه تنها برای هدف قرار دادن ایالات متحده و متحدانش، بلکه برای همگام شدن با دیگر قدرت‌های منطقه‌ای نیز قرار می‌دهد.
هوش مصنوعی و نظارت، عملیات‌های اطلاعاتی
با شکل‌گیری عملیات‌های اطلاعاتی خارجی، بخش مهندسی اجتماعی این عملیات‌ها که به دنبال گمراه‌کردن اهداف هستند، علاوه بر ابزارهای فنی به سه فاکتور کلیدی دیگر هم بستگی دارند:
- توانایی غلبه بر مانع زبان
- توانایی تولید محتوای قابل قبول
- توانایی بررسی و انتخاب از میان مجموعه‌ای از اهداف بالقوه.
فعالیت‌های اخیر ایران نشان‌دهنده ادغام ترکیبی از این شرایط است.
در سه مورد در سال گذشته OpenAI گزارش داد که عاملان سایبری، از جمله عاملان سایبری وابسته به ایران، در حال استفاده از ChatGPT برای اهداف مخرب و فریبکارانه بوده‌اند. در فوریه ۲۰۲۴، آنها گزارش دادند که دو عامل سایبری ایرانی، و همچنین دیگرانی از چین، کره شمالی و روسیه، در مراحل مختلف عملیات‌های سایبری خود از ChatGPT استفاده کرده‌اند. این گزارش جزئیات می‌دهد که چگونه عامل تهدید وابسته به ایران با نام «Crimson Sandstorm» از ChatGPT برای تولید محتوای فیشینگ ایمیل استفاده کرده است، از جمله ایمیلی که وانمود می‌کرد از یک آژانس توسعه بین‌المللی ارسال شده است، که نشان می‌دهد آنها از هوش مصنوعی برای پشتیبانی از نگارش به زبان انگلیسی خود استفاده می‌کنند؛ عنصری ضروری در هر عملیات نفوذ.
گزارش دیگر OpenAI در مه ۲۰۲۴ به عاملان سایبری مختلفی که برای اجرای عملیات‌های اطلاعاتی فریبکارانه به ChatGPT متوسل شده‌اند، نور می‌تاباند، در حالی که گزارش اوت ۲۰۲۴ آن به طور خاص بر عملیات‌های اطلاعاتی تقویت‌شده با هوش مصنوعی عاملان سایبری وابسته به ایران تمرکز دارد.
برای برآورده کردن شرط دوم که در بالا مورد بحث قرار گرفت، این عاملان ظاهراً محتوایی با ظاهر قانونی تولید کرده‌اند تا «افکار عمومی را دستکاری کرده یا بر نتایج سیاسی تأثیر بگذارند و در عین حال هویت واقعی [...] عاملان پشت پرده را پنهان کنند.» علاوه بر این، OpenAI یک خوشه فعالیت تهدیدآمیز ایرانی با برچسب «Storm-2035» را شناسایی کرد که از ChatGPT برای تهیه پیش‌نویس مقالات خبری در مورد انتخابات ریاست‌جمهوری ایالات متحده، جنگ در غزه و شرکت اسرائیل در بازی‌های المپیک ۲۰۲۴ و ارسال آنها به رسانه‌های ترقی‌خواه و محافظه‌کار استفاده کرده است. در حالی که این مقالات ممکن است در ظاهر قانونی به نظر برسند و حاوی محتوای مرتبط و به‌موقع باشند، اما با میزانی از محتوای التهاب‌آور نیز همراه هستند که قصد دارد شور و هیجان سیاسی را در هر دو طرف شکاف برانگیزد.
در موردی دیگر، عاملان Storm-2035 مدل‌های OpenAI را وادار کردند تا از نظرات موجود در رسانه‌های اجتماعی یاد بگیرند و نظرات جدیدی را به همان سبک، هم به زبان انگلیسی و هم به اسپانیایی، تولید کنند که می‌تواند برای گسترش دامنه عملیات‌های اطلاعاتی آن استفاده شود. هر دوی این موارد استفاده، مشروعیت بخشیدن به محتوای التهاب‌آور را از طریق مدل‌های هوش مصنوعی در دسترس‌تر و کمتر قابل شناسایی می‌کنند، یک اشتراک اساسی که نگرانی را ایجاب می‌کند.
در حالی که عاملان تهدید ایرانی تلاش می‌کنند عملیات‌های اطلاعاتی خود را گسترش دهند، می‌توانند از هوش مصنوعی مولد (GenAI) برای هدف قرار دادن طبقات محافظت‌شده مانند نژاد، جنسیت و دیدگاه‌های سیاسی برای ایجاد شکاف بین جوامع مختلف استفاده کنند. هوش مصنوعی پتانسیل قابل توجهی برای تولید تبلیغات شخصی‌سازی‌شده متناسب با پروفایل دیجیتال هر فرد دارد؛ با محتوایی که به صورت الگوریتمی برای از بین بردن اعتماد به نهادها و تقویت شکاف‌های اجتماعی بهینه‌سازی شده است، عاملان مخرب می‌توانند کمپین‌های اطلاعات نادرست در مقیاس بزرگ، اما در عین حال بسیار سفارشی، طراحی‌شده برای بی‌ثبات کردن کل جوامع را به راه اندازند.
سفارشی‌سازی پیام‌های تبلیغاتی برای تأثیرگذاری بر انتخابات مفهوم جدیدی نیست. به عنوان مثال، کا‌گ‌ب (KGB) از «اقدامات فعال» استفاده می‌کرد که شامل عناصر اطلاعات انسانی برای شناسایی و دستکاری اهداف بود و در نهایت یک ماشین تبلیغاتی گسترده‌تر ایجاد می‌کرد که قادر به تأثیرگذاری بر دولت‌های خارجی، تحریک شورش‌ها یا حتی سرنگونی دولت‌ها بود. با مدل‌های فعلی هوش مصنوعی، این فرآیند به طور قابل توجهی آسان‌تر می‌شود. قابلیت‌های انسانی را می‌توان با نظارت آنلاین با کمک هوش مصنوعی جایگزین یا تقویت کرد. مدل‌های زبان بزرگ (LLM) همچنین می‌توانند با گردآوری پروفایل فرد و ارزیابی ویژگی‌های او، از جمله مواضع اجتماعی-اقتصادی و سیاسی، شناسایی اهداف و ایجاد پیام‌های شخصی‌سازی‌شده را ساده‌سازی کنند تا در نهایت محتوای سفارشی برای تأثیرگذاری و فریب تولید کنند.
نظارت تقویت‌شده با هوش مصنوعی
در داخل کشور، جمهوری اسلامی ایران در تلاش برای سرکوب برابری جنسیتی، به ویژه در مکان‌یابی زنانی که به حجاب اجباری پایبند نبودند، هوش مصنوعی را تسلیحاتی کرده است. در اوایل سال گذشته رژیم پیش‌نویس قانونی را تدوین کرد که به صراحت خواستار استفاده از تشخیص چهره با هوش مصنوعی برای «اجرای کدهای اخلاقی سخت‌گیرانه» در مقیاس بزرگ است. عفو بین‌الملل گزارش می‌دهد که رژیم به بیش از یک میلیون زن هشدار پیامکی داده است که در صورت شناسایی بدون روسری توسط دوربین‌های نظارتی، خودروهایشان ممکن است توقیف شود.
هم مقیاس تشخیص چهره مبتنی بر هوش مصنوعی و هم تمرکز آن در دستان یک رژیم سرکوبگر، نگرانی‌هایی را در مورد حقوق زنان و ثبات داخلی گسترده‌تر در ایران ایجاد می‌کند. مشارکت استراتژیک دیرینه ایران با چین - به ویژه با توجه به اینکه چین بزرگترین سرمایه‌گذار خارجی در اقتصاد ایران است - نظارت دولتی ایران را با افزایش صادرات فناوری‌های تشخیص چهره چینی در سال ۲۰۲۲، همزمان با فوران قیام‌های داخلی در ایران، تقویت کرده است. این جریان تشخیص چهره مبتنی بر هوش مصنوعی از چین به ایران می‌تواند هزینه و مانع فنی را برای «سرکوب جنسیتی» بیشتر در کشور کاهش دهد و به طور بالقوه الهام‌بخش سایر رژیم‌های خودکامه برای پیروی از این رویه باشد.
جمهوری اسلایمی ایران می‌تواند از هوش مصنوعی برای ایجاد سیستم‌های نظارتی نفوذی‌تر نه تنها برای ردیابی زنان، بلکه برای شناسایی و نظارت بر فعالیت‌های دیجیتال مخالفان بالقوه و تحلیل رفتارهای آنها استفاده کند. هوش مصنوعی می‌تواند داده‌های وسیع را برای یافتن الگوهای ارزشمند غربال کند و مدل‌های پیشرفته می‌توانند متن، تصاویر و موارد دیگر را برای درک بهتر اهداف تحلیل کنند. هوش مصنوعی می‌تواند سانسور در مقیاس بزرگ را امکان‌پذیر کرده و به سرعت محتوای نامطلوب با دستور کار تهران را شناسایی و سرکوب کند. در نتیجه، نظارت گسترده‌تر مبتنی بر هوش مصنوعی به طور بالقوه مانع از توانایی مخالفان برای سازماندهی فعالیت‌های چالشی علیه رژیم می‌شود، در حالی که به ثبات تهران کمک می‌کند.
آیا جمهوری اسلامی توانایی‌های لازم در حوزه هوش مصنوعی را دارد؟
تلاش جمهوری اسلامی ایران برای به کارگیری قابلیت‌های هوش مصنوعی بخشی از یک مسابقه تسلیحاتی فناورانه بزرگتر است که شامل فعالیت‌هایی مانند سرقت فناوری برای به دست آوردن مزیت رقابتی در برابر ایالات متحده و متحدانش می‌شود. این تلاش نشان‌دهنده توانایی تهران برای بهره‌برداری از آخرین فناوری پیشرفته برای همگام ماندن با روندهای جهانی است. اما آیا ایران توانایی‌های لازم در حوزه هوش مصنوعی را دارد؟ توسعه قابلیت‌های هوش مصنوعی نیازمند داده‌های آموزشی، قدرت محاسباتی و تخصص مرتبط است. ولی نصر، استاد روابط بین‌الملل و مطالعات خاورمیانه در دانشکده مطالعات بین‌المللی پیشرفته دانشگاه جانز هاپکینز خاطرنشان می‌کند که در حالی که جمهوری اسلامی ایران فاقد داده‌های آموزشی برای پیشبرد قابلیت‌های هوش مصنوعی است، اما قابلیت‌های فنی مناسبی را در قالب مهندسان تحصیل‌کرده و آموزش‌دیده و دانشگاه‌هایی که تخصص فنی مرتبط را ارائه می‌دهند، حفظ کرده است. به گفته نصر، «شکاف باقی‌مانده در داده‌های آموزشی را می‌توان با دسترسی به ابزارهای هوش مصنوعی که روس‌ها و چینی‌ها می‌توانند در اختیار ایران قرار دهند، پر کرد.»
به عنوان بخشی از مشارکت جامع ۲۵ ساله بین ایران و چین که در سال ۲۰۲۱ امضا شد، چین بزرگترین سرمایه‌گذار در فناوری ایران بوده و فناوری‌های تشخیص چهره مبتنی بر هوش مصنوعی را به ایران عرضه کرده است. در همین حال، ایران پهپادهایی را به روسیه عرضه کرده و مسکو پهپادهای طراحی‌شده توسط ایران را در داخل کشور تولید می‌کند. قابل ذکر است که در فوریه ۲۰۲۴، نماینده تهران برای توسعه هوش مصنوعی و رباتیک و نماینده مسکو از کمیسیون اجرای کد اخلاق هوش مصنوعی، تفاهم‌نامه‌ای برای همکاری در زمینه اخلاق هوش مصنوعی امضا کردند. بیانیه رسمی نهاد حاکم بر هوش مصنوعی روسیه خاطرنشان می‌کند که امضای این تفاهم‌نامه گام جدیدی در گفتگوی فناورانه و فرهنگی بین روسیه و ایران است و بر اعتمادی که طرف ایرانی در مسائل مربوط به هوش مصنوعی به روسیه دارد، تأکید می‌کند.
تبادل قابلیت‌های فنی نشان می‌دهد که روسیه، چین و ایران در فعالیت‌های پیچیده داد و ستد شرکت می‌کنند که به طور استراتژیک به نفع همه طرف‌ها است. علاوه بر این، روابط دفاعی تقویت‌شده بین روسیه و ایران نشان می‌دهد که مسکو و تهران می‌توانند انتقال فناوری پیشرفته، از جمله قابلیت‌های هوش مصنوعی را گسترش دهند.
سابقه تثبیت‌شده ایران در بهره‌گیری از فضای سایبری علیه رقبای خود، همراه با پیشرفت‌های بالقوه در قابلیت‌های هوش مصنوعی، امکانات جدیدی را برای کتابچه بازی نامتقارن آن باز می‌کند. همانطور که از فعالیت‌های اخیر ایران مشهود است، تهران نمی‌خواهد در مسابقه تسلیحاتی هوش مصنوعی عقب بماند و قادر و مایل است هوش مصنوعی را در عملیات‌های اطلاعاتی، جاسوسی سایبری و نظارت برای سرکوب مخالفان داخلی و همچنین برای هدف قرار دادن ایالات متحده و شرکای آن به کار گیرد.