پیشرفت در فناوری های ساخته شده بر روی مدل های زبانی بزرگ، مسابقه تسلیحاتی بین هکرها و شرکت ها را تسریع خواهد کرد. هوش مصنوعی مولد (AI) باید امنیت سایبری را به ویژه در شناسایی تهدید تقویت کند، اگرچه بعید است که به زودی به اتوماسیون کامل منجر شود.

هوش مصنوعی مولد یا Generative AI ، نوعی فناوری هوش مصنوعی است که می تواند انواع مختلفی از محتوا از جمله متن، تصویر، صدا و همینطور داده های مصنوعی تولید کند. چت بات‌های اصلی هوش مصنوعی مانند ChatGPT OpenAI و Bard Google قابلیت‌های هوش مصنوعی مولد را برای درک و تولید نوشتارهای شبیه انسان نشان می‌دهند.

هوش مصنوعی مولد همچنین در مرحله آخر SANS یعنی مرحله درس‌های آموخته‌شده استفاده می‌شود، جایی که می‌تواند ایجاد گزارش‌های پاسخ حادثه را خودکار کند و ارتباطات داخلی را بهبود بخشد. مهمتر از همه، می توان گزارش ها را مجدداً در مدل گنجاند و دفاع را بهبود بخشید. به عنوان مثال، میز کار هوش مصنوعی امنیتی Google که توسط Sec-PaLM 2 LLM پشتیبانی می‌شود، داده‌های خام حملات اخیر را به هوش تهدید قابل خواندن توسط ماشین و انسان تبدیل می‌کند که می‌تواند پاسخ‌ها را (تحت نظارت انسان) تسریع کند. اما در حالی که کیفیت گزارش‌های پاسخ حادثه مبتنی بر هوش مصنوعی باید همچنان در حال بهبود باشد، مشارکت انسانی همچنان ضروری است.

• ابزارهای تست نفوذ و ارزیابی امنیتی
• تست نفوذ چیست؟

البته، هوش مصنوعی مولد می تواند به عنوان ابزار مهاجمان سایبری نیز مورد استفاده قرار گیرد و به آنها قابلیت های مشابهی در پیشبرد حملات سایبری بدهد. برای مثال، مهاجمان با تجربه کمتر می‌توانند از آن برای ایجاد ایمیل‌های فریبنده‌تر یا ویدیوها، ضبط‌ها و تصاویر واقعی‌تر برای ارسال به اهداف فیشینگ استفاده کنند. هوش مصنوعی مولد همچنین به هکرها اجازه می دهد تا به راحتی کد حمله شناخته شده را بازنویسی کنند به طوری که به اندازه کافی متفاوت باشند تا از شناسایی جلوگیری کنند.

هوش مصنوعی مولد مطمئناً به موضوعی پرطرفدار برای بازیگران مخرب تبدیل شده است. استفاده از هوش مصنوعی مولد در دارک وب در سال 2023 افزایش یافت . مشاهده هکرها که از ChatGPT استفاده می کنند معمول است. یکی از هکرها اعلام کرد که می تواند از هوش مصنوعی مولد برای بازآفرینی گونه های بدافزار از جدیدترین تحقیقات چاپ شده  استفاده کند، مانند یک دزد مبتنی بر پایتون که می تواند انواع فایل های رایج (docx، PDF، تصاویر) را در یک سیستم جستجو و بازیابی کند.

تهدیدات از طرف عوامل مخرب تنها زمانی افزایش می یابد که آنها از هوش مصنوعی مولد برای استانداردسازی و به روز رسانی تاکتیک ها، تکنیک ها و رویه های خود استفاده کنند. توسعه با کمک هوش مصنوعی منجر به ایجاد گونه‌هایی از بدافزار که خود تکامل می‌یابند و تغییراتی را برای حمله به یک هدف خاص با تکنیک منحصربه‌فرد، پی لود و کد چند شکلی ( polymorphic code) ایجاد می‌کنند که با اقدامات امنیتی موجود غیرقابل شناسایی است.می شود.

در محاسبات، polymorphic code کدی است که از یک موتور چند شکلی برای جهش استفاده می کند و در عین حال الگوریتم اصلی را دست نخورده نگه می دارد . یعنی کد هر بار که اجرا می شود خودش تغییر می کند، اما عملکرد کد به هیچ وجه تغییر نمی کند. به عنوان مثال، عبارات ساده ریاضی 3+1 و 6-2 هر دو به یک نتیجه می رسند، اما با کدهای مختلف ماشین در یک CPU اجرا می شوند. این تکنیک گاهی اوقات توسط ویروس های کامپیوتری، کدهای پوسته( shellcodes) و کرم های کامپیوتری برای پنهان کردن حضور آنها استفاده می شود.

هوش مصنوعی مولد در امنیت سایبری فرصتی منحصر به فرد برای به دست آوردن بینش های ارزشمند، کاوش راه حل های موثر و بررسی مطالعات موردی در دنیای واقعی که قدرت تحول آفرینی هوش مصنوعی مولد را به نمایش می گذارد، با تمرکز ویژه بر روی موارد زیر فراهم می کند:

شناسایی پیشرفته تهدید:

کشف کنید که چگونه هوش مصنوعی مولد می تواند سازمان ها را برای شناسایی و تجزیه و تحلیل تهدیدات سایبری پیچیده در زمان واقعی توانمند کند. از تکنیک های پیشرفته مانند تشخیص ناهنجاری، تجزیه و تحلیل رفتاری و تشخیص الگو برای شناسایی فعالانه تهدیدات بالقوه قبل از ایجاد آسیب، پرده برداری کنید.

مکانیزم‌های دفاع خودکار:

بررسی کنید که چگونه هوش مصنوعی مولد می‌تواند مکانیسم‌های دفاعی را خودکار کند و سازمان‌ها را قادر می‌سازد تا به حملات سایبری سریع و مؤثر پاسخ دهند. درباره سیستم‌های مبتنی بر هوش مصنوعی جدید که به طور مستقل تهدیدها را شناسایی و کاهش می‌دهند، زمان پاسخ را کاهش می‌دهند و تأثیر نقض‌ها را به حداقل می‌رسانند، بیاموزید.

• مهم ترین تهدیدات امنیت سایبری
• کاربردهای یادگیری ماشین در امنیت سایبری

پاسخ به رویداد پیشرفته:

بینش هایی در مورد اینکه چگونه هوش مصنوعی مولد می تواند قابلیت های پاسخ به حادثه را افزایش دهد، به دست آورید. شکار تهدید مبتنی بر هوش مصنوعی را کشف کنید، تیم‌های امنیتی را قادر می‌سازد تا به سرعت تهدیدها را شناسایی، تجزیه و تحلیل و خنثی کنند. از مدل‌های مولد برای شبیه‌سازی سناریوهای حمله، بهبود برنامه‌ریزی واکنش به حادثه و بهبود استراتژی‌های بازیابی استفاده کنید.

ملاحظات اخلاقی:

مفاهیم اخلاقی استفاده از هوش مصنوعی مولد در امنیت سایبری را بررسی کنید. بهترین شیوه ها را برای اطمینان از عدالت، شفافیت و مسئولیت پذیری در الگوریتم های هوش مصنوعی بررسی کنید.