این مقاله برگرفته از خبر رشد تهدیدات سایبری ناشی از هوش مصنوعی می باشد که در نوامبر سال 2023 در سایت اسکای نیوز منتشر شده است.

در بررسی سالانه مسائل مربوط به امنیت سایبری، مرکز ملی امنیت سایبری بریتانیا نسبت به تشخیص محتواهای واقعی از فیک مخصوصا محتواهای ویدیویی واقعی از ویدئوهای دیپ فیک و سایر فرمهای نادرست اطلاعات هشدار داد.

آژانس امنیت سایبری بریتانیا هشدار داده است که پیشرفت‌ها در هوش مصنوعی تهدیدی فزاینده برای امنیت انتخابات عمومی بعدی در بریتانیا می باشد.

مرکز ملی امنیت سایبری (NCSC) نگرانی های در مورد دخالت هکرها در انتخابات ریاست جمهوری ایالات متحده در سال آینده میلادی دارد.

در بررسی سالانه طیف گسترده ای از مسائل امنیت سایبری، این آژانس در مورد چشم انداز تشخیص بین ویدیوهای واقعی و دیپ فیک و سایر اشکال اطلاعات نادرست طراحی شده برای تأثیرگذاری بر ترجیحات رأی دهندگان هشدار داد.

deepfake AI چیست؟

هوش مصنوعی Deepfake نوعی هوش مصنوعی است که برای ایجاد تصاویر متقاعد کننده، فریب های صوتی و ویدئویی استفاده می شود. اصطلاح دیپ فیک یا جعل عمیق، هم فناوری و هم محتوای جعلی ناشی از آن را توصیف می‌کند و یک نمونه از یادگیری عمیق و جعلی است.

دیپ‌فیک‌ها اغلب محتوای منبع موجود را تغییر می‌دهند، به طور مثال از هویت ظاهری یک مقام سیاسی یا یک فرد مهم در جامعه ، در جهت اهداف سو و به صورت غیرقانونی استفاده می شود . آنها همچنین محتوای کاملا متقاعدکننده ایجاد می کنند که در آن شخصی در حال انجام یا گفتن چیزی است که انجام نداده یا نگفته.

بزرگترین خطری که دیپ فیک ایجاد می کند، توانایی آنها در انتشار اطلاعات نادرست است که به نظر می رسد از منابع قابل اعتماد آمده است. به عنوان مثال، در سال 2022 یک ویدیوی دیپ فیک از ولدیمیر زلنسکی، رئیس جمهور اوکراین منتشر شد که از سربازانش می خواهد تسلیم شوند.

در بیانیه امنیت سایبری بریتانیا آمده است: در حالی که رأی‌گیری کاغذی در انتخابات عمومی، امکان دخالت در انتخابات و میزان تقلب را بالا می برد . اما انتخابات در پس زمینه پیشرفت‌های هوش مصنوعی نیز نیاز به زیرکی بسیار دارد. درواقع توانایی هوش مصنوعی برای فعال کردن تکنیک های پیشرفته جعل هویت ، بزرگترین تهدیدات سایبری را ایجاد می کند.

تهدیدات سایبری در مسائل سیاسی جامعه ، مخصوصا انتخابات سرنوشت ساز ، شامل پست‌های آنلاین ساختگی و کمپین‌های جعل عمیق یا دیپ فیک بود که با سرعت زیادی در رسانه‌های اجتماعی پخش و فراگیر شدند.

این گزارش توضیح می‌دهد که چگونه «چشم‌انداز تهدید» از زمان آخرین انتخابات عمومی بریتانیا در سال ۲۰۱۹، به‌ویژه پس از جنگ روسیه با اوکراین، «به‌طور قابل‌توجهی» تکامل یافته است.

تاثیرگذاری دستکاریهای هوش مصنوعی بر گفتمان سیاسی در دموکراسی ها ، رقابت را برای نامزدها جذاب تر کرده است.

همچنین در مورد ظهور عوامل سایبری که با اهداف سیاسی کشورهایی مانند روسیه همسو هستند و اهداف ایدئولوژیکی مشابهی دارند، اما می توانند با محدودیت کمتری عمل کنند، هشدار داد و این دسته را “طبقه جدیدی از دشمنان برای مقابله بریتانیا” نامید.