هوش مصنوعی در معرض خطر “مسمومیت” دادهای قرار دارد؛ راهکاری نوآورانه برای مقابله با حملات سایبری
آخرین ویرایش در آوریل 28, 2025 توسط رضا اسد زاده
اشتیاق روزافزون به جمعآوری حجم وسیعی از دادهها، که سوخت اصلی برای آموزش مدلهای هوش مصنوعی به شمار میرود، میتواند پاشنه آشیل این فناوری نوظهور باشد. تزریق عامدانه اطلاعات نادرست و گمراهکننده به مجموعههای دادههای آموزشی، روشی است که مهاجمان سایبری برای تخریب عملکرد و منحرف کردن مسیر مدلهای هوشمند به کار میگیرند. یک مطالعه جدید، با ترکیب دو فناوری پیشرفته، راهکاری امیدوارکننده برای شناسایی و حذف این “دادههای مسموم” پیش از آنکه بتوانند به سیستمهای هوش مصنوعی آسیب برسانند، ارائه کرده است.
امروزه، طیف گستردهای از سیستمهای هوش مصنوعی که در زندگی روزمره با آنها سروکار داریم، از چتباتهای پیشرفته گرفته تا سیستمهای پیشنهاددهنده فیلم و موسیقی، تواناییهای چشمگیر خود را مدیون حجم عظیم دادههایی هستند که بر اساس آنها آموزش دیدهاند. اگر این منبع غنی اطلاعات آلوده شود، رفتار و خروجی این مدلها میتواند به طور جدی مختل شود.
پیامدهای چنین حملاتی میتواند بسیار فراتر از عملکرد نادرست یک چتبات باشد. تصور کنید گروههای سودجو با تزریق دادههای مسموم، باعث شوند یک خودروی خودران چراغ قرمز را نادیده بگیرد یا در مقیاسی وسیعتر، منجر به اختلال و قطعی در شبکههای حیاتی مانند شبکه برق شوند. این سناریوها نشاندهنده آسیبپذیری بالقوه زیرساختهای مهم در برابر حملات مسمومیت دادهای هستند.
برای مقابله با این تهدید رو به رشد، گروهی از محققان حوزه امنیت سایبری، رویکرد نوینی را توسعه دادهاند که در آن دو فناوری نوظهور یادگیری فدرال (Federated Learning) و بلاکچین (Blockchain) به منظور آموزش ایمنتر مدلهای هوش مصنوعی با یکدیگر ترکیب شدهاند. روش ابتکاری این گروه نشان داده است که میتواند با موفقیت دادههای نادرست را قبل از آنکه فرصت آلوده کردن مجموعه دادههای آموزشی را پیدا کنند، شناسایی و حذف کند.
هادی امینی، محقق ارشد و استادیار دانشکده علوم محاسبات و اطلاعات بنیادی مؤسسه نایت، در این باره میگوید: «ما روشی را ایجاد کردهایم که میتواند کاربردهای گستردهای در افزایش تابآوری زیرساختهای حیاتی، امنیت سایبری حمل و نقل، مراقبتهای بهداشتی و بسیاری زمینههای دیگر داشته باشد.»
بخش نخست این رویکرد جدید، مبتنی بر یادگیری فدرال است. در این روش منحصربهفرد، یک نسخه کوچک از مدل آموزشی به طور مستقیم بر روی دستگاه کاربر آموزش میبیند و تنها بهروزرسانیهای مدل، نه دادههای شخصی کاربر، با مدل جهانی موجود بر روی سرور یک شرکت به اشتراک گذاشته میشود. اگرچه این روش حریم خصوصی کاربران را حفظ میکند، اما همچنان در برابر حملات مسمومیت دادهای آسیبپذیر است، زیرا تأیید صحت دادههای کاربر قبل از رسیدن به مدل مرکزی چالشبرانگیز است.
اروین مور، دانشجوی دکترا در آزمایشگاه امینی و نویسنده اصلی این مطالعه، در توضیح این چالش میگوید: «تأیید اینکه آیا دادههای کاربر قبل از رسیدن به مدل، صحیح یا نادرست است، یک چالش اساسی در یادگیری فدرال به شمار میرود. به همین دلیل، ما برای رفع این نقص به فناوری بلاکچین روی آوردیم.»
بلاکچین، که به واسطه نقش کلیدیاش در ارزهای دیجیتال مانند بیتکوین به شهرت رسیده است، یک پایگاه داده توزیعشده و غیرمتمرکز است که اطلاعات را در قالب بلوکهایی سازماندهی میکند که به صورت زنجیرهای و بر اساس ترتیب زمانی به یکدیگر متصل شدهاند. هر بلوک شامل یک اثر انگشت دیجیتال منحصر به فرد (Hash) و همچنین اثر انگشت بلوک قبلی است، که این ساختار، دادهها را عملاً در برابر هرگونه دستکاری مقاوم میسازد. کل زنجیره از یک ساختار مشخص پیروی میکند، که به عنوان یک فرآیند اعتبارسنجی عمل کرده و از افزودن بلوکهای تصادفی و غیرمجاز جلوگیری میکند. میتوان این فرآیند را به یک چکلیست دقیق برای پذیرش دادهها تشبیه کرد.
محققان در طراحی مدل خود از این ویژگی منحصربهفرد بلاکچین بهره بردند. مدل توسعهیافته، بهروزرسانیهای ارسالی در قالب بلوکها را با یکدیگر مقایسه کرده و احتمال “سمی” بودن آنها را ارزیابی میکند. بهروزرسانیهایی که به عنوان بالقوه سمی شناسایی میشوند، ثبت شده و سپس از فرآیند تجمیع شبکه حذف میشوند، بدین ترتیب از آلوده شدن مدل اصلی جلوگیری به عمل میآید.
امینی، که همچنین رهبری تیم متخصصان امنیت سایبری و هوش مصنوعی دانشگاه فلوریدا را بر عهده دارد و در حال بررسی کاربردهای هوش مصنوعی امن در سیستمهای حمل و نقل متصل و خودران است، میگوید: «گروه ما در حال حاضر همکاری نزدیکی با مرکز ملی امنیت سایبری و تابآوری حمل و نقل دارد تا از رمزگذاری کوانتومی پیشرفته برای محافظت از دادهها و سیستمها استفاده کند. هدف نهایی ما، تضمین ایمنی و امنیت زیرساختهای حمل و نقل و در عین حال بهرهگیری از قدرت هوش مصنوعی پیشرفته برای بهبود عملکرد این سیستمها است.»
این پژوهش نشان میدهد که ترکیب هوشمندانه فناوریهای نوظهور مانند یادگیری فدرال و بلاکچین میتواند گامی مؤثر در جهت افزایش امنیت و قابلیت اطمینان سیستمهای هوش مصنوعی در برابر تهدید حملات مسمومیت دادهای باشد. با توسعه و بهکارگیری چنین راهکارهایی، میتوان از آسیبپذیریهای موجود کاسته و از پتانسیل عظیم هوش مصنوعی در زمینههای مختلف به شکلی ایمن و مطمئن بهرهمند شد.
**رضا اسدزاده**
سردبیر و مدیر اجرایی
رضا اسدزاده روزنامهنگار باسابقه، مدیر رسانهای و تحلیلگر مسائل شهری با بیش از هجده سال تجربه حرفهای در عرصه خبرنگاری، مدیریت تحریریه و تولید محتوای خبری است. تخصص اصلی وی در حوزه خبرنگاری شهری، تحلیل سیاستهای مدیریت شهری و پوشش تحولات اجتماعی کلانشهرها میباشد.
**تحصیلات**
وی دارای مدرک کارشناسی ارشد علوم ارتباطات اجتماعی از دانشگاه علامه طباطبایی و کارشناسی روزنامهنگاری از دانشگاه تهران است. همچنین دورههای تخصصی مدیریت رسانه، خبرنگاری پیشرفته و اخلاق حرفهای را در مراکز معتبر داخلی و بینالمللی گذرانده است. پایاننامه کارشناسی ارشد وی با موضوع «نقش رسانههای محلی در بهبود مدیریت شهری» به عنوان پژوهش برتر دانشکده ارتباطات انتخاب شد.
**سوابق حرفهای**
اسدزاده فعالیت حرفهای خود را از اواخر دهه هفتاد به عنوان خبرنگار شهری در یکی از روزنامههای پرتیراژ کشور آغاز کرد. با گسترده شدن دامنه فعالیتهایش، مسئولیتهای گوناگونی از جمله دبیری گروه شهری، معاونت خبر و سردبیری چندین رسانه معتبر را بر عهده داشته است. گزارشهای تحقیقی وی درباره فساد در شهرداریها، مشکلات حملونقل عمومی و بحران مسکن، چندین بار در جشنوارههای مطبوعاتی کشور حائز رتبه شده است.
وی از سال ۱۳۹۸ به عنوان سردبیر و مدیر اجرایی در مجله خبری صبح آنلاین مشغول به فعالیت است. در این مدت، با بازتعریف ساختار تحریریه و بهکارگیری نیروهای جوان و متخصص، توانسته است جایگاه این رسانه را در فضای خبری کشور تثبیت کند. تیتراژ و امضای سردبیری وی، نشان اعتبار و اتکای بسیاری از خوانندگان صبح آنلاین است.
**تخصصها و حوزههای کاری**
تخصص اصلی اسدزاده در مدیریت رسانههای خبری، تحلیل سیاستهای مدیریت شهری، خبرنگاری تحقیقی و پوشش تحولات اجتماعی کلانشهرها است. وی همچنین در زمینه آموزش روزنامهنگاری، راهبری تیمهای تحریریه، طراحی ساختار خبری و مشاوره رسانهای به سازمانها تجربه کمنظیری دارد.
**روششناسی حرفهای**
رویکرد اسدزاده در روزنامهنگاری مبتنی بر صحتسنجی چندلایه، اولویت دادن به منافع عمومی، رعایت اخلاق حرفهای و پرهیز از تیتراژ زرد و احساسی است. وی بر این باور است که خبرنگار مسئولیتی فراتر از گزارش ساده رویدادها دارد و باید در برابر تأثیر اخبار بر افکار عمومی پاسخگو باشد.
**عضویت در نهادهای تخصصی**
وی عضو هیئت مدیره انجمن صنفی روزنامهنگاران ایران (دوره پنجم)، عضو شورای سیاستگذاری جشنواره مطبوعات و عضو کمیته اخلاق خانه مطبوعات کشور است. همچنین به عنوان مدرس مدعو در دورههای تربیت خبرنگار دانشکده علوم ارتباطات دانشگاه علامه طباطبایی فعالیت دارد.
**افتخارات و جوایز**
– دریافت جایزه بهترین سردبیر سال از جشنواره مطبوعات (۱۴۰۰ و ۱۴۰۲)
– تندیس طلایی گزارشنویسی تحقیقی برای گزارش «لایههای پنهان آلودگی هوا» (۱۳۹۸)
– دو بار نامزدی جایزه خبرنگار برتر حوزه شهری
– نویسنده پرفروشترین پروندههای ویژه صبح آنلاین
