سامانه همایش های دانشگاه آزاد اسلامی واحد نجف آباد

صفحه اصلی / سومین کنفرانس بین المللی مهندسی و علوم کامپیوتر و اولین کنفرانس ملی سامانه های هوشمند، کلان داده و رایانش پیشرفته

مـروری بر حملات مسمـوم‌کننده و راهـکارهای دفـاعی در یادگیـری فـدرال بـرای هـوش مصنوعی لبه

نویسندگان :

نازنین اسکندری شهرکی¹ بهرنگ برکتین² مجتبی شعبانی³

1- دانشگاه آزاد اسلامی واحد نجف آباد 2- دانشگاه آزاد اسلامی واحد نجف آباد 3- پژوهشگر مستقل

کلمات کلیدی :

یادگیـری فدرال،هـوش لبه،حملات مسمـوم‌کننده،امنیت،حملات درپشتی

چکیده :

یادگیری فدرال (Federated Learning)، یک رویکرد کلیدی برای پیاده‌سازی هوش مصنوعی در محیط‌های لبه است که آموزش مدل‌های هوشمند را بدون نیاز به متمرکزسازی داده‌های خام و حساس کاربران، امکان‌پذیر می‌سازد. این ویژگی، علیرغم حفظ حریم خصوصی، چالش‌های امنیتی جدید و پیچیده‌ای را به همراه داشته است. در این میان، حملات مسموم‌کننده (Poisoning Attacks) به دلیل توانایی بالا در خدشه‌دار کردن یکپارچگی و دسترس‌پذیری مدل جهانی، تهدیدی جدی محسوب می‌شوند. این مقاله، به تحلیلی جامع از این حملات و راهکارهای مقابله با آن‌ها در بستر یادگیری فدرال برای هوش مصنوعی لبه می‌پردازد. در ابتدا، معماری مبتنی بر هم‌افزایی یادگیری فدرال و رایانش لبه و سطح حمله منحصربه‌فرد آن معرفی می‌شود. سپس با ارائه طبقه‌بندی دقیق، متدولوژی‌های گوناگون مسموم‌سازی داده و مدل، به‌ویژه حملات درپشتی (Backdoor Attacks)، به‌طور عمیق کالبدشکافی می‌شوند. در ادامه، طیف وسیعی از راهکارهای دفاعی، از الگوریتم‌های تجمیع مقاوم و امن گرفته تا رویکردهای مبتنی بر شهرت و پاک‌سازی داده در سمت کلاینت، مورد بررسی و تحلیل قرار می‌گیرند. این مقاله با ارائه یک تحلیل مقایسه‌ای از شش راهکار دفاعی برجسته، بده‌بستان‌های بنیادین میان امنیت، حریم خصوصی و کارایی را برجسته می‌سازد. در نهایت، چالش‌های باز و مسیرهای تحقیقاتی آینده، از جمله نیاز به معماری‌های دفاع در عمق و استفاده از محیط‌های اجرای قابل اعتماد، مورد بحث قرار می‌گیرد.