[读论文]Adversarial Examples: Attacks and Defenses for Deep Learning

文章目录摘要一、引言二、相关概念及背景介绍1.深度学习A.深度学习的主要概念B.深度神经网络的结构C.深度学习标准数据集机器学习中的对抗性样本及对策三、对抗性样本生成方法的分类1.威胁模型A.对抗伪造性①假阳性：②伪阴性：B.对抗者对模型的了解程度①白盒攻击②黑盒攻击C.对抗特异性①定向攻击②非定向攻击D.攻击频率①一次性攻击②循环攻击2.扰动A.扰动范围①个体攻击②通用攻击B.扰动限制①最优化扰动②约束扰动C.lp测量法3.基准A.数据集B.受害者模型四、对抗性样本生成方法五、应对对抗性样本的对策六、对抗

4/4 本周综合阅读了图像检索领域的一些关键文献以及常用技术，本来准备写一篇CBIR领域的学习概述，奈何有些文献还没有读完，自己要写的概述还处在半成品状态（对于特征embedding还有一些不懂，cv领域一些知识也还要补充），想认真写完之后再上交。所以先就本星期阅览的关于AML领域的相关知识做一下笔记。 1.《Adversarial Examples: Attacks and Defe...

本文深入解析了对抗攻击中的CW方法，重点探讨了L0、L2与L∞范数优化策略。通过Carlini和Wagner提出的CW攻击，展示了如何利用不同范数精准修改关键特征，实现高效对抗攻击。文章详细介绍了L2范数的平衡设计、L0范数的精准外科手术式攻击以及L∞范数的隐形斗篷策略，为防御系统设计提供了重要参考。

从这个角度出发，他们的方法，称为。

“Adversarial examples are inputs to machine learning models that an attacker has intentionally designed to cause the model to make a mistake” (Goodfellow et al 2017) 这里放点神经网络对抗性样本的案例 神经网络的鲁棒性 Robustness: A network is robust if it returns corre...

对抗样本：深度学习的攻击和防御 内容来源于论文：Adversarial Examples: Attacks and Defenses for Deep Learning，发表在IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS。   论文地址：Adversarial Examples: Attacks and Defens...

关于对抗性攻击对深度学习威胁的研究 Naveed Akhtar and Ajmal Mian ACKNOWLEDGEMENTS: The authors thank Nicholas Carlini (UC Berkeley) and Dimitris Tsipras (MIT) for feedback to improve the survey quality. We also acknowl...

目录攻击防御 攻击 2019CVPR-Parametric Noise Injection Trainable Randomness to Improve Deep Neural Network Robustness Against Adversarial Attack. 参数噪声注入（PNI）： 可训练的随机性以提高DNN的对抗鲁棒性 背景 用高斯噪声训练网络是实现模型正则化的一种有效技术，从而提高了模型对输入变化的鲁棒性。 在这种经典方法的启发下，我们探索利用噪声注入的正则化特性来提高DNN对对

在传统的机器学习任务中，训练集和测试集往往来自 **相同的数据分布 $P$** 。然而，对抗攻击通过在输入数据上引入极其微小的扰动，使得输入数据的分布发生了细微的改变。这种变化对于人类而言几乎无法感知，但对于模型，可能引发极大差异，甚至导致分类结果的完全错误。模型的这种脆弱性源自它们在高维特征空间中对某些输入特征的过度敏感性。

文章汇总CVPR2025中对抗样本&智能安全方向的相关论文和GitHub链接，同时每篇文章附有摘要。

这里写自定义目录标题Abstract 摘要1. Introduction 引言背景引入2. 相关工作 Related Work 论文作者： Xiaosen Wang Kun He 作者单位： School of Computer Science and Technology, Huazhong University of Science and Technology 作者邮箱： {xiaosen,brooklet60}@hust.edu.cn 源代码：https://github.com/JHL-HUS

作者：Naveed Akhtar and Ajmal Mian 2018年发表的一篇综述文章，现在很多最新的进展没有被包含在内，涵盖了最经典的一些对抗攻击与防御方法。但研究主要集中在CV方向，大多数都是图片分类问题。 一、关于对抗攻击的常用术语 Adversarial example/image: 对抗样本，被添加了恶意扰动的图片用来误导机器学习技术比如深度神经网络 Adversarial perturbation: 对抗扰动，干净样本+对抗扰动（噪声）->对抗样本 Adversarial train

【时间】2018.12.22 【题目】对抗攻击（Adversarial attacks）的常用术语 概述      本文是论文《Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey》中Section 2 的翻译，主要讲述了对抗攻击（Adversarial attacks）的常用术语。 一、 对...

对抗攻击的类型介绍 根据攻击者对目标模型（被攻击的模型）的了解程度不同，已有的对抗攻击大致可以分为两类:白箱攻击和黑箱攻击。 1 白箱攻击 在白箱攻击算法中攻击者知道目标模型的所有信息，包括模型的训练集、类型、结构以及参数。白箱攻击考虑的是在一种对攻击者而言极度理想的情况，虽然高估了攻击者的能力，但是可以用来评估机器学习模型的安全性的下限。此外，白箱攻击能够和后面将会提到的“基于迁移的攻击”相结合，因此研究白箱攻击意义还是很大的。 2 黑箱攻击 在黑箱攻击中，攻击者不知道目标模型的内部细节，只能够观察目标模

对抗攻击

文章目录1 情感分类 投简历的南大Fengyuan Xu老师最近要求我分析一下他的论文，对网安很小白的我，决定分析下单眼情绪识别这篇文章，但是硬件很头疼。 1 情感分类 当前情感分类上，主要把情感分为两类或者八类： https://blog.csdn.net/whutmengmeng/article/details/105145594 ...

0x01 太长不看 深度学习在表现优异的同时，还存在易受攻击的缺陷。多数防御策略只能应对特定的攻击方法，普适性比较低，另外这些防御策略多为全局过滤扰动，浪费了大量算力。所以，本文： 认为对抗扰动中存在敏感点，敏感点的波动影响深度学习模型的分类。我们提出一种仅过滤对抗样本中敏感点的防御策略。 提出了一种基于差分进化算法寻找敏感点的方法，采用黑盒的方式去寻找对抗样本中的敏感点，避免了对深度学习模型的结构、参数等的依赖，可以适用于未知模型细节时的防御，增加了普适性。用邻域平均的方法把敏感点过滤掉。 0x02

对抗样本---深度学习

来源：专知 本文为论文介绍，建议阅读5分钟 深度学习鲁棒性的不足已被证实会对一些与安全密切相关的领域带来威胁。来自清华大学的董胤蓬博士论文，入选2022年度“CCF优秀博士学位论文奖”初评名单！https://www.ccf.org.cn/Focus/2022-12-08/781244.shtml以深度学习为代表的人工智能技术在计算机视觉、语音识别等众多领域均取 得了显著进展，规模化应用已现曙光。...