[读论文]对抗样本：深度学习的攻击和防御(Adversarial Examples: Attacks and Defenses for Deep Learning)

文章目录摘要一、引言二、相关概念及背景介绍1.深度学习A.深度学习的主要概念B.深度神经网络的结构C.深度学习标准数据集机器学习中的对抗性样本及对策三、对抗性样本生成方法的分类1.威胁模型A.对抗伪造性①假阳性：②伪阴性：B.对抗者对模型的了解程度①白盒攻击②黑盒攻击C.对抗特异性①定向攻击②非定向攻击D.攻击频率①一次性攻击②循环攻击2.扰动A.扰动范围①个体攻击②通用攻击B.扰动限制①最优化扰动②约束扰动C.lp测量法3.基准A.数据集B.受害者模型四、对抗性样本生成方法五、应对对抗性样本的对策六、对抗

对抗样本：深度学习的攻击和防御 内容来源于论文：Adversarial Examples: Attacks and Defenses for Deep Learning，发表在IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS。   论文地址：Adversarial Examples: Attacks and Defens...

在深度学习模型广泛应用于自动驾驶、安防等关键领域时，模型的安全性成为核心议题。对抗样本攻击通过向输入数据添加人眼难以察觉的微小扰动，即可导致模型产生高置信度的错误输出，这揭示了AI系统决策边界的脆弱性。其技术价值在于“以攻促防”，通过模拟攻击暴露模型缺陷，从而推动构建更鲁棒、可信的AI系统。从最初在数字图像上添加噪声，到如今能影响物理世界中的摄像头与传感器，对抗样本技术已从理论好奇演变为实际威胁，涉及**白盒与黑盒攻击**、**通用对抗扰动**等核心概念。理解其原理与分类，是评估模型风险、构建防御体系的基础

4/4 本周综合阅读了图像检索领域的一些关键文献以及常用技术，本来准备写一篇CBIR领域的学习概述，奈何有些文献还没有读完，自己要写的概述还处在半成品状态（对于特征embedding还有一些不懂，cv领域一些知识也还要补充），想认真写完之后再上交。所以先就本星期阅览的关于AML领域的相关知识做一下笔记。 1.《Adversarial Examples: Attacks and Defe...

从这个角度出发，他们的方法，称为。

“Adversarial examples are inputs to machine learning models that an attacker has intentionally designed to cause the model to make a mistake” (Goodfellow et al 2017) 这里放点神经网络对抗性样本的案例 神经网络的鲁棒性 Robustness: A network is robust if it returns corre...

文章目录一、对抗样本1.1Enhancing Transformation-Based Defenses Against Adversarial Attacks with a Distribution Classifier .1.2 Implicit Bias of Gradient Descent based Adversarial Training on Separable Data1.3 Mixup Inference: Better Exploiting Mixup to Defend Advers

关于对抗性攻击对深度学习威胁的研究 Naveed Akhtar and Ajmal Mian ACKNOWLEDGEMENTS: The authors thank Nicholas Carlini (UC Berkeley) and Dimitris Tsipras (MIT) for feedback to improve the survey quality. We also acknowl...

目录攻击防御 攻击 2019CVPR-Parametric Noise Injection Trainable Randomness to Improve Deep Neural Network Robustness Against Adversarial Attack. 参数噪声注入（PNI）： 可训练的随机性以提高DNN的对抗鲁棒性 背景 用高斯噪声训练网络是实现模型正则化的一种有效技术，从而提高了模型对输入变化的鲁棒性。 在这种经典方法的启发下，我们探索利用噪声注入的正则化特性来提高DNN对对

在传统的机器学习任务中，训练集和测试集往往来自 **相同的数据分布 $P$** 。然而，对抗攻击通过在输入数据上引入极其微小的扰动，使得输入数据的分布发生了细微的改变。这种变化对于人类而言几乎无法感知，但对于模型，可能引发极大差异，甚至导致分类结果的完全错误。模型的这种脆弱性源自它们在高维特征空间中对某些输入特征的过度敏感性。

文章汇总CVPR2025中对抗样本&智能安全方向的相关论文和GitHub链接，同时每篇文章附有摘要。

这里写自定义目录标题Abstract 摘要1. Introduction 引言背景引入2. 相关工作 Related Work 论文作者： Xiaosen Wang Kun He 作者单位： School of Computer Science and Technology, Huazhong University of Science and Technology 作者邮箱： {xiaosen,brooklet60}@hust.edu.cn 源代码：https://github.com/JHL-HUS

【时间】2018.12.22 【题目】对抗攻击（Adversarial attacks）的常用术语 概述      本文是论文《Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey》中Section 2 的翻译，主要讲述了对抗攻击（Adversarial attacks）的常用术语。 一、 对...

作者：Naveed Akhtar and Ajmal Mian 2018年发表的一篇综述文章，现在很多最新的进展没有被包含在内，涵盖了最经典的一些对抗攻击与防御方法。但研究主要集中在CV方向，大多数都是图片分类问题。 一、关于对抗攻击的常用术语 Adversarial example/image: 对抗样本，被添加了恶意扰动的图片用来误导机器学习技术比如深度神经网络 Adversarial perturbation: 对抗扰动，干净样本+对抗扰动（噪声）->对抗样本 Adversarial train

对抗攻击的类型介绍 根据攻击者对目标模型（被攻击的模型）的了解程度不同，已有的对抗攻击大致可以分为两类:白箱攻击和黑箱攻击。 1 白箱攻击 在白箱攻击算法中攻击者知道目标模型的所有信息，包括模型的训练集、类型、结构以及参数。白箱攻击考虑的是在一种对攻击者而言极度理想的情况，虽然高估了攻击者的能力，但是可以用来评估机器学习模型的安全性的下限。此外，白箱攻击能够和后面将会提到的“基于迁移的攻击”相结合，因此研究白箱攻击意义还是很大的。 2 黑箱攻击 在黑箱攻击中，攻击者不知道目标模型的内部细节，只能够观察目标模

对抗攻击

文章目录1 情感分类 投简历的南大Fengyuan Xu老师最近要求我分析一下他的论文，对网安很小白的我，决定分析下单眼情绪识别这篇文章，但是硬件很头疼。 1 情感分类 当前情感分类上，主要把情感分为两类或者八类： https://blog.csdn.net/whutmengmeng/article/details/105145594 ...

来源：专知 本文为论文介绍，建议阅读5分钟 深度学习鲁棒性的不足已被证实会对一些与安全密切相关的领域带来威胁。来自清华大学的董胤蓬博士论文，入选2022年度“CCF优秀博士学位论文奖”初评名单！https://www.ccf.org.cn/Focus/2022-12-08/781244.shtml以深度学习为代表的人工智能技术在计算机视觉、语音识别等众多领域均取 得了显著进展，规模化应用已现曙光。...

2020-05-19 19:52:46 任奎 随着计算机产业发展带来的计算性能与处理能力的大幅提高，人工智能在音视频识别、自然语言处理和博弈论等领域得到了广泛应用。在此背景下，确保人工智能的核心——深度学习算法具有可靠的安全性和鲁棒性至关重要。 然而，近年来研究者发现，深度学习模型存在着易受对抗样本攻击的安全隐患。攻击者可以通过向良性数据中添加特定的扰动，生成对抗样本。附加轻微扰动的对抗样本不会影响人类的判断，却会使深度学习模型产生错误结果。同时，对抗攻击在自动驾驶等场景中的成功实施更..