《Universal adversarial perturbations》文献阅读笔记

最新推荐文章于 2025-03-10 09:00:00 发布
原创 最新推荐文章于 2025-03-10 09:00:00 发布 · 2.2k 阅读 · 6
标签
#深度学习 #神经网络
本文介绍了《Universal adversarial perturbations》中的通用扰动构造方法，该方法针对深度学习模型，能对同一分布的样本产生使模型误分类的扰动。算法核心思想在于寻找最小扰动，使图像远离决策边界，实验表明其具有良好的泛化和黑盒攻击能力。后续研究中，对该方法进行了改进，如GDUAP、AAA、NAG等，但直接应用于图像检索仍具挑战。

本文关于介绍关于通用扰动的《Universal adversarial perturbations》。

 

1. 《Universal adversarial perturbations》

本文介绍了一种通用（Universal）扰动的构造方法，攻击方只需要对所有同一分布的样本添加该通用算法下的扰动，就能实现对抗样本构造。即不用像之前的方法那样，要针对每一个样本进行梯度计算以求得扰动。

 

     1.1 算法核心思想

     μ表示一组图片， 表示分类器，作者用下式形容算法的构造要求，即：寻找一个扰动v，使得在添加扰动后，μ内大多数图片都能被分类器误分类。（这里可以看出本次的UAP算法是一种不指定误分类目标的对抗样本构造方法）

      

     对于扰动v，作者用下式来对它进行限制：

      

最低0.47元/天 解锁文章
UAP（Universal Application Platform）介绍
11-23
UAP 平台是用友软件经过多年的技术积累和知识沉淀，在微软.NET相关规范和标准的基础上，提供完全支持基于领域语言(DSL)的模型驱动开发(MDD)模式，为各种复杂的企业级商业应用系统提供专业、安全、高效、可靠的开发、部署和运行企业管理应用软件的开发工具平台。通过UAP平台，使企业信息资源变得可重用、透明化，并且系统具有高可扩展性，让业务处理更加高效、简洁、安全。
Universal adversarial perturbations(翻译，侵删)
bash_winner的博客
02-10 1170
Universal adversarial perturbations(通用对抗扰动) 原文链接 https://www.researchgate.net/publication/309460742_Universal_adversarial_perturbations 摘要 考虑到一个顶尖的深度神经网络分类器，我们展示了一个通用（图像不可知）和非常小的扰动向量的存在，它会英气自然的图片，以一个很高的置信度被误分类。我们提出了一个系统的算法来计算通用扰动，来展示顶尖的深度神经网络对于这类扰动的高度的脆弱性，
论文导读：Universal Adversarial Training
deephub
03-13 3819
在这篇论文中，作者提出了一种优化的方法来找到给定模型的通用对抗样本（首先在 Moosavi-Desfooli 等人 [1] 中引入）。作者还提出了一种低成本算法来增强模型对此类扰动的鲁棒性。 Universal Adversarial Perturbations (UAP) 很“便宜” - 单个噪声可用于导致模型错误标记大量图像。（与基于每个图像生成扰动的通常攻击不同。但这些更有效）。论文还发现 UAP 可以跨不同模型，因此它们也可以用于黑盒攻击设置，因此研究它们很重要。 UAP vs Adversari
Universal adversarial perturbations（2017 CVPR）
weixin_43856668的博客
11-20 700
给定最先进的深度神经网络分类器，我们证明了存在一个通用的（与图像无关的）且非常小的扰动向量，该向量会导致自然图像以高概率被错误分类。我们提出了一种用于计算普遍扰动的系统算法，并表明最先进的深度神经网络非常容易受到这种扰动的影响，尽管人眼几乎无法察觉。我们进一步对这些普遍的扰动进行了实证分析，并特别表明它们在神经网络中具有很好的泛化性。普遍扰动的存在揭示了分类器高维决策边界之间的重要几何相关性。它进一步概述了输入空间中存在单一方向的潜在安全漏洞，对手可能会利用这些方向来破坏大多数自然图像的分类器。
通用对抗扰动——Universal adversarial perturbations
weixin_48654804的博客
10-19 5799
Universal adversarial perturbations 来自CVPR2017的一篇论文。引用量也上千了。 https://openaccess.thecvf.com/content_cvpr_2017/html/Moosavi-Dezfooli_Universal_Adversarial_Perturbations_CVPR_2017_paper.html 概述 对抗样本，众所周知，其目的就是在图像中添加一个扰动，使得图像在推理环节中给出错误的输出。也就是： f(x+δ)≠f(x)f(x+\
论文学习笔记：通用对抗扰动UAP
weixin_40675092的博客
09-12 2359
给定一个state-of-the-art的深度神经网络分类器，作者的工作展示了通用对抗扰动(UAP)的存在性，并且提出了计算UAP的方法。经验型的解释了这种扰动，展示了UAP在不同神经网络之间的泛华性。UAP的存在揭示了高维决策边界之间存在重要的几何相关性。进一步概述了现有自然图像分类器存在安全漏洞。 UAP 假设图片x∈Rdx \in \mathbb{R}^dx∈Rd来自分布μ\muμ，注意，这里的μ\muμ分布，代表了大部分的自然图片，包含较强的多样性。在这样的情况下，我们要找到通用对抗扰动 vvv，
[论文笔记]Universal adversarial perturbations(CVPR 2017)
Invokar的博客
08-14 4121
Universal adversarial perturbations(CVPR 2017) 文章简介： 本文主要是介绍了一种universal的扰动，能让大部分图片加入该噪声后就能被误分类，扰乱一个新的数据点只需要向图像添加一个普遍的扰动(不需要解决优化问题/梯度计算)。其示意图如下 Norm: 2-范数: ξ=2000\xi=2000ξ=2000 无穷范数: ξ=10\xi=10ξ=...
论文阅读 (53)：Universal Adversarial Perturbations
因吉的博客
06-06 1129
要点如下：1）展示了对于给定的一个前沿神经网络分类器，只需要一个普适且极小的扰动就可以引发高概率的自然图像误分类；2）提出了一种计算通用扰动的系统算法，并表明最先进的深度神经网络非常容易受到这种扰动的影响，而人眼几乎可以察觉；3）进一步实证分析了这些普适扰动，并表明它们在神经网络中的良好泛化性能；4）普适扰动的存在揭示了分类器的高维决策边界之间的重要几何相关性。进一步概述了在输入空间中存在单个方向的潜在安全漏洞，攻击者可能利用这些方向破坏大多数自然图像上的分类器。..................
Regional Homogeneity: Towards Learning Transferable Universal Adversarial Perturbations阅读笔记
everange的博客
06-04 881
Regional Homogeneity 动机 通过观察现有对抗噪声，可以发现针对对抗训练后的模型设计的对抗噪声具有很强的局部相关性，因此，论文提出利用保持对抗噪声的局部相关性来提升对抗样本的攻击性能。 RHP框架 提出一个梯度转化模块：将区域不相关的梯度转变为区域相关的梯度。 g^=T(g;θT)=RN⁡(conv⁡(g))+g \hat{g}=T\left(g ; \theta_{T}\rig...
一文读懂对抗机器学习Universal adversarial perturbations | CSDN博文精选
AI科技大本营
10-22 1456
作者 | Icoding_F2014来源 | CSDN博客本文提出一种 universal 对抗扰动，universal 是指同一个扰动加入到不同的图片中，能够使图片被分...
图像太宽无法输出_针对图像检索的通用扰动攻击
weixin_39813574的博客
11-24 706
针对图像检索的通用扰动攻击原文地址：https://arxiv.org/abs/1812.00552通用对抗性扰动（UAP，Universal adversarial perturbation），也称为输入不可知扰动（input-agnostic perturbation），已被证明存在并且能够欺骗大量数据样本上最先进的深度学习模型。现有的UAP方法主要集中在攻击图像分类模型上。在本文中首次尝试攻...
【论文阅读】A Simple and Strong Baseline for Universal Targeted Attacks on Siamese Visual Tracking
博客标题不能为空我也没办法
12-27 853
针对目标跟踪设计的攻击方法，使用半透明贴片对模板图和搜索图进行干扰，实现目标位置的判断错误
对抗攻击（Adversarial Attack）
ji_meng的博客
04-22 1万+
对抗攻击
CVPR2025 | PSP-UAP | 具有伪语义先验的无数据通用对抗扰动
最新发布
四口鲸鱼爱吃盐的博客
03-10 3016
本文 “Data-free Universal Adversarial Perturbation with Pseudo-semantic Prior” 提出了 PSP-UAP 方法，利用 UAP 固有语义信息生成伪语义先验，通过样本重加权和输入变换，提升了无数据通用对抗扰动在黑盒攻击中的性能，在多种 CNN 模型上超越了现有方法。
深度学习后门攻防综述
热门推荐
Yale的博客
05-25 1万+
0x00 后门这个词我们在传统软件安全中见得很多了，在Wikipedia上的定义[1]为绕过软件的安全性控制，从比较隐秘的通道获取对程序或系统访问权的黑客方法。在软件开发时，设置后门可以方便修改和测试程序中的缺陷。但如果后门被其他人知道（可以是泄密或者被探测到后门），或是在发布软件之前没有去除后门，那么它就对计算机系统安全造成了威胁。 那么相应地，在深度学习系统中也存在后门这一说法，这一领域由Gu等人2017年发表的BadNets[2]和Liu等人2017年发表的TrojanNN[3]开辟，目前是深度学习安
华为诺亚CV方向19篇论文入选ICCV 2019
我爱计算机视觉
10-28 1107
点击我爱计算机视觉标星，更快获取CVML新技术目前，2019年国际计算机视觉大会（ICCV 2019），正在韩国首尔（Seoul）举行。华为公司不仅成为了会议的铂金赞助商，其下属的诺亚方...
[paper]Universal adversarial perturbations
weixin_43150428的博客
05-13 441
本文提出了计算自然图像中普遍扰动的算法，在神经网络上具有很好的泛化性，并且揭示了模型在高维空间中决策边界的几何联系。并且说明了在输入空间中存在单个方向的潜在安全漏洞，攻击者可能会利用这些漏洞造成模型对大多数自然图像分类错误。 universal 算法： μ\muμ是图像分布 vvv是universal扰动 k^\hat{k}k^是模型 universal扰动vvv需要满足两个条件： ξξξ表示控制扰动vvv的幅度大小 δδδ表示对于所有自然图像（满足图像分布服从μ\muμ）的期望扰动成功率 假如当前的v
对抗机器学习——Universal adversarial perturbations
jmhIcoding
10-11 2308
代码地址： https://github.com/LTS4/universal 核心思想： 本文提出一种 universal对抗扰动，universal是指同一个扰动加入到不同的图片中，能够使图片被分类模型误分类，而不管图片到底是什么。示意图： 在这里插入图片描述 形式化的定义： 对于d维数据分布 μ，里面的每一个样本x∈R^d~μ，存在一个分类器k(x)→[1…k]。v是一个扰动，v满足： 同...
【论文快读】Universal adversarial perturbations（2017）
玄云飘风的博客
05-25 5984
连接： 作者：Seyed-Mohsen Moosavi-Dezfooli，Alhussein Fawzi，Omar Fawzi，Pascal Frossard 摘要： 对于任意给定的高效DNN分类器，作者都能为输入图片施加一个扰动，使得分类器以较大概率分类错误，从而实现对于dCNN的攻击。这个“扰动”有两个特点：１.universal，即扰动与输入图片无关，仅与模型本身相关。２.very...
推荐文章：探索通用对抗性扰动 - Universal Adversarial Perturbations
gitblog_00038的博客
05-29 623
推荐文章：探索通用对抗性扰动 - Universal Adversarial Perturbations 去发现同类优质开源项目:https://gitcode.com/ 1、项目介绍 在深度学习和计算机视觉领域，Universal Adversarial Perturbations 是一个值得探究的开源项目，它提供了一种独特的攻击方式——生成适用于所有图像的一般性扰动。这个项目提供了MATLA...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值