原论文：EXPLAINING AND HARNESSING ADVERSARIAL EXAMPLES
一般本人的习惯是先看论文熟悉它，然后代码去实现它，这样感觉要好点。因为论文讲解的比较全面和一些实验对比还有很多的引用等，另外大家知道好论文基本都是英文，所以对于英文弱点的伙伴们可能需要多花点时间去研读了。论文有论文的好处：全面，博客也有博客的好处：重点展示，以及代码的实现。
1、快速梯度符号攻击
攻防是一个永恒的主题，同样也适应在机器学习模型中，这也是一门热门话题：对抗性机器学习。
通过论文的阅读，我这里表达下自己对论文的理解(如有错误请指正)：FGSM是一种简单高效的对抗样本生成方法，通过计算loss对于输入的梯度为∇xJ(θ,x,y)，然后将其符号化，使用这个函数sign()，最后将符号化的梯度乘以一个小的扰动值ϵ，这个扰动值ϵ是一个超参数，从而生成肉眼难以察觉的对抗样本，让机器模型学习产生错误的分类结果。
我们先来看下一张“经典熊猫”图：
输入是一张“熊猫”，加了一些扰动之后，我们发现目标网络错误地将它归类为“长臂猿”了，而且这个置信度是99.3%，哈哈，这算不算迷之自信。所以说我们在设计和训练机器学习模型的时候，经常会忽视的方面是安全性和鲁棒性，特别是在面对希望欺骗模型的对手时，也就是说攻击模型，让这个模型的输出造成错误，比如分类错误。就是在我们的图像中添加不可察觉的扰动都会导致截然不同的模型性能。
本章将通过一个图像分类器的例子来探讨这个主题。具体来说，我们将使用一个最早最流行的攻击方法之一：快速梯度符号攻击(Fast Gradient Sign Attack)方法来欺骗MNIST分类器。
我们知道对于攻击分两种，白盒攻击和黑盒攻击，这里介绍的FGSM属于白盒攻击，而黑盒攻击的意思就是不清楚模型的架构和权重，只有输入和输出，也就是说模型对于攻击者来说是个黑盒子，不清楚里面的任何情况。
本人深度学习的第一个真正实例也是这个手写识别数字数据集MNIST，对于初次接触的可以先熟悉下这个数据集，很经典的例子，下面是一些MNIST相关文章，有兴趣的可以看看：
MNIST数据集手写数字识别（一）
MNIST数据集手写数字识别（二）
深度的卷积神经网络CNN（MNIST数据集示例）
