AI安全与自动化攻击

AI安全

1.AI与安全的关系

攻击：

将AI作为工具，来攻破验证码机制、自动化钓鱼攻击、实现漏洞的自动挖掘等。

或者，对AI发起攻击，数据中毒或逃逸攻击干扰模型结果，或是用模型萃取的方法窃取模型或训练集等。

防守：

作为工具，对钓鱼邮件从行为和文本上进行检测、利用图挖掘恶意团伙、对C&C服务器进行检测等。

此外还要对AI本身进行保护，如面对恶意机器流量，如何搭建机器流量防控体系，以及旨在保护模型机密性和数据安全的隐私保护技术等。

2.AI滥用

• 验证码自动识别

• 自动化鱼叉式钓鱼攻击

• 自动化恶意软件样本生成

• 自动化漏洞挖掘

• 通过舆情分析和精准广告投放来影响政治事件

  2.1验证码自动识别

1.输入识别出的字符类验证码

方法1，分割字符：

1.图片预处理,包括二值化,降噪等
2.图片分割
3.提取特征
4.训练分类模型,识别字符

问题：

1.背景噪声难以去除,例如字体上有横线等
2.图片粘在一起,难以切割
3.文字有旋转,扭曲等变形

在样本数量不是很大的情况下,这三种情况都会对准确率造成影响,当然如果样本足够多,这些也不是问题

方法2，不分割：

字符固定：考虑CNN，本质是图片的多标签学习问题。比如考虑一个4个数字组成的验证码，那么相当于每张图就有4个标签。那么我们把原始图片作为输入，4个标签作为输出，扔进CNN里，看看能不能收敛就行了。
https://zhuanlan.zhihu.com/p/21344595
字符不固定：考虑RNN/LSTM/GRU + CTC。只要数据量足够，准确率就能达到很高的水准。方法最早由Alex Graves在06年提出应用于语音识别。这个方法的好处在于可以产生任意长度的文字，并且模型的性质决定了它有能力学到文字与文字之间的联系(temporal relations/dependencies)。不足之处在于sequential natural决定了它的计算效率没有CNN高，并且还有潜在的gradients exploding/vanishing的问题

? https://www.zhihu.com/question/20191727/answer/140372044

2.2点选类验证码

这类验证码的识别可以利用目标检测的方法,先从图像中检测出文字,再对文字分类.
目标检测可以采用的算法有Yolo,SSD
具体实现可以参考链接

2.3拖动滑块到指定位置的验证码

这类验证码一般不需要打码做训练,只需要找到缺口的位置,并模拟运动轨迹就可以了.
这里有说明
以及代码

OCR资源集合

github awesome-ocr
专知 文字识别

reference

https://www.jianshu.com/p/1ef06b8401c7

https://www.zuozuovera.com/archives/1678/

AI安全与自动化攻击

原文：https://www.cnblogs.com/Blunt-Raz0r/p/14584193.html