深度学习人脸识别系统的对抗攻击算法研究

摘要 目前,基于深度学习的应用越来越广泛,但是深度学习易受到人为细微扰动的对抗攻击.针对精度和安全要求较高的人脸识别深度模型,通过研究其在对抗攻击下的脆弱性,有助于进一步提出相应防御策略来提高模型鲁棒性.本文针对基于深度学习的黑盒人脸识别系统,利用生物面部配件(如眼镜框)约束对抗扰动区域,通过粒子群优化(PSO)策略生成对抗配件,攻击人脸识别模型.本文实现了针对最新人脸识别框架FaceNet的对抗攻击,取得了较好的攻击效果.最后利用对抗训练进行了防御测试,验证了该方法能提高模型鲁棒性