网络与信息安全学报 ›› 2021, Vol. 7 ›› Issue (3): 46-58.doi: 10.11959/j.issn.2096-109x.2021053

• 专栏Ⅰ:神经网络技术应用 • 上一篇    

神经网络后门攻击研究

谭清尹1, 曾颖明2, 韩叶1, 刘一静1, 刘哲理1   

  1. 1 南开大学网络空间安全学院,天津 300350
    2 北京计算机技术及应用研究所,北京 100081
  • 修回日期:2020-07-02 出版日期:2021-06-01 发布日期:2021-06-01
  • 作者简介:谭清尹(1998- ),男,重庆人,南开大学硕士生,主要研究方向为数据隐私保护、移动安全及人工智能安全
    曾颖明(1985- ),男,江西丰城人,北京计算机技术及应用研究所高级工程师,主要研究方向为网络安全防护、网络攻防对抗、人工智能算法安全
    韩叶(1998- ),女,河南平顶山人,南开大学硕士生,主要研究方向为数据隐私保护、密文数据库
    刘一静(1998- ),女,天津人,南开大学硕士生,主要研究方向为数据隐私保护、密文数据库
    刘哲理(1978- ),男,山东潍坊人,南开大学副教授、博士生导师,主要研究方向为基于密码学的数据隐私保护、密文数据库、密文集合运算、差分隐私
  • 基金资助:
    国家自然科学基金(61672300);天津市人工智能重点专项(18ZXZNGX00140)

Survey on backdoor attacks targeted on neural network

Qingyin TAN1, Yingming ZENG2, Ye HAN1, Yijing LIU1, Zheli LIU1   

  1. 1 College of Cyber Science, Nankai University,Tianjin 300350,China
    2 Beijing Computer Technology and Application Research Institute, Beijing 100081, China
  • Revised:2020-07-02 Online:2021-06-01 Published:2021-06-01
  • Supported by:
    The National Natural Science Foundation of China(61672300);The Artificial Intelligence Key Special Project of Tianjin(18ZXZNGX00140)

摘要:

针对现有的神经网络后门攻击研究工作,首先介绍了神经网络后门攻击的相关概念;其次,从研究发展历程、典型工作总结、分类情况3个方面对神经网络后门攻击研究现状进行了说明;然后,对典型的后门植入策略进行了详细介绍;最后,对研究现状进行了总结并对未来的研究趋势进行了展望。

关键词: 人工智能安全, 深度学习, 神经网络, 神经网络后门

Abstract:

According to existing neural network backdoor attack research works, the concept of neural network backdoor attack is first introduced.Secondly, the research status of neural network backdoor attack is explained from three aspects: research development, summary of typical work and classification.Then, some typical backdoor attack strategies are analyzed in detail.Finally, the research status is summarized and the future research directions are discussed.

Key words: artificial intelligence security, deep learning, neural networks, neural network backdoor

中图分类号: 

No Suggested Reading articles found!