智能科学与技术学报 ›› 2022, Vol. 4 ›› Issue (1): 29-44.doi: 10.11959/j.issn.2096-6652.202218

• 专题:群体智能 • 上一篇    下一篇

群体智能中的联邦学习算法综述

杨强1,2, 童咏昕3, 王晏晟3, 范力欣1, 王薇3, 陈雷2, 王魏4, 康焱1   

  1. 1 深圳前海微众银行股份有限公司,广东 深圳 518063
    2 香港科技大学,香港 999077
    3 北京航空航天大学,北京 100191
    4 南京大学,江苏 南京 210033
  • 修回日期:2022-03-04 出版日期:2022-03-15 发布日期:2022-03-01
  • 作者简介:杨强(1961− ),男,博士,深圳前海微众银行股份有限公司首席人工智能官,香港科技大学教授,主要研究方向为联邦学习、迁移学习、群体智能等
    童咏昕(1982− ),男,博士,北京航空航天大学教授,主要研究方向为联邦学习、群体智能、数据库与数据挖掘
    王晏晟(1994− ),男,北京航空航天大学博士生,主要研究方向为联邦学习
    范力欣(1971− ),男,博士,深圳前海微众银行股份有限公司人工智能首席科学家,主要研究方向为机器学习、联邦学习、计算机视觉
    王薇(1983− ),女,博士,北京航空航天大学教授,主要研究方向为群智系统协同控制与优化、攻击检测与安全控制
    陈雷(1972− ),男,博士,香港科技大学教授,主要研究方向为时空大数据、空间众包、不确定数据、数据驱动的机器学习
    王魏(1983− ),男,博士,南京大学副教授,主要研究方向为机器学习、弱监督学习、计算学习理论
    康焱(1984− ),男,博士,深圳前海微众银行股份有限公司人工智能算法研究员,主要研究方向为隐私保护机器学习、联邦迁移学习
  • 基金资助:
    国家重点研发计划基金资助项目(2018AAA0101100);国家自然科学基金资助项目(U21A20516);国家自然科学基金资助项目(61822201);国家自然科学基金资助项目(U1811463);国家自然科学基金资助项目(62076017);微众学者计划

A survey on federated learning in crowd intelligence

Qiang YANG1,2, Yongxin TONG3, Yansheng WANG3, Lixin FAN1, Wei WANG3, Lei CHEN2, Wei WANG4, Yan KANG1   

  1. 1 Qianhai WeBank Co., Ltd., Shenzhen 518063, China
    2 The Hong Kong University of Science and Technology, Hong Kong 999077, China
    3 Beihang University, Beijing 100191, China
    4 Nanjing University, Nanjing 210033, China
  • Revised:2022-03-04 Online:2022-03-15 Published:2022-03-01
  • Supported by:
    The National Key Research and Development Program of China(2018AAA0101100);The National Natural Science Foundation of China(U21A20516);The National Natural Science Foundation of China(61822201);The National Natural Science Foundation of China(U1811463);The National Natural Science Foundation of China(62076017);WeBank Scholars Program

摘要:

群体智能是在互联网高速普及下诞生的人工智能新范式。然而,数据孤岛与数据隐私保护问题导致群体间数据共享困难,群体智能应用难以构建。联邦学习是一类新兴的打破数据孤岛、联合构建群智模型的重要方法。首先,介绍了联邦学习的基础概念以及其与群体智能的关系;其次,基于群体智能视角对联邦学习算法框架进行了分类,从隐私、精度与效率3个角度讨论了联邦学习算法优化技术;而后,阐述了基于线性模型、树模型与神经网络模型的联邦学习算法模型;最后,介绍了联邦学习代表性开源平台与典型应用,并对联邦学习研究进行总结展望。

关键词: 群体智能, 联邦学习, 隐私保护

Abstract:

Crowd intelligence is emerging as a new artificial intelligence paradigm owing to the rapid development of the Internet.However, the data isolation and data privacy preservation problems make it difficult to share data among the crowd and to build crowd intelligent applications.Federated learning is a novel solution that aims to collaboratively build models by breaking the data barriers in crowd.Firstly, the basic ideas of federated learning and a comparison with crowd intelligence were introduced.Secondly, federated learning algorithms were divided into three categories according to the crowd organization, and further optimization techniques on privacy, accuracy and efficiency were discussed.Thirdly, federated learning operators based on linear models, tree models and neural network models were presented respectively.Finally, mainstream federated learningopensource platforms and typical applications were introduced, followed by the conclusion.

Key words: crowd intelligence, federated learning, privacy preservation

中图分类号: 

No Suggested Reading articles found!