算法应用风险与治理研究

doi:10.11959/j.issn.2096-0271.2023028

大数据 ›› 2023, Vol. 9 ›› Issue (3): 140-149.doi: 10.11959/j.issn.2096-0271.2023028

算法应用风险与治理研究

李婧文¹, 李雅文²

¹ 北京交通大学电子信息工程学院，北京 100044
² 中国信息通信研究院政策与经济研究所，北京 100191

出版日期:2023-05-15 发布日期:2023-05-01
作者简介:李婧文（2002- ），女，北京交通大学电子信息工程学院本科生，主要研究方向为计算机技术应用、电信技术与应用。
李雅文（1990- ），女，中国信息通信研究院政策与经济研究所高级工程师，主要研究方向为数字治理、网络法治、数字经贸规则。

Research on algorithm and application risk and its governance

Jingwen LI¹, Yawen LI²

¹ School of Electronic and Information Engineering, Beijing Jiaotong University, Beijing 100044, China
² Institute of Policy and Economics, China Academy of Information and Communications Technology, Beijing 100191, China

Online:2023-05-15 Published:2023-05-01

摘要/Abstract

摘要：

随着信息技术的迅猛发展和深入应用，算法被广泛地运用到交通、医疗、电子商务、信息服务和公共管理等领域。但其自身呈现的数据依赖性、逻辑黑箱性和通用目的性等特征，也引发了算法训练中的数据滥用、公共管理中的算法歧视、信息服务中的算法操纵、市场竞争中的算法合谋等问题。为了应对算法应用带来的问题，各国积极采取措施，加强对算法应用的治理。推进算法的合规利用，有必要进一步强化顶层设计、完善治理格局、丰富治理手段、加强国际协作，不断健全算法治理体系。

关键词: 算法, 人工智能, 风险, 治理

Abstract:

With the rapid development and in-depth application of information technology, algorithms are widely used in transportation, medical care, e-commerce, information services, public management and other fields, but their own data dependence, logical black box and general purpose characteristics also bring about data abuse in algorithm applications, algorithm discrimination in public management, algorithm manipulation in information services, algorithm collusion in market competition.In order to deal with the problems caused by the application of algorithms, countries have actively taken measures to strengthen the governance of algorithm applications.To promote the effective use of algorithms and strengthen algorithm governance, we need to further strengthen top-level design, improve governance pattern, enrich governance means, strengthen international coordination, and constantly improve the algorithm governance system.

Key words: algorithm, artificial intelligence, risk, governance

中图分类号:

TP391

李婧文, 李雅文. 算法应用风险与治理研究[J]. 大数据, 2023, 9(3): 140-149.

Jingwen LI, Yawen LI. Research on algorithm and application risk and its governance[J]. Big Data Research, 2023, 9(3): 140-149.

参考文献 17

[1]	布拉萨德, 布拉特里 . 算法基础[M]. 邱仲潘,柯渝,徐锋,译. 北京:. 清华大学出版社, 2005: 1-4.
	GILLES B , PAUL B . Fundamentals of algorithms[M]. Translated by QIU Z P,KE Y,XU F. Beijing: Tsinghua University Press, 2005: 1-4.
[2]	BURRELL J . How the machine “thinks”:understanding opacity in machine learning algorithms[J]. Big Data ＆ Society, 2016,3(1).
[3]	BATHAEE Y . The artificial intelligence black box and the failure of intent and causation[J]. Harvard Journal of Law and Technology, 2018,31:889.
[4]	BALKIN J . 2016 Sidley Austin distinguished lecture on big data law and policy:the three laws of robotics in the age of big data[J]. Ohio State Law Journal, 2017,1217(78): 1237-1239.
[5]	张凌寒 . 权力之治：人工智能时代的算法规制[M]. 上海: 上海人民出版社, 2021.
	ZHANG L H . Governance of power:algorithm regulation in the age of artificial intelligence[M]. Shanghai: Shanghai People’s Publishing House, 2021.
[6]	王磊 . 个人数据商业化利用法律问题研究[M]. 北京: 中国社会科学出版社, 2020.
	WANG L . Research on legal issues concerning the commercialization and utilization of personal data[M]. Beijing: China Social Sciences Press, 2020.
[7]	DASTIN J . Amazon scraps secret AI recruiting tool that showed bias against women,REUTERS[Z]. 2022.
[8]	JAMES V . Google fined a record €2.4 billion by the EU for manipulating search results,the verge[Z]. 2022.
[9]	YADAV Y . The failure of liability in modern markets[Z]. 2015.
[10]	朱巧玲, 杨剑刚 . 算法陷阱与规制跨越[J]. 经济学家, 2022(1): 104-114.
	ZHU Q L , YANG J G . Algorithm trap and regulatory breakthrough[J]. Economist, 2022(1): 104-114.
[11]	胡坚波 . 多措并举推进我国算法治理[J]. 人民论坛·学术前沿, 2022(10): 18-28.
	HU J B . Take multiple measures to promote algorithmic governance in China[J]. Frontiers, 2022(10): 18-28.
[12]	徐凯, 蒋洁 . 人工智能应用的社会性风险与监管对策[J]. 信息通信技术与政策, 2021,47(5): 15-21.
	XU K , JIANG J . Research on social risks and supervising countermeasures of AI applications[J]. Telecommunications Network Technology, 2021,47(5): 15-21.
[13]	SAURWEIN F , JUST N , LATZER M . Governance of algorithms:options and Limitation[M].[S.l.:s.n.], 2015.
[14]	DOUGLAS H . Deepfakes:false pornography is here and the law cannot protect you[J]. Duck Law and Technology Review, 2019,17(1): 99-127.
[15]	BEVIR M . A theory of governance[M]. Berkeley: Global,Area,and International Archive, 2013.
[16]	丁晓东 . 基于信任的自动化决策:算法解释权的原理反思与制度重构[J]. 中国法学, 2022(1): 99-118.
	DING X D . Automatic decision-making based on trust:principle reflection and system reconstruction of the right to algorithm interpretation[J]. China Legal Science, 2022(1): 99-118.
[17]	衣俊霖 . 数字孪生时代的法律与问责:通过技术标准透视算法黑箱[J]. 东方法学, 2021(4): 77-92.
	YI J L . Law and accountability in the digital twin era—perspective of algorithm black box through technical standards[J]. Oriental Law, 2021(4): 77-92.

算法应用风险与治理研究

Research on algorithm and application risk and its governance

在线阅读

PDF下载

可视化

摘要/Abstract

引用本文

使用本文

参考文献 17

相关文章 15

Metrics

推荐阅读 0

[1]	王皓, 潘昱杉, 潘毅. 生成式人工智能大模型赋能的元宇宙生命体：前瞻和挑战[J]. 大数据, 2023, 9(3): 85-96.
[2]	刘业政, 宗兰芳, 金斗, 袁昆. 数据要素流通使用的安全风险分析及应对策略[J]. 大数据, 2023, 9(2): 79-98.
[3]	梅宏, 杜小勇, 金海, 程学旗, 柴云鹏, 石宣化, 靳小龙, 王亚沙, 刘驰. 大数据技术前瞻[J]. 大数据, 2023, 9(1): 1-20.
[4]	沈阳, 余梦珑. 元宇宙与大数据：时空智能中的数据洞察与价值连接[J]. 大数据, 2023, 9(1): 103-110.
[5]	张燕, 杨一帆, 伊人, 罗圣美, 唐剑飞, 夏正勋. 隐私计算场景下数据质量治理探索与实践[J]. 大数据, 2022, 8(5): 55-73.
[6]	李汶龙, 袁媛, 安筱鹏. 刍议大数据治理的三大基础思维[J]. 大数据, 2022, 8(4): 34-45.
[7]	郑婷一, 庞亮, 靳小龙. 平台经济中的数据与算法安全[J]. 大数据, 2022, 8(4): 56-66.
[8]	夏正勋, 唐剑飞, 罗圣美, 张燕. 可信AI治理框架探索与实践[J]. 大数据, 2022, 8(4): 145-164.
[9]	黄科满, 杜小勇. 数据治理价值链模型与数据基础制度分析[J]. 大数据, 2022, 8(4): 3-16.
[10]	赵泽睿. 围绕数字平台公司风险的治理制度改革分析[J]. 大数据, 2022, 8(4): 17-33.
[11]	赵智韬, 赵理君, 张正, 唐娉. 基于容器云技术的典型遥感智能解译算法集成[J]. 大数据, 2022, 8(2): 58-74.
[12]	辛保江, 李德文, 王兰兰. 企业电力征信大数据价值挖掘与应用[J]. 大数据, 2021, 7(6): 138-146.
[13]	陈佩武, 束方兴. 基于SVD++隐语义模型的信任网络推荐算法[J]. 大数据, 2021, 7(4): 105-116.
[14]	王健宗, 孔令炜, 黄章成, 陈霖捷, 刘懿, 卢春曦, 肖京. 联邦学习隐私保护研究进展[J]. 大数据, 2021, 7(3): 130-149.
[15]	柴唤友, 刘三女牙, 康令云, 张雅娴, 李卿, 刘智. 教育大数据采集机制与关键技术研究[J]. 大数据, 2020, 6(6): 14-25.