面向算力网络的跨域数据管理方法

doi:10.11959/j.issn.2096-0271.2023068

大数据 ›› 2024, Vol. 10 ›› Issue (2): 94-108.doi: 10.11959/j.issn.2096-0271.2023068

• 研究 • 上一篇

面向算力网络的跨域数据管理方法

鲁蔚征¹, 戴奇志², 张策³

¹ 中国人民大学大型科学仪器共享平台，北京 100083
² 联旌智能科技（上海）有限公司，上海 200051
³ 华中科技大学网络与计算中心，湖北武汉 430074

出版日期:2024-03-01 发布日期:2024-03-01
作者简介:鲁蔚征（1990- ），男，中国人民大学大型科学仪器共享平台实验师，主要研究方向为高性能计算、数据科学。
戴奇志（1984- ），男，联旌智能科技（上海）有限公司首席技术官，主要研究方向为高性能计算、云计算。
张策（1992- ），男，华中科技大学网络与计算中心工程师，主要研究方向为高性能计算、数据中心信息化。
基金资助:
国家重点研发计划资助项目(2020YFB1710004）)

Cross-domain data management for computing power networks

Weizheng LU¹, Qizhi DAI², Ce ZHANG³

¹ Office of Research Infrastructure, Renmin University of China, Beijing 100872, China
² Lianjingzhineng Technology (Shanghai) Co., Ltd., Shanghai 200051, China
³ Network and Computing Center, Huazhong University of Science ＆Technology, Wuhan 430074, China

Online:2024-03-01 Published:2024-03-01
Supported by:
The National Key Researchand Development Program of China(2020YFB1710004）)

摘要/Abstract

摘要：

跨域算力网络希望整合多个算力中心的计算和数据资源，但现有的方案对跨域文件和数据管理关注不够。提出了一种轻量级的跨域算力网络数据管理方案：通过文件系统协议转换，接入远程算力中心的并行文件系统存储资源；算力中心内部的存储资源作为一种补充，应对高IOPS应用；通过容器绑定技术，将远程存储挂载并绑定到指定目录。基于该方案的原型系统已经在高校校级计算平台部署运行。实测数据和用户体验显示，该方案能够满足常见高性能计算应用需求。

关键词: 算力网络, 并行文件系统, 数据管理, 异构存储资源

Abstract:

Cross-domain computing power networks wish to integrate computational and data resources from multiple computing centers, but existing methods do not pay enough attention to cross-domain file and data management.In this paper, a lightweight data access scheme for cross-domain computing power networks was proposed: (1) accessing parallel file system storage resources of remote computing centers through file system protocol conversion; (2) local caching as a supplement to cope with high IOPS applications; and (3) mounting remote or local storage to specified directories through container binding technology.The prototype system based on this scheme had been deployed on highperformance computing centers in multiple universities.The measured data and user experience showed that the scheme in this paper could meet the requirements of common high-performance computing applications.

Key words: computing power network, parallel file system, data management, heterogeneous storage resource

中图分类号:

TP316

鲁蔚征, 戴奇志, 张策. 面向算力网络的跨域数据管理方法[J]. 大数据, 2024, 10(2): 94-108.

Weizheng LU, Qizhi DAI, Ce ZHANG. Cross-domain data management for computing power networks[J]. Big Data Research, 2024, 10(2): 94-108.

图/表 10

图1

图2

图3

图4

表1

图5

图6

表2

图7

图8

参考文献 22

[1]	FOSTER I T , KESSELMAN C . The grid:blueprint for a new computing infrastructure[M]. San Francisco: Morgan Kaufman Publishers, 1998.
[2]	XU Z W , CHI X B , XIAO N . Highperformance computing environment:a review of twenty years of experiments in China[J]. National Science Review, 2016,3(1): 36-48.
[3]	钱德沛, 栾钟治, 刘轶 . 从网格到“东数西算”：构建国家算力基础设施[J]. 北京航空航天大学学报, 2022,48(9): 1561-1574.
	QIAN D P , LUAN Z Z , LIU Y . From grid to “East-west Computing Transfer”:constructing national computing infrastructure[J]. Journal of Beijing University of Aeronautics and Astronautics, 2022,48(9): 1561-1574.
[4]	秦广军, 肖利民, 张广艳 ,等. 面向国家高性能计算环境的虚拟数据空间系统[J]. 大数据, 2021,7(2): 101-122.
	QIN G J , XIAO L M , ZHANG G Y ,et al. Virtual data space system for national high-performance computing environment[J]. Big Data Research, 2021,7(2): 101-122.
[5]	何小雨, 邓笋根, 栾海晶 ,等. 国家高性能计算环境的虚拟数据空间运行支撑技术研究[J]. 大数据, 2021,7(2): 158-171.
	HE X Y , DENG S G , LUAN H J ,et al. Study of technique support on the operation of virtual data space in national highperformance computing environment[J]. Big Data Research, 2021,7(2): 158-171.
[6]	肖利民, 宋尧, 秦广军 ,等. GVDS：面向广域高性能计算环境的虚拟数据空间[J]. 大数据, 2021,7(2): 123-146.
	XIAO L M , SONG Y , QING J ,et al. GVDS:a global virtual data space for wide-area high-performance computing environments[J]. Big Data Research, 2021,7(2): 123-146.
[7]	YOO A B , JETTE M A , GRONDONA M . SLURM:simple linux utility for resource management[C]// Proceedings of Job Scheduling Strategies for Parallel Processing. Seattle:Springer, 2003: 44-60.
[8]	YIN F , SHI F . A comparative survey of big data computing and hpc:from a parallel programming model to a cluster architecture[J]. International Journal of Parallel Programming, 2022,50(1): 27-64.
[9]	BURROWS M . Lustre:building a file system for 1000-node clusters[C]// Proceedings of the 2003 Linux Symposium.[S.l.:s.n.], 2003: 380-386.
[10]	SCHMUCK F B , HASKIN R L . GPFS:a shared-disk file system for largecomputing clusters[C]// The FAST 2002 Conferenceon File and Storage Technologies. Monterey:USENIX, 2002: 231-244.
[11]	CATLETT C , ALLCOCK W E , ANDREWS P ,et al. TeraGrid:analysis of organization,system architecture,and middleware enabling new types of applications[C]// Proceedings of the 2006 International Advanced Research Workshop on High Performance Computing and Grids. Amsterdam:IOS Press, 2006: 225-249.
[12]	TOWN J , BOISSEAU J , ROSKIES J ,et al. XSEDE:extreme science and engineering discovery environment (OAC 15-48562)[R]. 2020.
[13]	NEWHOUSE S . Seeking new horizons:EGI’s role in 2020 (EGI-1098-D230-V3)[R]. 2021.
[14]	HENSCHEL R , SIMMS S , HANCOCK D ,et al. Demonstrating lustre over a 100Gbps wide area network of 3500km[C]// Proceedings ofthe International Conference on High Performance Computing,Networking,Storage and Analysis. Piscataway:IEEE Press, 2012: 1-8.
[15]	THOMSON A , ABADI D J . CalvinFS:consistent WAN replication and scalable metadata management for distributed file systems[C]// Proceedings of the 13th USENIX Conference on File and Storage Technologies. Berkeley:USENIX, 2015: 1-14.
[16]	CORBETT J C , DEAN J , EPSTEIN M ,et al. Spanner:Google’s globally-distributed database[J]. ACM Transactions on Computer Systems, 2013,31(3): 8.
[17]	CAO W , LIU Z J , WANG P ,et al. PolarFS:an ultra-low latency and failure resilient distributed file system for shared storage cloud database[J]. Proceedings of the VLDB Endowment, 2018,11(12): 1849-1862.
[18]	A network filesystem client to connect to SSH servers[Z]. 2023.
[19]	DUTKA U , SOTA R , WRZESZCZ M ,et al. Uniform and efficient access to data in organizationally distributed environments[C]// Proceeding of eScience on Distributed Computing Infrastructure. Cham:Springer, 2014: 178-194.
[20]	DONENFELD J A . Wireguard:next generation kernel network tunnel[C]// Proceeding of 24th Annual Network and Distributed System Security Symposium. San Diego:The Internet Society, 2017: 1-12.
[21]	DONGARRA J , LUSZCZEK P , PETITET A . The LINPACK benchmark:past,present,and future[J]. Concurrency and Computation:Practice and Experience, 2003,15(9): 803-820.
[22]	Fio - flexible I/O tester rev.3.25[Z]. 2020.

方案	EaaS	CNGrid	分散管理
跨域文件操作	cp、mv、vim等文件操作命令	sceput2、sceget2等专用命令	scp、rsync等传输命令
数据管理	文件只需创建一次，并在多算力中心共享	文件需上传到多算力中心	文件需上传到多算力中心
软件管理	常用软件数据安装一次，多算力中心共享	每个算力中心安装自己的软件	每个算力中心安装自己的软件
算力调度	统一的调度软件	统一的调度软件	每个算力中心使用自己的调度软件

对比项	HPL/（GFLOPS）	随机读IOPS	顺序读带宽/（Gbit/s）	顺序写带/（Gbit/s）
裸金属物理机	4 980	184.5	14.53	9.43
容器	4 910	183	14.16	9.53
百分比	98.6%	99.2%	97.5%	101.1%

面向算力网络的跨域数据管理方法

Cross-domain data management for computing power networks

在线阅读

PDF下载

可视化

摘要/Abstract

引用本文

使用本文

图/表 10

参考文献 22

相关文章 15

Metrics

推荐阅读 0

[1]	刘业政, 黄丽华, 朱扬勇, 孙见山, 宋靖达. 长三角国家算力枢纽节点赋能制造业数字化转型的机理与路径[J]. 大数据, 2023, 9(5): 61-77.
[2]	李伟明, 李彤, 张大方, 戴隆超, 柴云鹏. 跨空间域数据管理分布式共识算法：现状、挑战和展望[J]. 大数据, 2023, 9(4): 3-15.
[3]	张纪林, 顾小卫, 张亦钊, 郑小林, 陈超超. 跨域数据授权运营研究及应用[J]. 大数据, 2023, 9(4): 83-97.
[4]	梅宏, 杜小勇, 金海, 程学旗, 柴云鹏, 石宣化, 靳小龙, 王亚沙, 刘驰. 大数据技术前瞻[J]. 大数据, 2023, 9(1): 1-20.
[5]	王子航, 禹向群, 斯洪标, 傅思敏, 张旭龙, 彭绍亮. 基于算力网络的元宇宙分层处理模型设计[J]. 大数据, 2023, 9(1): 51-62.
[6]	朱锐, 王宏志, 崔双双, 张恺欣, 燕钰. 面向元宇宙的云边端协同大数据管理[J]. 大数据, 2023, 9(1): 63-77.
[7]	智峰, 田锋, 赵若凡. 计量科学大数据分级分类[J]. 大数据, 2022, 8(1): 60-72.
[8]	许琦, 邹自明, 袁雅琴, 胡晓彦, 佟继周, 马文臻. 科技计划项目数据管理过程模型[J]. 大数据, 2022, 8(1): 15-23.
[9]	胡皓, 齐法制, 孙晓康, 罗齐. 高能同步辐射光源科学数据管理策略研究与应用[J]. 大数据, 2022, 8(1): 5-14.
[10]	肖利民, 宋尧, 秦广军, 周汉杰, 王超波, 韦冰, 魏巍, 霍志胜. GVDS：面向广域高性能计算环境的虚拟数据空间[J]. 大数据, 2021, 7(2): 123-146.
[11]	代红, 张群, 芦皓麟, 宾军志. 银行业金融机构数据治理指引和DCMM的对比分析[J]. 大数据, 2020, 6(5): 118-128.
[12]	于明鹤, 聂铁铮, 李国良. 数据管护技术及应用[J]. 大数据, 2019, 5(6): 30-46.
[13]	代红, 张群, 尹卓. 大数据治理标准体系研究[J]. 大数据, 2019, 5(3): 47-54.
[14]	杜小勇, 陈跃国, 范举, 卢卫. 数据整理——大数据治理的关键技术[J]. 大数据, 2019, 5(3): 13-22.
[15]	张平文, 鄂维南, 袁晓如, 傅毅明. 大数据分析与应用技术创新平台[J]. 大数据, 2018, 4(4): 86-93.