云计算架构下的GPU虚拟化相关技术研究

doi:10.11959/j.issn.1000-0801.2023074

电信科学 ›› 2023, Vol. 39 ›› Issue (Z1): 21-28.doi: 10.11959/j.issn.1000-0801.2023074

云计算架构下的GPU虚拟化相关技术研究

张驰, 沈阳, 朱谌轶

中国电信股份有限公司上海分公司数集部，上海 201315

修回日期:2023-04-15 出版日期:2023-05-30 发布日期:2023-05-01
作者简介:张驰（1990- ），男，中国电信股份有限公司上海分公司数集部工程师、架构师，主要从事大视频和人工智能相关技术研发工作
沈阳（1995- ），男，中国电信股份有限公司上海分公司数集部软件开发工程师，主要从事大视频和人工智能相关技术研发工作
朱谌轶（1995- ），男，中国电信股份有限公司上海分公司数集部研发经理，主要从事大视频和人工智能相关技术研发工作

Revised:2023-04-15 Online:2023-05-30 Published:2023-05-01

摘要/Abstract

摘要：

随着AI技术的发展，图形处理单元（graphics processing unit，GPU）算力已成为承载AI应用的主要算力。而目前传统云计算架构下，GPU算力在应用过程存在算力资源分配不灵活、资源分配颗粒度粗、资源独占闲置利用率低等问题。结合GPU虚拟化技术与平台虚拟化架构，在保证性能的前提下甚至使GPU具备远程调用能力，可以有效提升GPU资源利用率，实现资源按需切分，对未来算力可以普惠便捷使用的宏伟愿景具有重要意义。

中图分类号:

TP399

张驰, 沈阳, 朱谌轶. 云计算架构下的GPU虚拟化相关技术研究[J]. 电信科学, 2023, 39(Z1): 21-28.

图/表 10

图1

图2

图3

图4

图5

图6

图7

表1

表2

表3

Batch_size	32	64
卡1：25%算力配比	23.60	19.08
卡1：75%算力配比	77.67	76.63
卡2：50%算力配比	49.14	48.84
卡2：50%算力配比	52.96	47.21

Batch_size	32	64
直接使用物理GPU	87.01	92.29
API重定向本地调用100%算力	86.62	92.09
API重定向远程调用100%算力	72.12	83.48

对比项	直通	中介传递
每秒推理图片张数	309.21	302.268

[1]	张舒, 褚艳利 . GPU高性能运算之CUDA[M]. 北京: 中国水利水电出版社, 2009.
[2]	罗军舟, 金嘉晖, 宋爱波 ,等. 云计算:体系架构与关键技术[J]. 通信学报, 2011,32(7): 3-21.
[3]	余时强, 张为华 . GPU 虚拟化相关技术研究综述[J]. 计算机系统应用, 2017,26(12): 25-31.

[1]	韩雪. 基于电力大数据的电力骨干通信网络毁伤韧性评估方法[J]. 电信科学, 2023, 39(5): 136-143.
[2]	陈胜男, 张连营, 黄嘉骏. 云计算平台商用密码合规性应用[J]. 电信科学, 2022, 38(Z2): 85-89.
[3]	谭成. 云环境高并发业务下加密认证方式的研究实现[J]. 电信科学, 2022, 38(Z2): 63-68.
[4]	廖文昭, 张慷, 魏中国, 桑洁丽, 王晓文, 丛宁韫. 基于云网融合架构的多云聚合平台研发[J]. 电信科学, 2022, 38(Z2): 9-16.
[5]	张连营, 蒯騄, 黄嘉骏, 纪卉. 集约化电子政务云技术方案研究[J]. 电信科学, 2022, 38(Z2): 331-338.
[6]	邬江兴. 论网络技术体制发展范式的变革——网络之网络[J]. 电信科学, 2022, 38(6): 3-12.
[7]	邢文娟, 雷波, 赵倩颖. 算力基础设施发展现状与趋势展望[J]. 电信科学, 2022, 38(6): 51-61.
[8]	邓平科, 张同须, 施南翔, 张童, 邵天竺, 郑韶雯. 星算网络——空天地一体化算力融合网络新发展[J]. 电信科学, 2022, 38(6): 71-81.
[9]	马焜, 徐玲玉, 沈晓萍, 龚志城, 蓝建平, 陈双喜, 钱钧. 云计算中基于Shapley值改进遗传算法的虚拟机调度模型[J]. 电信科学, 2022, 38(12): 1-10.
[10]	刘志勇, 何忠江, 阮宜龙, 单俊峰, 张超. 大数据安全特征与运营实践[J]. 电信科学, 2021, 37(5): 160-169.
[11]	许剑,靳莉. 一种可量化的云计算平台安全评估模型[J]. 电信科学, 2020, 36(7): 163-167.
[12]	罗斯宁,王化龙,李弘宇,彭蔚. 基于改进蚁群算法的云计算用户任务调度算法[J]. 电信科学, 2020, 36(2): 95-100.
[13]	雷波, 刘增义, 王旭亮, 杨明川, 陈运清. 基于云、网、边融合的边缘计算新方案：算力网络[J]. 电信科学, 2019, 35(9): 44-51.
[14]	鲁泽霖,李强治. 电子商务平台的演化逻辑和运营机理[J]. 电信科学, 2019, 35(7): 152-158.
[15]	高永梅,程冠杰. 基于边缘计算的数据密集型服务部署[J]. 电信科学, 2019, 35(7): 87-99.

云计算架构下的GPU虚拟化相关技术研究

在线阅读

PDF下载

可视化

摘要/Abstract

引用本文

使用本文

图/表 10

参考文献 3

相关文章 15

Metrics

推荐阅读 0