知识增强的语义通信接收端设计

doi:10.11959/j.issn.1000-436x.2023106

通信学报 ›› 2023, Vol. 44 ›› Issue (6): 70-76.doi: 10.11959/j.issn.1000-436x.2023106

知识增强的语义通信接收端设计

李荣鹏¹, 汪丙炎¹, 张宏纲¹^,², 赵志峰¹^,²

¹ 浙江大学信息与电子工程学院，浙江杭州 310027
² 之江实验室，浙江杭州 311121

修回日期:2023-05-04 出版日期:2023-06-25 发布日期:2023-06-01
作者简介:李荣鹏（1989- ），男，河北衡水人，博士，浙江大学副教授，主要研究方向为智能通信网络、网络智能、网络切片
汪丙炎（1999- ），男，广东深圳人，浙江大学硕士生，主要研究方向为语义通信、深度学习
张宏纲（1967- ），男，甘肃兰州人，博士，浙江大学教授，主要研究方向为认知无线电、绿色通信和下一代异构蜂窝网络架构
赵志峰（1975- ），男，河南洛阳人，博士，之江实验室总工程师，主要研究方向为认知无线电、无线mesh网络和SDN在无线通信中的应用
基金资助:
国家自然科学基金资助项目(62071425);浙江省“领雁”基金资助项目(2022C01093);华为公司合作基金资助项目;浙江省杰出青年基金资助项目(LR23F010005)

Design of knowledge enhanced semantic communication receiver

Rongpeng LI¹, Bingyan WANG¹, Honggang ZHANG¹^,², Zhifeng ZHAO¹^,²

¹ College of Information Science and Electronic Engineering, Zhejiang University, Hangzhou 310027, China
² Zhejiang Lab, Hangzhou 311121, China

Revised:2023-05-04 Online:2023-06-25 Published:2023-06-01
Supported by:
The National Natural Science Foundation of China(62071425);“Leading Goose” Research and Development Program of Zhejiang Province(2022C01093);Huawei Cooperation Project;Zhejiang Provincial Distinguished Young Scholars Foundation(LR23F010005)

摘要/Abstract

摘要：

针对现有的语义通信系统对先验知识利用不够充分、接收端解码能力有限的问题，提出了一个知识增强的语义通信框架。在这个框架中，接收端可以利用知识库中的先验知识进行语义推理和解码，同时不需要对发送端的神经网络结构进行额外的修改。具体而言，在语义接收端的基础上，设计了一个基于 Transformer 的知识提取器来为接收到的含噪信号寻找语义相关的知识三元组，以用于语义解码。在WebNLG数据集上的仿真结果表明，所提框架在知识图谱增强解码的基础上产生了明显的性能提升。

关键词: 语义通信, 知识图谱, 深度学习, 知识提取, 语义解码

Abstract:

To address the problem that existing semantic communication do not make sufficient use of prior knowledge and have limited decoding capability at the receiver side, a knowledge enhanced semantic communication framework was proposed, in which the receiver could more actively utilize the prior knowledge in the knowledge base for semantic reasoning and decoding, without extra modifications to the neural network structure of the transmitter.Specifically, a transformer-based knowledge extractor was designed to find relevant factual triples for the received noisy signal.Extensive simulation results on the WebNLG dataset demonstrate that the proposed framework has significantly improved performance on the basis of knowledge graph enhanced decoding.

Key words: semantic communication, knowledge graph, deep learning, knowledge extraction, semantic decoding

中图分类号:

TN92

李荣鹏, 汪丙炎, 张宏纲, 赵志峰. 知识增强的语义通信接收端设计[J]. 通信学报, 2023, 44(6): 70-76.

Rongpeng LI, Bingyan WANG, Honggang ZHANG, Zhifeng ZHAO. Design of knowledge enhanced semantic communication receiver[J]. Journal on Communications, 2023, 44(6): 70-76.

图/表 9

表1

本文使用的主要参数及其含义"

参数	含义
$S_{β} (\cdot)$ 和 $S_{γ}^{- 1} (\cdot)$	语义编码器和解码器
$C_{α} (\cdot)$ 和 $C_{δ}^{- 1} (\cdot)$	信道编码器和解码器
$K_{θ} (\cdot)$	知识提取器
$s$ 和 $\hat{s}$	发送和接收到的句子
$h$	语义编码向量
$\hat{h}$	接收端信道解码向量
$x$	发送的信号
$y$	接收的信号
$k$	知识向量
$t$	知识库索引向量
n_t	知识库中三元组的数量
N	句子长度
w	知识提取过程的权重参数
$f_{k} (\cdot)$	知识嵌入过程

表1

图1

图2

表2

图3

图4

图5

表3

图6

参考文献 15

[1]	XIE H Q , QIN Z J , LI G Y ,et al. Deep learning enabled semantic communication systems[J]. IEEE Transactions on Signal Processing, 2021,69: 2663-2675.
[2]	ZHOU Q Y , LI R P , ZHAO Z F ,et al. Semantic communication with adaptive universal transformer[J]. IEEE Wireless Communications Letters, 2022,11(3): 453-457.
[3]	JIANG P W , WEN C K , JIN S ,et al. Deep source-channel coding for sentence semantic transmission with HARQ[J]. IEEE Transactions on Communications, 2022,70(8): 5225-5240.
[4]	ZHOU Q Y , LI R P , ZHAO Z F ,et al. Adaptive bit rate control in semantic communication with incremental knowledge-based HARQ[J]. IEEE Open Journal of the Communications Society, 2022,3: 1076-1089.
[5]	HU Q Y , ZHANG G Y , QIN Z J ,et al. Robust semantic communications against semantic noise[C]// Proceedings of 2022 IEEE 96th Vehicular Technology Conference (VTC2022-Fall). Piscataway:IEEE Press, 2023: 1-6.
[6]	WENG Z Z , QIN Z J . Semantic communication systems for speech transmission[J]. IEEE Journal on Selected Areas in Communications, 2021,39(8): 2434-2444.
[7]	JIANG P W , WEN C K , JIN S ,et al. Wireless semantic communications for video conferencing[J]. IEEE Journal on Selected Areas in Communications, 2023,41(1): 230-244.
[8]	JI S X , PAN S R , CAMBRIA E ,et al. A survey on knowledge graphs:representation,acquisition,and applications[J]. IEEE Transactions on Neural Networks and Learning Systems, 2022,33(2): 494-514.
[9]	WANG Y N , CHEN M Z , SAAD W ,et al. Performance optimization for semantic communications:an attention-based learning approach[C]// Proceedings of 2021 IEEE Global Communications Conference (GLOBECOM). Piscataway:IEEE Press, 2022: 1-6.
[10]	ZHOU F H , LI Y H , ZHANG X Y ,et al. Cognitive semantic communication systems driven by knowledge graph[C]// Proceedings of 2022 IEEE International Conference on Communications. Piscataway:IEEE Press, 2022: 4860-4865.
[11]	LIANG J M , XIAO Y , LI Y Y ,et al. Life-long learning for reasoning-based semantic communication[C]// Proceedings of 2022 IEEE International Conference on Communications Workshops (ICC Workshops). Piscataway:IEEE Press, 2022: 271-276.
[12]	JIANG S T , LIU Y L , ZHANG Y C ,et al. Reliable semantic communication system enabled by knowledge graph[J]. Entropy, 2022,24(6): 846.
[13]	VASWANI A , SHAZEER N , PARMAR N ,et al. Attention is all you need[C]// Proceedings of the 31st International Conference on Neural Information Processing Systems. New York:ACM Press, 2017: 6000-6010.
[14]	GARDENT C , SHIMORINA A , et al . Creating training corpora for NLG micro-planning[C]// Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics. Morristown:Association for Computational Linguistics, 2017: 1-9.
[15]	PAPINENI K , ROUKOS S , WARD T ,et al. BLEU:a method for automatic evaluation of machine translation[C]// Proceedings of the 40th Annual Meeting on Association for Computational Linguistics. Morristown:Association for Computational Linguistics, 2001: 311-318.

参数	值
训练集数量/个	24 467
测试集数量/个	2 734
权重参数w	0.02
优化器	Adam
Batch大小	32
模型维度	128
学习率	10^-4

信噪比/dB	单一模型	特定信噪比模型
-4	0.651 4	0.671 8
-2	0.793 6	0.812 6
0	0.866 1	0.866 1
2	0.902 5	0.913 4
4	0.916 4	0.920 1

知识增强的语义通信接收端设计

Design of knowledge enhanced semantic communication receiver

在线阅读

PDF下载

可视化

摘要/Abstract

引用本文

使用本文

图/表 9

参考文献 15

相关文章 15

Metrics

推荐阅读 0

[1]	陈东昱, 陈华, 范丽敏, 付一方, 王舰. 基于深度学习的随机性检验策略研究[J]. 通信学报, 2023, 44(6): 23-33.
[2]	马帅, 裴科, 祁华艳, 李航, 曹雯, 王洪梅, 熊海良, 李世银. 基于生成模型的地磁室内高精度定位算法研究[J]. 通信学报, 2023, 44(6): 211-222.
[3]	张平, 牛凯, 姚圣时, 戴金晟. 面向未来的语义通信：基本原理与实现方法[J]. 通信学报, 2023, 44(5): 1-14.
[4]	石光明, 杨旻曦, 高大化, 柴靖轩. 面向语义信息直传的通信架构[J]. 通信学报, 2023, 44(5): 15-27.
[5]	秦志金, 赵菼菼, 李凡, 陶晓明. 多模态语义通信研究综述[J]. 通信学报, 2023, 44(5): 28-41.
[6]	张平, 戴金晟, 张育铭, 王思贤, 秦晓琦, 牛凯. 面向语义通信的非线性变换编码[J]. 通信学报, 2023, 44(4): 1-14.
[7]	江沸菠, 彭于波, 董莉. 面向6G的深度图像语义通信模型[J]. 通信学报, 2023, 44(3): 198-208.
[8]	徐泽汐, 庄雷, 张坤丽, 桂明宇. 基于知识图谱的服务功能链在线部署算法[J]. 通信学报, 2022, 43(8): 41-51.
[9]	杨洁, 董标, 付雪, 王禹, 桂冠. 基于轻量化分布式学习的自动调制分类方法[J]. 通信学报, 2022, 43(7): 134-142.
[10]	张海君, 陈安琪, 李亚博, 隆克平. 6G移动网络关键技术[J]. 通信学报, 2022, 43(7): 189-202.
[11]	刘传宏, 郭彩丽, 杨洋, 陈九九, 朱美逸, 孙鲁楠. 面向智能任务的语义通信：理论、技术和挑战[J]. 通信学报, 2022, 43(6): 41-57.
[12]	杨秀璋, 彭国军, 李子川, 吕杨琦, 刘思德, 李晨光. 基于Bert和BiLSTM-CRF的APT攻击实体识别及对齐研究[J]. 通信学报, 2022, 43(6): 58-70.
[13]	廖勇, 王世义. 高速移动环境下基于RM-Net的大规模MIMO CSI反馈算法[J]. 通信学报, 2022, 43(5): 166-176.
[14]	廖育荣, 王海宁, 林存宝, 李阳, 方宇强, 倪淑燕. 基于深度学习的光学遥感图像目标检测研究进展[J]. 通信学报, 2022, 43(5): 190-203.
[15]	赵增华, 童跃凡, 崔佳洋. 基于域自适应的Wi-Fi指纹设备无关室内定位模型[J]. 通信学报, 2022, 43(4): 143-153.