在发射端，首先利用偏振分束器（PBS， polarization beam splitter）将光源分解为2路正交的偏振光（记为X偏振态和Y偏振态），并分别对2路34 GBaud MQAM电信号使用马赫增德尔调制器（MZM，Mach-Zehnder modulator）进行相位调制，调制后的光信号分别表示为E_x和E_y。E_x和E_y经偏振合束器（PBC，polarization beam combiner）耦合成为1路34 GBaud PDM-MQAM光信号E_s。

光信号经过掺铒光纤放大器（EDFA，erbium doped fiber amplifier）放大后，在接收端利用光分束器将接收的光信号E_r分为2路偏振态信号E_rv和E_rh，同样本振信号 LO 经过光分束器也被分为 2路正交的偏振信号。紧接着对2束偏振光分别用2个 90°混频器进行光相干接收，混频器输出信号将分别利用光电检测器进行平衡光检测，将光强度信息转换为电信号。

在理想情况下，以v偏振态为例，相干接收机接收后输出信号可表示为

其中，Re为取实部，Im为取虚部，$E^{*}{}_{LO}$为本振光源的共轭，VI和VQ分别为光检测电流的I路分量和Q路分量。

在整个传输系统中，一些环节有可能会引入IQ imbalance损伤，例如，IQ 2路偏置点的设置不正确、3 dB耦合器分光比不对称、PD响应度的变化、混频器各路之间的不平衡等。经过 90°混频器平衡接收后的输出信号，存在IQ imbalance损伤模型可等效为^[7]

其中，α为IQ两路信号之间的幅度失配因子，θ为IQ 两路信号之间的相位失配因子，Δn为高斯白噪声，θ_v(t)为接收到的信号中v偏振态的相位信息， cos θ_v(t)为I路信号，sin θ_v(t)为Q路信号。

PDM-MQAM 系统接收机 DSP 处理流程如图1(b)所示。DSP 处理核心算法主要包括 IQImEstimation算法、IQ imbalace补偿算法、重采样过程、时钟同步算法、自适应均衡偏振解复用、频偏估计算法及载波相位恢复算法。

1) IQ幅度失配估计原理

为了得出α的估计值α′，考虑将cos θ_v(t)与cos(θ)sin θ_v(t)+sin(θ)cos θ_v(t)消除。首先求出信号同相分量（I路）功率的均值为

随后求出信号正交分量（Q路）功率的均值为

其中，$\overline{(·)}$ 表示取均值运算，$\overline{{\sin }^2[{\theta }_v(t)+\theta ]}$ 与$\overline{\cos {\theta }_v{}^2(t)}$相比增加了一个初始相位θ，但功率均值仍相等，二者可消去，结合式(3)和式(4)可得出如下关系

2) IQ相位失配估计原理

通过GSOP原理可知，向量$u$在$v$上的投影为$u^{\prime }$，即

其中，$|·|$表示取向量的模。将这一原理应用在本系统中可得

其中，$V{Q}^0(t)$为VQ(t)投影在VI(t)上的分量，ρ为2路信号的相关性。

联合式(2)中 Q 路表达式中包含的 I 路信息sin(θ)cos θ_v(t)，可得

忽略噪声Δn，可得θ的估计值θ′为

本文设计的34 GBaud PDM-MQAM相干光通信系统由 Matlab 软件和 VPI 软件搭建。系统中主要器件的参数如表1所示。

1) 数据长度对算法估计性能影响

在进行仿真及实验之前，本文就数据长度对算法精度的影响进行了仿真实验。3 种调制方式双偏振态下光信噪比（OSNR,optical signal noise ratio）取 BER=10^-4时对应的理论值，QPSK 对应 OSNR理论值取为16 dB，8QAM对应OSNR理论值取为19 dB，16QAM对应OSNR理论值取为22 dB。IQ相位失配设置为60°，IQ幅度失配设置为3 dB，仿真结果如图2所示。

由于数据长度与幅度失配估计误差关系不能突出问题所在，图2(a)给出了数据长度与IQ幅度失配估计的关系，在数据量较小的情况下，在计算IQ两路信号的功率均值时，由于数据点的缺失和不均匀，会使P_I和P_Q方差过大，同时在噪声的影响下，会导致α′出现较大波动。随着调制阶数的增加，这一问题更加显著。图2(b)给出了数据长度与 IQ 相位失配估计误差的关系。在计算IQ 2路信号的相关性ρ时，由于数据点的缺失和不均匀，会使ρ误差过大，同时在噪声的影响下，导致算法估计误差放大。随着调制阶数的增加，这一问题更加突出。综合图2 结果可知，当数据量取大于或等于 2¹²时，可避免数据长度对算法的影响，使算法保持良好的估计性能，在随后的实验中实验数据长度取2¹²。

2) IQ幅度失配估计仿真结果

本文对3种调制方式进行了IQ幅度失配仿真实验，包括IQ幅度失配估计与IQ幅度失配估计误差，仿真结果如图3所示，其中，IQ幅度失配估计误差换算为dB值表示。

从图3可以看出，幅度失配估计方案在IQ幅度失配估计范围较广(-6 dB,6 dB)，且IQ幅度失配估计误差小于1 dB时，可有效估计系统中IQ幅度失配程度。在式(5)中P_I与P_Q进行相消，同时将 IQ 2 路相位信息θ_v(t)消去，α′估计精度仅受噪声Δn影响，与调制格式无关。随着OSNR增加，IQ幅度失配估计误差减小。

3) IQ相位失配估计仿真结果

本文对3种调制方式进行了IQ相位失配仿真实验，包括IQ相位失配估计与IQ相位失配估计误差，仿真结果如图4所示。

根据图4仿真结果可知，相位失配估计方案在IQ在相位失配估计范围较广(-60°,60°)时，可有效估计系统中IQ相位失配程度。图4(a)中的90°处存在拐点，是因为信号在旋转超过 90°后，进入另一象限，这是由算法中存在三角函数运算而导致的。其中，arcsin函数的值域为$\left[-\frac{\text{π}}{2},\frac{\text{π}}{2}\right]$，因此相位误差估计值θ′会出现拐点，且出现100°估值与80°估值相等的情况，从而导致图4(b)中IQ相位失配100°处估计误差增大。

式(10)中，ρ和P_I取值受不同调制方式的影响，但在不同调制格式下二者仍成比例关系， $\frac{\rho }{P_{\text{I}}}$的取值范围为[-1,+1]，由此可知IQ相位失配估计性能与调制方式无关，仅受噪声Δn影响。其中P_I含有噪声项Δn，P_I与OSNR成反比。随着OSNR增大，IQ相位失配估计误差减小。

在联合仿真平台VPI与Matlab中验证了原理的正确性后，搭建了34 GBaud MQAM通信实验平台，整体实验系统框架如图5所示。利用PRBS产生长度为2¹⁵数据，使用任意波形发生器（AWG，arbitrary waveform generator）（实验设备型号：keysight M9502A）将数据上采样到85 GSample/s，升余弦滚降系数为0.2，输入IQ调制模块（实验设备型号：Fujitsu FTM7962EP）进行调制，激光器采用外腔半导体激光器（ECL，external cavity laser）（实验设备型号：N7714A）。在接收端通过光相干接收机（实验设备型号：Fujitsu FIM24706EB）将信号与本振光耦合，最后用示波器（实验设备型号：Agilent DSA-X-96204Q）对数据进行实时采集，采样率为80 GSample/s。采集后的离散样值，交由Matlab离线处理。由于实验设备中难以引入精确的正交不平衡损伤及调整精确OSNR，因此本文在进行DSP处理之前引入损伤及调整 OSNR（QPSK 信号对应ONSR为13 dB，8QAM信号对应OSNR为16 dB， 16QAM信号对应OSNR为19 dB），引入损伤形式如式(2)所示。

利用相干光通信实验平台对3种调制方式进行了验证，图6 为 IQ 幅度失配估计实验结果，图7为 IQ 相位失配估计结果。实验结果验证了该算法的有效性，IQ 幅度失配估计可有效估计范围为(-6 dB,6 dB)，估计误差小于 1；IQ 相位失配估计可有效估计范围为(-60°,60°)。