因受限于光纤信道和光放大器的有限带宽，而基于超奈奎斯特（FTN）传输技术的高频谱效率传输系统引起了研究者们的广泛兴趣。FTN技术通过引入可控的码间串扰和载波间串扰，使得信号能在载波间隔小于信号波特率的条件下传输。对于PDM-QPSK信号，双二进制整形技术能够有效的实现超奈奎斯特传输。然而，对于诸如PDM-16QAM等高阶调制格式，由于信号码间串扰和载波间串扰的容忍度减小，FTN传输难以实现，目前并没有PDM-16QAM 超奈奎斯特传输的实验报道。

武汉光电国家实验室、光电学院付松年教授和肖卓鹏、李博睿博士生首次实验实现了PDM-16QAM的超奈奎斯特传输。基于所提出的最大似然序列检测和多输入多输出算法（M&M算法），PDM-16QAM的超奈奎斯特传输以7.68-b/s/Hz实现了新的16QAM频谱效率记录。M&M算法首先通过接收端双二进制整形和最大似然序列检测抑制部分载波间串扰并对信号进行判决，判决后的信号用以重构串扰部分。随后，基于RDE的多输入多输出算法和重构的串扰能有效去除载波间串扰。在背靠背传输实验中，将M&M算法运用于15-GHz间隔16-GBd信号的传输中，实现了5.4-dB的光信噪比提升。在长距传输实验中，考虑软判决前向纠错码门限，14-GHz载波间隔和15-GHz传输间隔的16-GBd PDM-16QAM信号分别可在单模光纤上传输960-km和1920-km。

该研究工作得到国家“863”计划（No. 2015AA015502）和国家自然科学基金（No. 61575071 和No. 61331010）等项目资助。2017年3月15日，研究成果“First experimental demonstration of faster-than-Nyquist PDM-16QAM transmission over standard single mode fiber” 发表在光学期刊Optics Letters杂志上（ Vol. 42, No. 6, pp. 1072-1075, 2017）.