基于少模光纤的模分复用技术，利用光纤纤芯内的不同模式作为独立传输信道，结合密集波分复用技术、偏振复用技术，可以使少模光纤突破单模光纤通信系统容量。少模光纤中不同模式的耦合特性，直接关系到多输入-多输出（MIMO）接收端信号处理的硬件实现和软件计算复杂度。故需要对少模光纤中模式的耦合特性进行优化设计。

普通圆形纤芯结构的少模光纤中，LP11模式群包含两个正交取向的模式，由于它们具有相同的传播常数，所以很容易在光纤中发生相互耦合。考虑到偏振态之后，至少需要4×4的MIMO数字信号处理来解决模式耦合问题，复杂度较高；因此，通过优化设计光纤结构参数，来避免LP11模式群内简并模式的耦合，是一个值得研究的问题。

武汉光电国家实验室、光学与电子信息学院教授付松年，博士生梁俊鹏、莫琦、于大伟等人，通过将光纤的纤芯设计为椭圆形状，打破了两个正交取向LP11模式的简并性，增大其模式间隔，从而极大程度避免了这两个模式间模式耦合的发生。

实验室课题组经研究发现，当纤芯椭圆度小于0.264时，两个正交取向LP11模式可以达到弱耦合条件（即模式见有效折射率差大于0.5×10^-4）。在此基础上，他们成功设计并制备了支持3个空间模式的椭圆芯光纤。该光纤用在模分复用光传输系统中只需要进行3个独立的2 ×2 MIMO数字信号处理，因而能够极大地简化MIMO信号处理复杂度；两个正交取向的LP11模式做到无模式耦合，故而LP11模式的场分布随着在光纤中传输可以维持稳定，结合基于相位片的模式下转换器件，椭圆芯光纤成功用于20μW/°的高精度光纤扭曲传感测量，而且在20℃~180℃的温度范围内展现出优良的温度不敏感性。

关于圆形纤芯的两模光纤，课题组实验测试了光纤中瑞丽背向散射的模场分布。结果显示，背向散射光以不同比例存在于所有导模中，且少模光纤中瑞丽背向散射光强高于单模光纤。这个结论对于抑制少模光纤应用中的瑞利散射具有指导意义。

图2 少模光纤中瑞利背向散射比例实验结果

该系列研究工作得到国家“863”计划（No. 2013AA013402）和国家自然科学基金（No. 61275068和No. 61331010）等项目资助。研究成果相继以论文“Design and fabrication of elliptical-core few-mode fiber for MIMO-less data transmission”和 “Temperature-insensitive fiber twist sensor based on elliptical-core few-mode fiber”发表在光学期刊Optics Letters上（Vol. 13, No. 13, pp. 3058-3061，2016和Vol. 41, No. 20, pp. 4617-4620，2016）；研究成果”Characterization of Rayleigh backscattering arising in various two-mode fibers”发表在光学期刊Optics Express杂志上（Vol. 24, No. 11, pp. 12192-12201, 2016）。