随着网络负荷的不断增大,现今的通信系统已经越来越不能满足人们各个方面的需求。针对这一急需解决的问题,面向5G通信系统的相关技术一直在不断地发展中并且已取得了很大突破。在这些相关技术中,由于毫米波波段超高的频率和巨大的频带带宽,以毫米波作为载频的通信方式是5G通信系统实现超高系统容量最为直接有效的途径。此外,由于毫米波的诸多优点,其也有利于大规模MIMO阵列天线的进一步发展。然而,毫米波在空气中传输损耗较大,所以其对于远距离地区的信号覆盖能力较差。为了解决这一问题并且能够满足5G通信系统的网络架构的要求,基于外部调制器的毫米波光载无线通信系统作为一种最为合适的解决方案,已经成为了5G相关技术中的一个研究热点。在基于外部调制器的毫米波光载无线通信系统中,一定频率间隔的相干光载波在发送端中产生,经过光纤传输和接收端中的光电探测器对相干光载波的拍频后,系统就可以产生一定频率的毫米波信号。由于相干光载波的产生以及基带数据调制的方式多种多样,不同的相干光载波产生方式和基带数据调制方式对系统产生的毫米波质量的影响存在很大的差异。此外,由于光设备价格昂贵,所以在基于外部调制器的毫米波光载无线通信系统的研究中,如何使用结构简单的系统更经济地产生高质量的毫米波信号成为了研究人员必须要解决的问题。本课题首先通过对产生毫米波的相关技术和基带数据不同调制方式的抗色散能力进行了研究,确定了基于铌酸锂马赫增德尔调制器的毫米波产生方式以及基带数据的光单边带调制。在此基础上,本课题设计了两个毫米波光载无线通信系统,具体包括:系统1使用双平行马赫增德尔调制器产生相干光载波,并使用铌酸锂马赫增德尔调制器对相干光载波进行光单边带调制,该系统可以同时产生两个毫米波信号,毫米波频率分别为本地振荡器频率的3倍和5倍。通过数字仿真对毫米波性能进行了测试,结果显示信号质量良好。该系统结构简单易于配置,光信号的同路径传输避免了不同波长处光信号的偏振状态差异和传输时延。此外,从提高经济效益的角度来看,该方案具有一定的研究价值。系统2考虑到系统1铌酸锂马赫增德尔调制器输出端不同波长处光信号之间存在的交叉干扰,我们提出了一种基于光路径分离的毫米波产生系统。该系统使用级联型铌酸锂马赫增德尔调制器产生相干光载波并使用路径分离的方法实现基带数据的光单边带调制。该系统可以同时产生两个毫米波信号,毫米波频率分别为本地振荡器频率的6倍和8倍,倍频数更大。通过数字仿真对毫米波性能进行了测试,结果显示信号质量良好。除此以外,在研究过程中我们还对系统2进行了优化处理,优化处理后的系统对于上下光路的插入损耗平衡更加合理,通过降低产生毫米波的数目可以使系统具有传输高速基带数据的能力。通过数字仿真进行测试后,结果显示得到的毫米波信号性能良好。