矢量传感器在弱信号检测和目标定位等领域得到了广泛的应用,但其在水声通信领域中的应用在国内外还是空白.本文研究了基于矢量传感器的水声通信系统的编解码方法、声压和振速联合处理的方法和高分辨率频率方位联合估计的方法,通过仿真研究和湖上试验,论证了矢量传感器相对于声压水听器的优越性.基于矢量传感器的频率调制通信系统通过声强处理可以抵消各向同性干扰、提高信噪比,从而扩大通信距离,降低误码率.声强处理的增益与积分时间有关,因此在远程、低数据率的扩谱通信中更具优势.基于谱变换的解码方式由于受到瑞利限(BT=1)的限制,在系统带宽和通信速率上必须进行折衷考虑.因此在带宽受限的水声信道中,非相干的频率调制系统难以实现高数据率的通信.本文提出了一种基于矢量传感器的高分辨率频率和方位联合估计的算法,将其应用于水声通信系统中.利用ESPRIT算法实现高分辨率的频率估计,突破了瑞利限的限制,在信噪比较高的条件下,可以降低对系统带宽的要求.在频率和方位联合估计的基础上,本文提出了一种频率和方位联合解码的方法,通过波达的方位区分直达声和多途信号,通过联合解码可进一步降低误码率.如将其应用于水声通信网络中,还可以实现多用户通信.在松花湖水域进行了国内首次基于矢量传感器的水声通信系统湖上试验.试验研究了基于矢量传感器的相位调制、频率调制、频率跳变扩谱等不同调制编码方式下的水声通信系统的性能.试验结果表明:低信噪比时(通信距离8公里),相位调制通信系统中基于矢量传感器的声压和振速联合处理的结果明显优于声压处理的结果.对频率调制信号解码时,声强处理性能最为稳健,低信噪比时优势更为明显.高信噪比时(通信距离5.5公里),不同的调制方式下,基于声压水听器和矢量传感器的接收系统均可以做到无误码.利用高分辨率频率估计可以提高通信速率并降低对通信系统的带宽要求.通过频率方位联合解码可以进一步降低通信系统的误码率.