随着无线通信技术的快速发展,无线移动网络已逐步成为人们日常生活不可或缺的一部分。人们越来越多地选择无线网络传输信息(包括如:财务信息、个人身份信息和医疗信息等私密和敏感的信息),这也给未来无线通信系统的安全性提出了更高的要求。一方面,无线信道的广播特性导致无线传输更容易被非法截获或攻击;另一方面,现有基于密钥的应用层加密技术无法应对针对无线物理层的新型攻击(如:信号捕获、特征提取、电磁干扰等)。因此,如何根据无线通信的特点设计更加安全的通信方式就成为未来无线通信系统亟待解决的问题。低截获概率通信是一种更为全面的无线安全保障技术。它根据无线信号的实际传播特征,利用编码、调制和波形设计等物理层技术来保障通信信号、信号特征以及信息内容的安全。具体来讲,它包含了三个层面的研究内容:1)防止通信信号被发现,即信号隐蔽;2)防止通信信号特征被提取,即特征隐藏;3)防止通信信息被窃听,即信息隐匿。本文研究低截获概率通信中信号隐蔽和信息隐匿两个方面的关键技术,即隐蔽通信与物理层安全,在保障通信安全的同时,提高通信系统的容量。主要研究内容包括以下四个部分:第一个部分针对加性高斯白噪声信道,从信息论的角度研究了隐蔽通信的渐近容量(Asymptotic Capacity)。本文利用随机编码和Berry-Essen定理,得到了满足全变分约束条件的一阶和二阶渐近容量,并从正定理和逆定理两个方面进行了证明。理论分析和数值计算结果都表明基于全变分约束的渐近容量要优于传统基于相对熵约束的渐近容量。第二部分研究了常速率隐蔽通信机制。传统隐蔽通信受平方根法则限制,信息传输速率会随着码长的增加而减小。因此,如何实现与码长无关的常速率隐蔽通信就具重要理论价值和现实意义。本文利用中继信道的不确定性,分析了隐蔽通信系统的检测性能与通信可达速率,证明了通过使用特定的发射功率可以实现常速率隐蔽通信。数值结果展示了可达速率和检测性能约束的折中关系。第三部分研究了部分系统参数未知情况下的最优隐蔽通信功率控制策略。本文利用博弈论的方法,提出了单跳网络和两跳中继网络的最优隐蔽通信功率控制策略。针对单跳网络,本文根据通信方所获得参数的不同,提出了基于功率门限博弈和贝叶斯博弈的两种最优功率控制策略。针对两跳中继网络,本文提出了基于带有干扰机的功率门限博弈的最优功率控制策略。数值结果展示了系统关键参数对功率控制策略及系统性能的影响。第四部分研究了一种面向超奈奎斯特系统的物理层安全方法。与传统基于人工噪声的物理层安全方法不同,该方法通过在发射端改变成型滤波器参数,来对窃听者的接收信号引入大量的码间干扰,从而实现物理层安全。此外,本文还利用白化滤波器和Z变换从理论上分析了该方法的保密容量。数值计算结果表明,相比于现有利用码间干扰的物理层安全方法,该方法能够获取更高的保密容量。