通信技术随着时代的进步而得到了快速的提升,随着通信规模的增大,人们渴望更加良好和强大的通信环境。因此提高频谱资源利用率迫在眉睫。认知无线电技术以其频谱共享而提高频谱利用率的理念,一直受到着很高的关注。认知无线电技术的价值在于让频谱的动态利用成为了可能,多个用户接入同一频谱进行通信,提高频谱利用率。中继在无线通信中可以有放大转发的作用,同时多节点可以进行波束的定向发送,从而获得分集增益。无线通信的传播方式为广播性的,对于安全性要求较高的通信场景带来了挑战。次网络帮助主网络抵御被窃听和引入额外的人工噪声源是常见的提高安全速率的方式。除此之外,相比于有线信道,因为无线通信信道的通信介质不如有线信道稳定,实际情况中信道估计误差难以避免。因此认知无线网下分布式波束成形有重要的理论和实际意义。基于这样的背景,本文做了如下的研究工作:第一,在非中继场景下,研究了两个次网络和一个主网络共享频谱的情况下,次网络之间的相互保护对方减少窃听的问题。主要是利用凸优化和帕累托边界的理论,设计出最优的波束成形的因子,分别用三种不同的方法解决上述问题。一种是通过引入辅助变量,将问题转化为求解二维空间内一系列的标准凸优化问题,并得到最优值;另一种是迫零波束成形的凸优化问题;第三种是将问题部分变量通过简化,将原问题转化为满足帕累托最优问题,并基于此设计出等式组求出次优解,从而降低了原解法的复杂度。仿真结果表明,次优解的结果表现的性能与最优解效果性能接近。第二,研究了认知中继网络中,非完美信道状态信息情况下的主用户安全速率最大化的问题。主要通过凸优化的理论,并通过矩阵论进行化简和半正定优化的方法解决问题。仿真结果表明了非完美信道状态信息下鲁棒性算法的有效性和可靠性。