近年来，随着无线通信网络的普及和无线通信系统的飞速发展，用户对通信系统的性能需求和容量需求也越来越高。同时，无线通信业务种类和数量的激增，也使得频谱需求量急剧增长。这不可避免地导致了频谱资源紧缺的问题。相对于传统的频谱管理方式，认知无线电系统具有对外部环境的感知能力、对环境变化的适应能力、可重构能力以及自主运行能力。因而可以在不影响授权用户通信系统性能的前提下，利用授权用户暂时不使用的频谱来进行通信，从而可以在很大程度上提高频谱利用率。由于认知无线电的巨大潜力和在频谱利用上的灵活性，这一技术已成为当前国际上的热点研究技术之一。频谱感知作为其他接入环节的基础，是认知无线电系统中关键的一环，是整个认知无线电技术实现的首要工作。本论文正是以此为侧重点，对基于认知无线电的频谱感知技术的基础理论、算法设计、性能评估、参数优化等问题进行了深入研究，论文的主要工作以及创新成果如下：(1)提出了一种基于双门限能量检测的协作频谱感知算法。在传统的单门限能量检测中，由于门限的设置通常是根据环境的背景噪声来选取的，而噪声功率通常存在一定的不确定性，很难准确确定，所以门限很难准确设置。另外，即使能准确确定门限，由于信号的随机性，在门限附近得到的判决结果的可信度也不高，容易导致误判。在这种情况下可以采用两个门限来滤除中间部分的不可靠信息，仅在检测值大到一定程度时才给出频谱被占用的判决结果，在检测值小到一定程度时才给出频谱空闲的判决结果。而双门限法虽然可以减少误判，却又会发生检测失败的情况。本文针对这一不足，提出对中间部分的能量值进行传输来解决检测失败问题。同时，在这个基础上，为了避免感知信息传递过程中的数据开销增大的问题，提出对中间部分能量值进行量化，并仅在检测失败发生时才进行传输。从而不仅可以解决原始双门限能量检测法中检测失败的问题，还能在不明显增加感知数据传输开销的前提下提高系统的检测性能。(2)提出了一种基于改进型能量检测器的多天线多用户协作频谱感知算法。通过从判决量的计算结构上对能量检测器进行调整来获得更大的感知分辨率，从而提升感知系统的精确度，提高系统的检测能力。同时，采用多天线采集感知信息，利用多天线的分集增益来获得更强的信号参与判决，从而提高感知系统的准确度。另外，由于信号的随机性，在感知的过程中，难免会发生虚警和漏检的情况。由于在感知系统中，虚警概率和漏检概率往往存在一定的相关性，在以往的研究中，往往是固定一个量来减小另一个量。在本论文中将联合考虑两种错误发生的情况，并以错误概率最小化为准则对系统参数进行了优化。通过对单个参数优化和联合多个参数优化取得了较好的检测性能。从而减少可利用频谱资源的流失，同时减少认知用户接入频谱时对授权用户造成的有害干扰。(3)提出了一种低开销的恶意节点筛选机制来解决协作频谱感知网络中的恶意节点攻击问题。相对于传统的单节点检测，协作检测可以在一定程度上提升系统的检测性能，但同时也很容易受到恶意用户的干扰。这些恶意用户将错误的感知信息发送给融合中心来误导最终的判决结果，从而导致认知无线电网络性能下降。为了解决这一问题，本文定义了一个感知效率来评判系统的感知性能，并分析了在有恶意用户出现时系统可以获得的感知效率。提出利用感知信息认证的方法来消除恶意用户对感知效率的不良影响。同时，为了避免在筛选恶意用户的过程中产生的额外开销问题，对感知过程中的认证码长度进行了优化，取得了感知性能与网络开销的良好折中。(4)提出了一种多节点协作感知网络中的节点选取准则。由于无线环境的复杂性和多变性，通过单个节点感知的方法得到的检测结果往往不够精确和完整，因此这类方法在实际应用中受到了很大的限制。为了获得更精确更可靠的感知性能，可以协作检测的方式对感兴趣频段的占用状态进行判决。由于多节点协作机制的引入，确实可以在很大程度上提升系统的检测性能。然而，在采用协作检测来提升感知性能的同时，也必须注意到它不可避免地增加了系统的感知代价。本文具体分析了基于中继的协作性能，研究了放大增益和链路数量对感知性能的影响，推导了网络的检测概率和虚警概率的具体闭合表达式，证明了当参与感知的资源达到一定程度时，系统的感知性能将不再提升。并以此为依据，推导了实际实施中最优的感知参数的选取准则。