认知无线电技术由于采用了动态频谱接入的思想,通过感知频谱使得那些未被充分使用的频谱被重新利用,从而提高了频谱利用率,有效解决了频谱资源稀缺的难题,被公认为是无线通信技术的未来发展趋势,得到了广泛关注和研究。与此同时,由于认知无线电系统中各用户共享频谱的方式,使得干扰问题随之而来,从而使认知无线电技术在解决干扰问题上面临着诸多挑战。本论文在国内外相关研究工作的基础上,针对认知无线电系统的频谱共享的干扰若干关键理论和技术进行了深入研究,结合WLAN系统特点,特别是在多天线系统干扰抑制技术、认知系统干扰模型、MAC层频谱接入协议等方面取得了较大研究进展和成果。在多天线系统频谱共享的干扰研究方面,本文考虑干扰信道的不完整信道信息,基于首要用户中断概率约束和平均干扰功率约束条件保护首要用户前提下,研究最大化认知用户速率的发射端最佳发送方案。采用确定性变换将提出的非凸优化问题近似为混合二进制整数规划问题,并采用低复杂度的分支界定算法求解。通过理论证明得到了提出的优化问题的最优发送协方差矩阵的秩为一,从而得到基于首要用户中断概率约束的最佳发送方案是波束成形。为了进一步降低算法复杂度,本文还提出了一种启发式算法有效求解了优化问题并得到次优解。在认知无线电系统的干扰模型建立和分析方面,本文考虑网络部署和无线环境等因素,例如认知用户密度、PU保护区、路径损耗、衰落等,建立了能准确反映实际系统的干扰统计模型,基于满足认知用户QoS条件下的功率控制机制分析了认知系统总干扰的统计特性,并且考虑MAC层接入协议,基于WLAN系统的CSMA/CA研究了随机接入信道机制下的干扰模型及统计特性。基于干扰统计模型和特性,通过分析首要用户的SIR中断和容量中断性能,研究了干扰对首要用户中断性能的影响并得到了由于干扰影响的系统中断概率。在干扰抑制的MAC层频谱接入协议研究方面,本文考虑在WLAN系统场景下,结合OFDMA和CSMA/CA协议,采用时频二维接入方法,考虑了公平性原则,利用退避机制和握手机制,使多个用户可公平地竞争并接入信道,在不同子信道上同时传输且不互相干扰,并从子信道的角度分析了系统吞吐量,协议设计简单,在系统高承载量情况下有效降低了干扰冲突,同时提高了系统吞吐量和MAC层效率。