在无线通信环境中,现代高速移动通信面临着频谱资源有限,时变无线传输环境复杂等问题,为了满足更高的数据传输率、更好的服务质量、更大的系统容量的通信需求,人们研究出许多新技术和新方案来提高频谱效率和传输可靠性。使用多根发射天线和多根接收天线的MIMO (Multiple-In Multiple-Out)技术,可以在不牺牲带宽和不增加发射功率的情况下成倍地提高信道的容量。空时编码是在发射分集的基础上发展起来的。在快速变化的环境中,接收端有时不能精确地获得信道状态信息,在这种条件下,差分空时编码技术可以实现有效地解码。无线认知技术使得未授权用户可以有机会使用授权频段,这样可以提高部分授权频段的频谱利用率,缓解频谱资源短缺的问题。本文主要在三个方面做了工作：分析了认知无线电技术与宽带无线技术融合的可能性,并将MIMO技术应用到认知无线链路系统中,提高了系统的容量和频谱利用率；利用"ABBA"高维构建法构造了分布式差分空时编码,使得系统的编解码复杂度得到了降低,仿真结果显示利用高维构建法构造的分布式差分空时编码的性能比循环码的性能要好；给出了认知MIMO系统中差分空时编码的发射机和接收机的结构,仿真结果显示与未编码系统相比,利用了差分空时编码的认知MIMO系统的误码率性能得到了明显的改善。