本学位论文的研究课题来源于国家自然科学基金“移动认知无线网络关键技术研究”(No.61271207)和“认知无线传感网络关键技术研究”(No.61372104)。通过利用机器学习与博弈论相关算法解决认知无线电网络中,存在恶意用户情况下的联合频谱感知与资源分配问题。主要内容有两部分:基于支持向量机的恶意用户检测方案以及基于博弈优化的联合频谱感知与资源分配方案。提高了实际认知无线电网络在恶意用户场景下的系统鲁棒性和资源分配的有效性。在基于支持向量机的恶意用户检测方案中,本文利用从用户提交的多回合历史数据进行支持向量机分类,并获得分类准确率。此外,本文提出识别概率和误筛概率这两个新概念,并且分析了误筛概率和分类阈值之间的关系。最后,我们推导了恶意用户监测方案的渐进最优特性,该特性确保了系统在不同恶意用户攻击策略下的鲁棒性能。在基于博弈优化的联合频谱感知与资源分配方案中,本文考虑了主用户的干扰门限以及从用户的检测公平性,并推导了从用户对主用户的状态判决阈值。此外,在资源分配部分,本文将分配问题建模为混合整数非线性规划,该规划充分考虑了多用户分集特性,提高了系统的接入效用。对于该规划问题,本文将其分解为功率分配问题和信道时隙分配问题,并进行逐一求解。实验结果表明,该算法表现出了良好的资源分配特性。全文共分为5章,主要包含以下内容:第1章介绍了课题研究背景,并综述了论文的主要工作内容。第2章概述了支持向量机和博弈论的基本理论,详述了支持向量机中最优超平面的概念以及内积核。同时简要介绍了博弈论中基于特征形式的博弈和基于分区表的博弈。第3章提出了基于支持向量机的恶意用户检测算法,着重讨论了支持向量机分类、恶意用户判定值的计算以及渐进最优特性的推导。仿真实验表明该方法性能显著的优于传统的恶意用户检测方案。第4章提出了基于博弈优化的联合频谱感知与资源分配算法,着重讨论了分区联盟中的频谱感知、联合信道时隙与功率分配以及分区联盟的形成。并对资源分配结果以及用户接入公平性进行了相应的仿真。第5章总结了本学位论文的工作内容,并对应用前景、下一步工作内容进行了展望。