近年来人工智能技术,尤其是深度学习取得了重大突破,被广泛应用于金融、医疗、自动驾驶、工业制造等领域。大数据作为人工智能技术发展的关键驱动力,其数据源正从大型数据中心转移到越来越多的终端设备上,然而终端设备所有者出于隐私保护的需求,可能不愿将带有敏感信息的本地数据分享给他人,从而带来了“数据孤岛”的问题。传统的集中式机器学习已经无法解决此类问题,联邦学习（Federated Learning,FL）是一种适用于多源数据训练的分布式机器学习框架,其中的终端节点基于本地数据训练模型,并将模型参数上传到服务器来聚合生成全局模型。由于无需分享本地数据,联邦学习保护了终端节点的隐私。然而联邦学习中节点众多,管理复杂,节点易受到攻击者的入侵,进而威胁全局模型,节点的安全问题成为阻碍联邦学习发展的关键问题之一。而且,尽管联邦学习不需要分享本地数据,但仍需要交换模型参数,半诚实（诚实但好奇）的服务器和参与者可以从中推测出他人信息,造成隐私泄露。另外,半诚实的服务器还可以将参与者身份与模型参数链接起来,这也将造成隐私泄露。现有的方案基于模型层次的异常检测以及各种隐私保护技术,存在效率不高、开销大、以及影响模型性能等不足。为了解决这些问题,本文提出了一种基于改进k-prototypes算法的异常检测方案以及一种支持匿名和隐私保护的联邦学习方案。本文首先提出一种基于改进k-prototypes算法的异常检测方案,用于联邦学习中的恶意节点识别。该方案基于联邦学习节点行为数据的特点,提出了一种改进的k-prototypes算法,其重新定义了损失函数,在统一衡量数值属性和分类属性的相似度的同时,考虑到不同属性的重要性,为每个属性分配了一个权重,因此更适用于联邦学习。此外,该方案给出了计算权重的方法,其采用基于信息熵的度量方法,对簇内的相似性和簇间的差异性进行度量,从而将属性的重要性量化,进而计算出权重。该方案还提出了一种基于上述改进k-prototypes算法的异常检测模型,对联邦学习异常节点进行检测。本文又提出一种支持匿名和隐私保护的联邦学习方案,用于防止参数及参与者身份造成的隐私泄露。该方案提出了一种分享更少参数的模型训练方法,每次迭代时,参与者选择部分参数下载以及部分梯度上传,在几乎不影响模型准确率的基础上,通过减少参数共享减少了隐私泄露。此外,该方案在联邦学习服务器和参与者之间引入一个代理服务器,实现了参与者的身份匿名,减轻了联邦学习服务器的通信开销,同时采用非对称加密方案,来防止模型被代理服务器窃取。该方案还采用差分隐私技术,在上传的梯度上添加高斯噪声,提供了更严格的隐私保护,同时平衡了模型的性能和隐私。最后本文结合理论分析和仿真实验,通过与现有方案的对比,对所提的两个方案的安全性和性能进行了分析,证明了所提方案的是安全高效的。