近年来,云计算已经成为互联网的主流计算模式。云计算具有按需自服务、泛在接入、资源池化、弹性服务和服务可度量等特性。云计算提供三种服务模式:基础设施即服务、平台即服务和软件即服务。基于云计算的特性和服务模式,云计算用户可以自由的租用云服务来满足自身的计算需求。云计算资源可以按需获取,使得云计算服务的用户可以大幅降低计算成本和维护成本。虽然云计算有诸多优势和便利,但安全因素仍然是无法忽视的问题。在云平台面临的诸多安全问题中,DDoS攻击是影响云平台服务可用性的主要安全威胁。一方面,传统的DDoS攻击针对云环境依然有效。另一方面,针对云环境的新模式也诞生了新型的DDoS攻击,例如EDoS攻击。且近年来IOT设备处在数量爆发期,使得僵尸网络大幅增加,云环境面临的DDoS攻击会进一步增多。因此,研究云环境下的DDoS攻击防御是非常必要的。而云环境下的DDoS攻击检测作为DDoS攻击防御的第一道防线,显得尤为重要。本文针对云环境面临的DDoS攻击提出了以下两种方法:提出了基于近邻传播和混沌分析的DDoS攻击检测方法。针对云环境下,主机数量规模大,主机流量行为差异大和流量复杂度高等特点,先用近邻传播算法对主机根据流量行为特征进行聚类。再对每个主机类的流量利用时间序列建立预测模型,引用混沌分析方法分析流量预测误差,根据Lyapunov指数的大小来判断主机类的流量是否存在DDoS攻击。提出基于深度学习模型的DDoS攻击检测方法。通过分析云环境下网络流量的结构特征,结合DDoS攻击的实现原理,引入深度学习模型。并设计适用于DDoS攻击检测的流量处理方法将流量输入模型。利用深度学习模型的学习和分析能力,对云环境中的流量进行识别,以达到检测DDoS攻击的目的。在进行DDoS攻击检测的理论研究的同时,本文尝试将理论应用于实际场景,设计了云环境的DDoS攻击实验平台。结合硬件设施和软件工具等构建了完整的攻击方到被攻击方链条。通过网络流量捕获模块获取真实的流量数据,再利用检测算法模块进行检测,使得实验更接近现实网络。