近年来,随着成像光谱技术的发展,高光谱图像的目标检测研究引起了广泛关注。高光谱图像可同时获取空间信息和光谱信息,在目标检测领域显示出其独特的优势,特别是在军事目标的检测和识别中体现出重要的价值。由于高光谱图像数据量大、目标较小等因素给检测带来的困难,一些传统的目标检测方法在某些应用背景下已无法取得良好的检测效果,因此有必要寻求一些新的、有效的高光谱目标检测算法。为此,本文进行了以下几方面的研究。首先,分析了高光谱图像的数据特性,研究了光谱信号的统计模型和混合模型。重点研究了局部高斯分布的统计模型和线性混合模型。叙述了多元统计信号的检测理论和估计理论,为目标检测算法的研究打下基础。其次,研究了基于局部高斯模型的高光谱目标检测算法,分别完成了三种基于此模型的算法的检测性能分析和仿真实验结果。在自适应滤波器组方法部分,本文提出了一种比较实用的滤波器组设计方法。针对经典RX算法需要目标匹配模板的缺点,研究了渐进意义下的RX检测算法—RXD,应用RXD和其已有的改进算法实现了小目标检测。在此基础上,本文提出了一种鲁棒性较强的检测算法—RRXD。仿真结果和ROC曲线表明,RRXD检测算法的检测性能要优于RXD检测算法。然后,研究了基于高斯马尔科夫随机场的GMRF检测算法,用GMRF双假设和单假设检测算子实现了小目标的检测,并对单假设和双假设检测算子的性能进行分析。给出利用GMRF算法的方差求逆法结合其他检测算法产生新算法的思路。研究了基于线性混合模型的LPD和CEM检测算法,应用这两种算法检测到了小目标。根据LPD算法的思路,本文在CEM的基础上提出了一种具有自适应性的检测算法—ACEM。仿真结果和ROC曲线显示,ACEM检测算法的检测性能要明显优于LPD检测算法。最后,应用DSP处理图像的平台对RXD算法和改进的RRXD算法进行了验证,实现了高光谱图像的小目标检测,检测结果显示RRXD要优于RXD。对这两种算法的计算速度进行分析,提出了用于改进算法执行速度的可行性措施。