无人机监控具有效率高、成本低、范围广、机动性好等优点,可以克服固定监控摄像头的缺点。将视觉技术与无人机平台融合,不仅能提升无人机监控的智能化水平,还能拓展无人机平台的多元化应用。无人机监控图像由于其飞行高度和复杂环境背景,使得一些通用目标检测算法效果较差。为此,针对无人机拍摄目标尺度和宽高比变化大、类别不均衡,以及弱小密集目标识别精度差等问题,论文进行了深入研究。主要内容如下:（1）针对无人机拍摄图像的目标尺度变化以及类别不均衡问题,提出一种融合形状感知与小类样本扩增技术的目标检测算法。设计了基于随机采样填充的小类样本扩增方法,从数据集角度改进无人机数据集中不同图像目标数量分布差异大、类别不均衡两大问题。同时设计了一种基于形状感知的特征金字塔模块,解决无人机中目标尺度和宽高比变化大造成模型多尺度与形状特征表征难的问题,它通过跨层级的特征融合获得更加强大的语义和位置信息,并对新的特征图进行双维度下采样操作,实现不同尺度和宽高比的目标建模,克服单张特征图预测目标的局限性。上述模块应用于无锚框目标检测网络,并在不同骨干网络上进行了消融实验,实验表明它们在目标检测精度和速度上均有提高。（2）针对无人机拍摄视角多样性以及距离远导致目标尺度小的问题,提出了一种密度图引导的目标检测算法。结合无人机目标的尺度和分布特点,利用小目标在图像域上呈现聚集效应的先验知识,设计了基于目标类别的密度图生成方法,构建密度图估计模块,实现目标密度图预测,然后进一步利用这些密度信息对远小目标聚集的高密度区域进行裁剪,并对该剪裁图像进行自适应放大。将放大后的高密度区域图像和原始输入图像的检测结果融合,进而得到最终的目标检测结果。实验表明,该方法对聚集性弱小目标的检测精度有明显提升。论文研究了复杂环境下无人机监控图像中小目标检测的问题,分别提出了融合形状感知和小类样本扩增技术以及密度图引导的算法框架,相关成果可广泛用于城市规划、交通监控和灾害救援等领域。