目标检测是计算机视觉领域一项非常重要的任务,其实际应用包括自动驾驶、医学影像分析、遥感图像检测等众多领域,在人类的生产生活中发挥着重要的作用。最近几年由于深度学习技术的加持,目标检测算法的发展进入到快车道,科研人员基于不同机制、面向不同任务设计出众多准确度与速度不断优化的目标检测算法。本硕士学位论文从提高目标检测算法性能的角度出发,以目标检测算法细分模块为切入点,充分利用图像几何特征对目标检测算法细分模块与整体进行创新与改进,致力于获得更高的性能。本论文的主要研究内容包括:（1）设计了基于密度峰值聚类的非极大值抑制算法,此算法基于未经非极大值抑制算法处理的候选框中心点簇状分布,通过基于自适应截断距离的密度峰值聚类对每个候选框进行信息增维,再通过采用自适应交并比的双步非极大值抑制算法输出最后结果。我们将此算法替换原版的非极大值抑制算法部署到多个目标检测算法上进行对比试验,在定性分析中证明了此算法再复杂场景下相较于原版非极大值抑制算法具备更强区别不同物体的能力,在定量分析中证明了此算法相较原版非极大值抑制算法有着更高的检测精度。基于密度峰值聚类的非极大值抑制算法具备通用性,可以在不重新训练模型的基础上实现性能提升。（2）设计了基于希尔伯特分块的周期位置编码算法,为Transformer在计算机视觉中的应用提供了性能更好的图像数据序列化算法。由于Transformer在将二维图像序列化时存在对图像物体结构的破坏现象,本文创新地将分形几何引入到图像数据序列化中,充分利用图像内物体的几何分布,设计出基于希尔伯特曲线的分块方式以及与之周期特性相契合的位置编码算法。本文将基于希尔伯特分块的周期位置编码算法部署在分类模型ViT与目标检测模型DETR上,通过对比实验发现此算法训练时能够明显加快网络收敛速度,训练完成的网络在分类精度与检测精度上都有提升,证明了此算法的合理性,为后续位置编码算法的研究提供新的思路。（3）设计了基于图像几何特征的DETR,我们分别在通用目标检测和主流军用飞机检测领域进行了应用。本论文将基于希尔伯特分块的周期位置编码算法与基于密度峰值聚类的非极大值抑制算法替换原版DETR算法相对应的模块,形成基于图像几何特征的DETR。我们使用MS-COCO数据集预训练了基于图像几何特征的DETR、三个基于卷积神经网络的目标检测算法与原版DETR,在通用数据集上的对比试验证明了基于图像几何特征的DETR有着较高的检测精度。本论文为了验证基于图像几何特征的DETR实际应用效果,自建了一套难度较大主流军用飞机检测数据集,与上述四个目标检测网络一起使用通用数据集的预训练模型进迁移学习。本论文经过定性试验发现了基于图像几何特征的DETR有更好的对复杂场景物体区分能力,经过定量试验结果发现了基于图像几何特征的DETR在主流军用飞机数据集上有更高的检测精度,以上结果证明了基于图像几何特征的DETR有着较好的实际应用能力。