近些年来，三维拓扑优化技术的研究及应用受到了人们越来越广泛的重视。本文以连续体结构为研究对象，探索了三维静力学拓扑优化中数值不稳定现象、三维动力学拓扑优化中目标函数难以收敛、三维多目标拓扑优化中多个优化目标综合问题的解决方法。并以某数控插齿机床身为对象，进行拓扑优化应用研究，改进了床身的结构设计。　　首先，为解决三维静力学拓扑优化中灰度单元过多的问题，在分析过滤方法的基础上提出了一种密度-敏度层次更新策略，以便实现在满足约束条件时单元相对密度值向0和1两个极端靠拢。通过具体的算例分析表明，与传统方法相比，采用密度-敏度层次更新策略计算时，最终拓扑构型中灰度单元明显减少。　　其次，为解决三维动力学拓扑优化中目标函数难以收敛的问题，在研究动力学拓扑优化问题产生和求解原理的基础上，建立了三维动力学拓扑优化数学模型，并推导了一致质量矩阵，采用分段函数法构建刚度惩罚函数，利用移动近似算法（MMA算法）求解三维动力学拓扑优化数学模型。通过具体的算例分析表明，目标函数收敛性较好。　　最后，为研究三维多目标拓扑优化问题，采用加权法建立了三维静动态多目标拓扑优化数学模型，并进行了敏度分析，采用MMA算法求解该数学模型，以某数控插齿机床身为研究对象进行了拓扑优化，根据优化结果重构了床身三维模型，并在ANSYS软件中进行了分析，结果表明，重构后床身的静力学和动力学性能均优于原始床身。