通过涡轮复合回收利用发动机余热是内燃机节能减排的主要技术途径和研究发展方向,也是当代发动机流体力学研究的主要学科前沿问题。涡轮复合技术是使发动机排气在增压涡轮后进一步膨胀,通过动力涡轮将部分排气能量转化为有效功,提高内燃机燃油经济性、降低二氧化碳排放。增压涡轮与动力涡轮两级涡轮间耦合流动作用对动力涡轮和整机循环性能等具有重要影响,是涡轮复合技术研究所面临的主要难点之一。论文针对当前涡轮复合研究中动力涡轮单独设计,难以考虑两级涡轮耦合流动作用这一难点,对内燃机涡轮复合的两级涡轮流动机理、及其对性能的影响机制和流动控制方法等进行了探讨。通过建立反映两级涡轮耦合设计参数影响的涡轮系统通流模型,发展了内燃机涡轮复合循环耦合分析方法。研究了两级涡轮通流面积比对内燃机涡轮复合全工况性能的影响,发现两级涡轮通流面积比对排气能量在增压涡轮与动力涡轮中的分配具有重要影响,是决定内燃机涡轮复合全工况性能的关键因素。提出了通过增压涡轮变几何使两级涡轮面积比随发动机转速下降而增大,以改进涡轮复合循环全工况性能的变几何涡轮复合循环流动控制方法。通过两级涡轮系统全三维定常仿真流动分析,研究了两级涡轮系统的复杂流动规律及其对动力涡轮性能的影响。发现增压涡轮出口存在旋流效应,将增大动力涡轮导叶进口攻角,导致二次流损失增加的耦合流动机理。提出了通过动力涡轮与增压涡轮对转,以减小旋流效应引起的动力涡轮导叶二次流损失的对转涡轮复合流动控制方法,仿真结果表明动力涡轮等熵效率提高达3.8%。通过建立两级涡轮三维非定常模型,研究发动机排气脉冲对两级涡轮流动及性能的的影响。揭示了增压涡轮对发动机排气脉冲的增强效应,增大动力涡轮转子叶尖进口攻角变化幅度,导致动力涡轮等熵效率大幅度下降的耦合流动机理。提出了通过叶尖前缘钝化设计,改进动力涡轮的脉冲适应性,提高动力涡轮性能的流动控制新方法,仿真结果表明发动机排气脉冲周期内动力涡轮平均效率提高1.64%。基于东风DCI11发动机,设计试制了涡轮复合系统,研制了变几何涡轮复合内燃机原理样机。发动机万有特性试验测试结果表明,涡轮复合发动机外特性燃油消耗率最大降低7.8%,发动机低速转矩最大提高达15.3%。