为了适应国家可持续发展战略以及能源结构调整的需求,近年来我国大力发展高压直流输电,随着一大批高压直流输电工程陆续建成投产,国内电力系统已逐步进入交直流混联电网高速发展的时代。交直流混联电网主要由交流电网、直流线路和换流站设备等构成,其中换流站的可靠安全运行是交直流混联电网安全稳定运行的基础,但目前换流站继电保护在运行中暴露出了一些问题,因此研究提高换流站继电保护性能具有重要的意义。论文结合湖北电网实际情况,围绕交直流混联电网仿真建模及换流站继电保护等方面开展研究工作。为了满足交直流混联系统故障特性与换流站继电保护性能的分析需求,需要构建详细的故障暂态仿真模型,并对复杂的交流电网结构进行合理的简化,建立以直流输电系统为核心的局部电网仿真系统。本文以湖北电网为背景,基于PSCAD仿真平台构建了可供研究换流站及相关系统故障的龙政直流输电系统模型,进而通过对交流电网的等值简化,构建湖北地区交直流电网的等值电磁暂态仿真网络模型。并通过与完整电网故障网络计算的结果进行对比分析,验证了所建电磁暂态等值模型满足工程分析的要求。基于上述交直流混联电网暂态仿真模型,对换流站继电保护的性能展开分析。通过仿真分析发现,在交直流系统发生某些操作和扰动期间,换流变压器会发生和应涌流等复杂励磁涌流现象以及零序环流导致互感器饱和等问题,有可能引起换流变压器保护和换流阀保护误动作。针对目前换流站保护存在的上述缺陷,研究提出了基于站域信息共享的和应涌流识别方法,能够有效防止和应涌流造成换流变差动保护误动;研究提出了基于单台换流变差动电流二次谐波闭锁换流变压器组大差动保护的方法,解决了大差动保护励磁涌流误动问题;研究提出防止换流变△侧绕组互感器饱和而导致桥差保护误动的方法,该方法通过引入零序电压展宽桥差保护动作时延和采用零序环流作为桥差保护的制动量,从而有效提高桥差保护可靠性。通过仿真分析验证了上述保护改进方案的正确性。