北斗导航系统（BDS,Bei Dou Navigation Satellite System）,作为我国自主研发的现代卫星导航系统,在军民各领域发挥了重要作用。高轨卫星由于具有对地覆盖广、运行安全稳定等优点,其自主导航的研究受到了广泛关注。高轨卫星导航滤波算法设计是高轨卫星导航的关键研究内容之一,导航系统可观测性分析作为导航系统状态可估计性能力的重要指标,是导航系统设计与导航滤波算法优化的前提和基础。现有的可观测性仅考虑测量信息对状态估计性能的影响,忽略了导航系统全过程的影响因素,本文从导航系统全过程出发,从“几何可观测”、“物理可观测”和“工程可观测”三个层面扩展了系统可观测性的定义,度量了“可见性”、“可测性”以及“可用性”对系统状态估计的影响,在此基础上,针对高轨卫星导航系统存在弱可观测性的问题,结合扩展后的系统可观测性内涵与度量准则,进行导航滤波优化。主要工作如下:1.分析了基于BDS的高轨卫星导航系统三个层面的可观测性。通过用户星与导航星的空间相对位置关系构建几何模型,给出导航系统的可见星星数,进而分析系统的可见性;通过分析系统的测量噪声的分布及统计特性对系统估计精度的影响,进而评价不同噪声的可测性;针对基于BDS的高轨卫星导航系统,提出了适用于非线性系统的可用性判定矩阵,并将其条件数作为系统的整体可用度;将可用性与导航滤波算法相结合,基于误差损失函数最小原理,提出了一种新的可用度计算方法,给出了局部可用性度量准则,得到了系统各状态分量的相对可用度大小。2.针对系统可测性不佳、系统整体可观测性弱的情况,基于EKF（Extended Kalman Filter）导航滤波算法,分别采用高斯和滤波、自适应滤波以及高斯和自适应滤波来优化导航滤波。针对系统弱可测性的问题,以噪声非高斯为例,利用高斯和滤波对系统进行状态估计,并与EKF进行仿真对比验证非高斯下高斯和滤波的有效性;针对系统弱可测性中系统模型不确定及系统可见性、可用性都较弱,即整体可观测性弱的情况,根据系统可观测性与导航滤波精度的关系,利用各状态分量可用度的映射作为反馈调节系数,构造了一种基于可用性分析的高轨卫星导航滤波优化方法;并结合测量噪声非高斯的情况下,将高斯和滤波与所提的自适应滤波进行结合提出一种新的高斯和自适应滤波方法,并进行仿真实验验证算法的有效性。