任务关键系统与国防民生、基础设施服务等国家关键领域息息相关,现有的行为检测系统对不确定行为、可疑行为消极处理,使其漏报率过高,难以满足需求。为了提高任务关键系统在开放环境下的安全性和可生存性,将信任机制与行为判定相结合,提出了一种基于信任机制的实体行为判定方法,面向Windows主机环境对实体行为进行信任管理,确立了信任管理的信任证据内容,给出了信任的表示方法和存储方法,提出了基于多维因素的信任评估算法,并通过仿真实验证明了行为检测系统在应用此行为判定方法后可以有效提高检测准确率。首先,介绍了任务关键系统的生存现状,总结了入侵检测技术的相关概念及分类,列举了现有检测机制的不足之处,考量了信任的定义、属性及成熟网络环境下的信任管理方法,为主机环境下的行为信任管理提供了强有力的理论支撑,并对信任机制与行为判定相结合的技术可行性进行了分析。其次,给出了基于信任机制的实体行为判定方法的总体设计框架,确定了行为判定方法各模块间的耦合结构。结合主机环境下的行为特征,确立了行为信任证据的内容和信任证据收集机制,详细刻画了离散信任表示方法以及信任证据量化依据。依据EigenTrust算法和PeerTrust算法的思想,提出了一种基于多维因素的信任评估算法,缓解了主机资源占用与信任评估效率之间的矛盾,给定了行为判定方法的统一对外接口形式。再次,提出了基于信任机制的实体行为判定方法的实现要求,依据此要求分别给出行为判定方法各模块在Windows主机环境下的具体实现机制。分析了信任证据收集途径,设计了信任存储的数据结构,实现了基于多维因素的信任评估算法,并通过实验确立了行为判定的可信阈值。最后,通过仿真实验对比行为检测系统在应用此判定方法前后的检测准确率,说明了此判定方法对行为检测系统的有效性,同时也证明了信任领域与行为检测领域交叉结合的部分可能性。