随着网络技术的迅速发展和系统功能的日益复杂，系统越来越需要一个可以信赖的计算环境来保证其中敏感信息的安全性、完整性和可靠性。系统不仅需要保证敏感应用程序自身代码的安全，而且要保证其执行过程的隔离性从而确保程序执行的操作和结果不会被攻击和窃取。尽管近年来系统安全领域的研究方面已取得显著的进步，然而，损坏系统内核的攻击仍引起很大的威胁。这类攻击能访问系统的敏感数据，隐藏恶意行为，提高恶意进程的权限，改变系统行为，甚至控制整个系统。传统地，系统保护一般是通过使用与内核一样运行在同样地址空间和权限级别的安全机制实现的。遗憾的是，这种途径不足够安全，因为攻击者一旦成功损坏内核随后也将能损坏这些安全机制。为了实现真正的内核和关键数据保护，应对安全机制进行隔离保护。这样，能通过在系统中构建一个可信的隔离运行环境并基于此来保障系统安全，这也成为保障系统安全的一种重要技术途径。　　本文的研究工作就是围绕安全隔离机制展开，致力于在一个硬件支持的安全隔离环境中通过增加编程代码来防护普通执行环境下操作系统的安全，它很好地克服了传统系统保护机制安全性难以得到足够保护的瓶颈。本文首先基于安全隔离机制为系统构筑了一个从设备启动到系统应用层的可信计算环境，并通过构建检测防御服务进一步保障普通执行环境下操作系统的安全，最后基于以上安全增强的运行环境提出了一个提高应用程序的人机交互安全的设计框架。本文也基于模拟仿真环境和开发板测试环境下对原型设计框架进行了验证，实验结果证实了它在保障系统方面的安全性、可靠性及适用性。具体而言，在基于安全隔离机制来防护系统方面，本文取得了以下的研究成果:　　1.提出一种基于安全隔离机制为嵌入式系统构筑可信计算环境的方法　　提出了将安全隔离机制与可信计算的概念结合起来为嵌入式系统构筑可信计算环境的方法，它可以在没有TPM硬件支持的情况下，通过安全隔离环境为系统构建一个可信计算环境。该方法通过在安全隔离环境中构建可信计算服务，它能加解密传输的隐私数据，密封关键数据和密钥，也能为可信操作系统提供远程证明，并为嵌入式系统构筑了一个从设备启动到系统应用层的完整信任链。本文也在模拟仿真环境和开发板测试环境下验证了提出的设计框架，实验结果和安全性分析证实了该方法能为系统构筑一个良好的可信计算环境，并能有效地为系统提供各种可信计算功能，而安全隔离机制能使可信计算服务的安全性得到足够保证。　　2.提出一种基于硬件支持隔离环境的内核安全保护的方法　　提出了一种内核安全保护方法，它通过在一个安全的隔离环境中构建检测防御服务来保障系统安全，而这些检测防护机制不会因为系统内核的损害甚至是毁坏而失效，也不能被攻击者拦截或阻止。本文提出的内核保护机制能够抵御攻击者通过恶意修改系统环境变量来篡改内核行为和阻止攻击者在普通执行环境伪造安全服务接口，保证通用操作系统与安全操作系统之间通讯通道的安全，并定时度量内核代码完整性，也对系统进行恶意进程检测。也在模拟仿真环境和开发板测试环境下验证了我们的原型设计，实验结果和安全性分析证实了原型设计在保护内核安全方面的有效性。　　3.提出一种基于安全隔离机制提高应用程序的人机交互安全的方法　　提出了将普通操作系统应用程序中涉及的敏感数据和敏感操作放置到安全隔离环境中由专门设计的安全服务来处理的方法，以保证其自身和执行过程的安全性，提出的安全框架很好地确保了用户隐私数据的安全。其中应用服务负责响应这类应用的服务请求，安全加密服务保证了敏感数据的传输安全性，并提供微小的可信GUI、独立framebuffer、安全显示及安全输入确保了人机交互的安全。也在模拟仿真环境和开发板测试环境下验证了我们的原型设计，实验结果和安全性分析都显示该方法在提高应用程序的人机交互安全方面的有效性。