脑机接口（Brain-computer interface,BCI）是一种无需依赖外周神经和肌肉动作传导而直接将大脑活动转化为控制指令的交互方式。如何提高异步脑机接口的性能及提供更强的人机交互能力,是BCI领域的重要研究课题。本文的主要目标是研究更高性能且实用性强的脑机接口,并实现其在机器人控制中的应用,助力于神经功能辅助和提供新型人体与神经假肢交互的手段。首先,对于异步脑机接口系统,其关键挑战是有效区分用户的空闲状态和控制状态,同时在控制状态下发出指令时保持较短的响应时间和较高的准确率。因此本文提出一种基于稳态视觉诱发电位（Steady state visual evoked potential,SSVEP）与眼电（electrooculography,EOG）信号的新型多模态异步脑机接口系统,以实现用户对12个字符的输出控制。其中每个字符分别对应以不同频率和相位闪烁的单个按键。此外,系统通过基于多频段的典型相关分析（canonical correlation analysis,CCA）方法识别以联合频率相位编码方式诱发的SSVEP信号,采用特定的眨眼检测方法识别以突出眨眼提示方式引导的EOG信号,最终实现字符的异步输出。10名健康被试参加了测试并在平均水平上取得了105.52 bit/min的ITR值、95.42%的准确率、1.34 s的响应时间和0.8%的FPR值。实验结果表明,本系统可以在有效检测用户控制状态和空闲状态的同时实现对BCI控制指令的快速及准确识别。其次,本文研究了被试在进行基于SSVEP的视空间注意力任务时的脑电活动及其在BCI应用上的分类表现。其中,视空间注意力主要由显示注意和隐式注意组成。以往的研究集中在前者,对后者产生的脑电变化及其重要性缺乏关注。因此,本文探讨了25名受试者在0.75°至13.90°的不同视网膜偏心率的条件下执行隐式注意任务,以及在显示注意和无注意任务中的脑电活动。通过对用单一频率刺激诱发的SSVEP信号进行特征分析,本文发现,被试的SSVEP响应与用不同距离表征的偏心率之间均表现出显著的负相关联系,且显示注意的多种脑电特征也明显强于不同水平的隐式注意。此外,本文对这两种注意力和无注意力的EEG信号进行解码并取得了91.42%的平均准确率。此工作有助于我们了解不同视觉注意力的脑电表征并为基于注意力转移的脑机接口研究提出了新的解决思路。再次,针对使用非侵入式BCI控制机械臂难以在三维（3D）环境中运动并完成复杂的日常任务这一关键挑战,本文提出一种融合上述多模态异步脑机接口与计算机视觉的新型机械臂脑机协同控制系统。该系统允许用户在异步模式下自由选择15个脑控指令,且每个指令对应不同的3D空间中的机械臂动作。这种BCI引导的机器人控制使用户可在脑控状态下自由移动机械臂,使其能在大范围内向目标靠近。此外,计算机视觉模块则实现在BCI引导控制后对目标进行精准识别,并协助机械臂完成更精细的抓取任务。实验结果表明,此系统达到了超过92%的在线准确率,且在通过BCI控制机械臂的三维运动中产生了高效的运动轨迹。另外,使用本文的协同控制方法能够减轻用户的精神负担,同时帮助他们以更少的BCI指令和误报及更短的执行时间完成对机械臂的移动-抓取-喝水的复杂任务控制。最后,考虑到以往的BCI相关研究要求受试者将注意集中于单任务,从而限制了他们进行其它思维或肢体活动的能力。本文讨论了人们在多任务条件下使用BCI控制机器人的表现。8名健康受试者在执行一项与运动相关（运动想象和双手平衡球动作）的任务同时,通过视空间注意力实现了对仿人形机械臂执行“喝水”动作的异步控制。其控制的准确率分别达到了90.0%和87.5%。结果表明,基于多任务BCI开发的机器人控制系统在使用仿人形机械臂实现人体增强方面具有巨大潜力。