脑电信号作为人脑复杂电生理过程的表现,其中包含了与人脑的生理结构、状态相关的丰富信息,而由于其自身高度的复杂性,人们对脑电的这种不规律的振荡行为至今尚未完全理解。脑电信号被认为是一种不具备各态历经性的非平稳信号,传统的信号处理方法往往不能有效地反映出大脑的活动过程,而非线性动力学方法,如混沌、分岔等,为脑电的研究与应用提供了新的方法与途径。目前脑电信号混沌特性的研究虽然取得了一定成果,但对于大脑在不同内外部因素影响下可能出现的复杂行为方面,仍有许多问题需要进一步认识。本文研究了几类脑电模型在不同因素作用下,脑电的混沌动力学行为。提出了一类带有时延的脑电模型,其中包含了疾病、衰老等可能因素对大脑信息传递的影响,研究了时延状态下脑电模型的Hopf分岔和振荡现象。针对时延因素的影响,进一步提出了一种导数反馈控制方法,消除了时延带来的影响,其研究结果为相关临床和实验研究提供了理论基础。本文还研究了由兴奋型和抑制型两种耦合神经元集群所表达的脑电模型,在对其进行降阶,线性化等处理后,得到了其稳定条件。通过改变神经元集群兴奋性输入,研究了模型发生的复杂动力学过程。通过绘制分岔图和Lyapunov指数图,直观地验证了在不同输入强度下模型的分岔、周期窗、混沌等动力学行为。考虑到诱发电位等实验中外部刺激因素,研究了一类脑皮层功能柱模型,通过改变锥体细胞与神经元之间的连接数量,得到了不同频率成分的脑电形式。在一定的外部刺激下,模型出现了Hopf分岔,研究了该模型的稳定状态与周期振荡之间的关系。脑-机接口是一种全新的人机接口方式,是近年来脑功能研究的热点课题。脑-机接口技术可以恢复有严重运动障碍患者的正常运动功能,提高其生活质量。为了将脑电信号的混沌特征应用于假手控制系统,在理论研究的基础上,本文设计了与视觉输入相关的脑电实验,研究视觉输入对脑电非线性特征的影响。通过运用多种混沌时间序列分析方法,分析了在有视觉输入和无视觉输入两种状态下脑电关联维数的变化过程,在无视觉输入的情况下大脑的活动更多的表现为自治状态,复杂程度降低,而在有视觉输入时脑电信号中包含了视觉信息加工等诸多因素,复杂度较高。进一步提出了一种连续计算脑电混沌维数复杂度的方法,获得了脑电信号关联积分的线性区间,基于对原始数据的分割,降低了算法的计算负载,并讨论了如何消除数据分段对维数复杂度计算的影响,通过数值仿真验证了该方法的有效性。最后,在理论与实验分析的基础上,开发了一套基于脑电混沌特征的假手控制系统。设计开发了系统的硬件平台,包括信号放大,滤波处理,信号隔离,模数转换等环节,进一步编制了系统的分析软件。基于脑电信号的混沌特征,实现了对机械假手的控制,并得到了较高的正确率。