本文主要研究反线性系统在乘性噪声干扰下的运动性质和最优控制。由于反线性系统的共轭特性,只对该类系统的离散时间模型进行了研究。本文首次给出了该类系统的稳定性、能镇定性、能观测性和能检测性等基础概念的数学描述。在此基础上深入研究了该类系统的anti-Lyapunov方程,并建立了此方程与稳定性、能观测性、能检测性之间的重要联系。而在最优控制问题中,主要考虑了该类系统的有限时间和无限时间二次型最优控制。并通过对anti-GDRE(antilinear Generalized Difference Riccati Equation)和anti-GARE(antilinear Generalized Algebra Riccati Equation)的求解,解决了此类最优控制问题。在带乘性噪声的离散时间反线性系统的运动性质的研究中,本文根据线性随机系统的渐近均方稳定的定义给出了该类系统的渐近均方稳定的定义;根据“所有的模态都会产生非零输出”的基本思想给出了该类系统的能观测性定义;根据“所有不稳定模态都会产生非零输出”的基本思想给出了该类系统的能检测性定义。同时本文采用随机Lyapunov法对该类系统的稳定性进行研究,得到了anti-Lyapunov方程并证明了当且仅当该方程存在正定解时,系统是渐近均方稳定的。接着本文利用实表示的方法证明了,在系统渐近均方稳定的条件下,anti-Lyapunov方程的正定解是唯一的。在对该类系统的能观测性和能检测性进行研究时,发现这两者在anti-Lyapunov方程和anti-GARE的求解中有着重要应用:当系统渐近均方稳定且能观测时,相应的anti-Lyapunov方程存在正定解;当系统均方能镇定且对应的某个系统能观测时,相应的anti-GARE存在正定解。在带乘性噪声的离散时间反线性系统最优控制的研究中,本文给出了二次型随机最优控制问题的数学描述,并利用动态规划法得到了有限时间情况下的anti-GDRE和无限时间情况下的anti-GARE。接着通过求解anti-GDRE和anti-GARE给出了两种情况下的二次型最优控制器的表达式和性能函数的最小值。最后为了进一步一般化二次型最优控制问题,弱化了性能函数中权重矩阵必须为正定矩阵的要求,并定义了最优问题的可适定性与可达性。接着利用广义逆矩阵和矩阵不等式作为工具,证明了该类系统的二次型随机最优控制问题的适定性与可达性是等价的,且二者的充要条件均为相应的anti-GDRE有解。