所谓内部交易,是指拥有部分或全部风险资产信息的市场代理人,称为内部交易者,利用信息优势以噪声交易者为掩护使自己利益最大化;而做市商会根据市场已有信息对风险资产进行定价,以保证市场的有效性.但是现实市场中,内部交易者、做市商、噪声交易者存在各自不同的目的,掌握风险市场的信息不同,风险偏好也各异.这些市场参与者之间如何进行博弈达到市场均衡,是金融领域最关注的问题.本文将基于不同代理人特征,研究一些较切合实际的连续内部交易数学模型,分析市场均衡及其特点.进一步从理论上,还研究一些与之相关的数学问题.本文主要研究内容和结果如下:首先,基于内部交易者是风险中性或风险厌恶的特征,建立了相应的动态风险资产连续内部交易模型.然后,利用滤波理论和随机动态规划原理,证明了一种由最优交易策略和半强有效性定价组成的线性Bayesian市场均衡的存在唯一性.最后分析了风险厌恶程度和风险资产波动率对均衡特征的影响.理论和仿真表明:无论内部交易者的偏好如何,随着时间的推移,均衡市场中的剩余信息均减少而交易强度均增大;但是,当内部交易者是风险中性时价格压力恒定不变,当内部交易者是风险厌恶时价格压力减小.此外,当内部交易者风险厌恶程度减弱时,风险厌恶均衡趋于风险中性均衡;当动态风险资产波动率趋于零时,动态风险厌恶均衡趋于静态风险厌恶均衡.其次,基于做市商观察到风险资产部分信息的特征,建立了做市商部分观察下交易随机截止的连续内部交易模型.然后结合滤波理论,利用随机动态规划原理和泛函最大值原理,分别证明了一种线性Bayesian市场均衡和一种线性期望市场均衡的存在唯一性.最后分析了两种线性均衡的异同,并分析了做市商部分观察和市场随机截止对均衡特征的影响.理论和仿真表明:当做市商部分观察信息精度越低,交易强度和市场深度越低,但剩余信息越多且内部交易者获得的期望利润越高.此外,随着交易时间的增加,交易强度和市场深度均增大,而剩余信息却减少;随着平均交易时间的增加,剩余信息也增加,但交易强度减弱,而市场深度关于平均交易时间是一个单峰函数且有唯一的最小值,如果平均交易时间越长,内部交易者的期望利润越高.再次,基于噪声交易者记忆性的特征,建立了噪声交易者带记忆而交易随机截止的连续内部交易模型.然后,利用分数维滤波理论最大值原理,给出了一种线性期望均衡存在时剩余信息满足的必要条件,同时发现在一定条件下当噪声交易者的记忆降低时,最优交易强度和剩余信息分别趋向于无记忆时的情形.另外,应用参考概率空间概念、分数维滤波理论和鞅理论,证明了一类条件平均场分数维布朗运动随机微分方程Q0-弱解的存在唯一性.以上研究结果,可以为内部交易者理性决策、做市商有效定价提供理论指导和参考.