本论文主要由下面四个课题组成：第一个课题研究了G-布朗运动驱动的一维反射型随机微分方程(以下简称RGSDE)。在第二个课题里,我们考虑了G-布朗运动驱动的系数满足局部利普希茨条件的随机微分方程的解的存在唯一性。第三个课题初步探讨了G-布朗运动驱动的多维受限扩散过程。最后一个课题研究了一类终端有界的系数满足平方增长条件的二阶倒向随机微分方程的解的存在唯一性。事实上,前三个课题是在Peng [58-60]建立的一种非线性数学期望(也就是G-期望)的框架下进行的研究。在研究过程中,我们同时讨论了一些G-期望框架下随机微积分的内容。而最后一个课题在Soner等[71,72]建立的框架下拓展了的二阶倒向随机微分方程(以下简称2BSDE)理论,这种理论和G-期望是密切相关的。四个课题的共同点是：我们在一族概率测度下来考虑随机微分方程,这与经典情形是很不同的。并且,我们考虑的这一族概率测度可以是相互奇异的,这使得此类方程可以应用于解决金融数学中的波动率不确定性问题。下面我们将更进一步的介绍论文的内容以及论文的结构。在第一章中,我们首先在G-期望的框架下建立了关于增过程的随机积分,并推广了相应的G-伊藤公式。随后,我们研究了一维反射G-布朗运动,给出了其存在唯一性。接着,我们讨论了利普希茨系数的一维RGSDE的解的先验估计,并得出了此类方程解的存在唯一性。最后,我们给出了此类方程解的比较定理。本章主要来自于：Lin, Y.:Stochastic Differential Equations Driven by G-Brown-ian Motion with Reflecting Boundary Conditions. Electronic Journal of Probability18:no.9,1-23,2013.在第二章中,我们首先重述了Li和Peng[40]文中对G-布朗运动局部可积的随机过程的定义,并详细介绍了Li和Peng[40]文中定义此类随机过程的G-伊藤积分的思想。在本章的第四部分,我们在G-期望的框架下定义了关于有界变差过程的随机积分,并且再一次推广了G-伊藤公式。最后,在本章的第五部分,我们证明了两类系数满足局部利普希茨条件的GSDE的解的存在唯一性。在第三章中,我们通过惩罚法研究了凸区域内的G-布朗运动驱动的多维受限扩散过程,并在系数为有界利普希茨函数的条件下,得到了一些收敛性结果。在第四章中,我们研究了终端有界并且系数满足平方增长条件的2BSDE。在本章的第三部分,我们给出了这类方程的解的表示定理以及先验估计,并通过这些结论得到了解的唯一性。在本章的第四部分,我们通过点点的构造证明了这类方程解的存在性。在本章的最后一部分,我们将这类方程应用于解决波动率不确定时稳健的投资组合期望效用最大化问题。本章主要来自于：Lin, Y.:A New Result for Second Order BSDEs with Quadratic Growth and its Applications. arXiv:1301.0457,已投稿。下面我们给出本论文的主要结论：1.G-布朗运动驱动的一维反射型随机微分方程本章的主要结果建立在MGp([0：T)这族空间上,其中p≥1。关于这族空间的定义可以在Peng[58-60]文中找到。由于一维反射型随机方程中出现了一个推动方程解的增过程,因此,为了研究这类方程,我们首先需要在G期望的框架下建立关于增过程的随机积分的概念。这个概念由下述几个定义给出：定义1.对于一个随机过程X,如果存在一个极集(polar set) A,对于所有的w∈Ac,X.(w)：t→Xt(w)都是[0,T]上的连续映射,那么,我们说拟必然地(quasi-surely)x的所有轨道都是连续的。我们将所有这样的x组成的空问记为Mc([O,T])。定义2.我们考虑这样的随机过程K∈Mc([0,T)：存在一个极集A,对于所有的w∈Ac,K(w)：t(?)Kt(w)都是[0,T]上的增函数。我们将所有这样的K组成的空间记为MI([0,T])。这样,我们就可以依轨道地以黎曼-斯蒂尔杰斯积分来定义G-期望下关于增过程的随机积分：定义3.给定X∈Mc([0,T)和K∈M1([0,T),我们将X关于K的随机积分定义为：其中,A是一个极集,在其余集上,X的轨道是关于t连续的,并且,K的轨道是关于t连续且递增的。倘若我们考虑一个MGp([O,T)中的过程,其中p≥1,我们不一定能找到一个p’∈[1,p],使其关于增过程的随机积分属于LGp’([O,T])。不过,在一些特殊情况下,这个断言是成立的,比如：命题1.令K∈M1([0,T])∩MG2([0,T]),KT∈LG2(QT),并且φ:R→R是一个利普希茨函数。那么,f0Tφ(Kt)dKt属于LG1(ΩT)。命题2.令X为一个拟必然的具有连续轨道的G-伊藤过程,其满足表达式：其中,存在一个p>2,使得f,h,9∈MGp([O,T])。假设K∈MI([0,T])∩Gq([O,T]),并且KT∈LGq(ΩT),其中1/p+1/q=1。那么,属于LG1(ΩT)。我们注意到,Peng[60]在G-期望的框架下建立了伊藤公式,使其能够应用于系数有界的G-伊藤过程。在本章中,我们推广了这一结果,使得G-伊藤公式能够适用于一个由G-伊藤过程与增过程K加和而成的过程：首先,我们考虑了如下情形,即,待求导的函数φ是二阶连续可微的,并且各阶导数有界且利普希茨连续。引理1.令φ∈C2(R)为一个各阶导数皆有界且利普希茨连续的函数。再令f,h和9为MG2([0,T])中的有界过程,并且K∈MI([0,T])∩MG2([0,T)满足：对于任意的t∈[0,T],那么,我们有值得注意的是,与经典框架下的情形不同,为了得到上述G-伊藤公式,我们需要增过程K满足额外的正则性条件(2)。这是因为,我们需要K能在磁([0,T)里被自身截断所构成简单过程逼近。随后,我们考虑了更一般的情形：定理1.令φ∈C2(R),其二阶导数d2φ/dx2满足多项式增长条件。再令f,h和g为MG2([O,T])中的有界过程,并且K∈MI([0,T])∩MG2([0,T])满足：对于任意的t∈[0,T],对于任意的p>2,E[KTp]<+∞。那么,我们有在本章余下的部分,我们首先通过确定性的Skorokhod问题的解研究了反射G-布朗运动,得出了其存在唯一性：定理2.对于任意的p≥1,存在唯一的一对随机过程(X,K)∈MGp([O,T])×(MI[O,T])∩MGp([0,T])),使得Xt=Bt+Kt,0≤t≤T,q.s..其中,(a))X是非负的；(b)K0=0；并且(c)∫0TXtdKt=0,q.s.。将G-布朗运动B替换成一个MGp([0,T])中的G-伊藤过程,其中p>2,上述定理依然成立：定理3.假设p>2,我们考虑一个拟必然地具有连续轨道的G-伊藤过程Y,它由表达式(1)所定义,且(1)中的系数都是MGp([0,T])中的过程。那么,存在唯一的一对随机过程(X,K)∈MGp([0,T])×(MI[0,T])∩MGp([0,T])),使得Xt=Yt+Kt,0≤t≤T,q.s.其中,(a)X是非负的；(b))K0=0；并且(c)其后,我们研究了如下形式的一维RGSDE:其中,(A1)初值x∈R；(A2)存在一个p>2,系数f,h,g：Ω×[0,T]×→R满足如下条件：对于任意的x∈R,f(x),h(r),g(x)∈MGp([0,T])；(A3)系数f,h和g关于x满足利普希茨条件,即,对于任意的t∈[0.T]和x,x’∈R,|ft(x)-ft(x’)|+ht(x)-ht(x’)|+|gt(z)-gt(x’)|≤CL|x-x’|,q.s.；(A4)反射壁S是一个G-伊藤过程且它的系数都属于MGp([0,T])。此外,我们还假设S0≤x,q.s.。我们说一对取值于R的随机过程(X,K)是RGSDE(3)解,如果它满足(3),且：(ⅰ)X∈MGp([0,T]),且Xt≥St,0≤t≤T,q.s.；(ⅱ)K∈MI([0,T])∩MGp([0,T]),且K0=0,q.s.；(ⅲ)∫0T(xT-St)dKt=0,q.s.。通过确定性的Skorokhod问题的解,我们不难得出关于增过程K的表示,然后进一步推出如下两个重要的先验估计：命题3.假设(X,K)为(3)的解。那么,存在一个常数C>0,使得定理4.令(x1,f1,h1,g1,S1)和(x2,f2,h2,g2,S2)为两组满足(A1)-(A4)的参数,并假设这两组参数所决定的RGSD1(?)分别存在一个解对(X1,K1)和(X2,K2)。我们规定△x：=x1-x2,△f：=f1-f2,△h：=h1-h2,△g：=g1-g2；△S：=S1-S2,△X：=X1-X2,△K：=K1-K2.那么,存在一个常数C>0,使得这样,RGSDE(3)的解在MGp([0,T])×(MI([0,T])nMGp([0,T]))中的唯一性可以被看成上述第二个先验估计的推论。此后,我们通过皮卡迭代证明了RGSDE(3)的解的存在性。综上所述,我们有如下存在唯一性定理：定理5.假设(A1)-(A4)成立。那么,在MGp([0,T])×(MI([0,T])∩([0,T]))中存在唯一的一对随机过程(X,K)满足RGSDE(3)以及(ⅰ)-(ⅲ)。在本章的最后,我们应用先前给出的G-伊藤公式,得到了关于RGSDE(3)的解的比较定理：定理6.给定两个RGSDE,其系数分别满足(A1)-(A4)。我们又假设如下条件：(1)x1≤x2,且g1=g2=g；(2)对于任意的x∈R,ft1(x)≤ft2(x)；ht1(x)≤ht2(x)；且St1≤St2,0≤t≤T,q.s.。假设(xi,Ki)分别是参数为(xi,fi,hi,g,Si)的RGSDE的解,其中i=1,2。那么,我们有Xt1≤Xt2,0≤t≤T.q.s..2.局部化方法与G-布朗运动驱动的随机微分方程我们首先重述了Li芹Peng[40]文中对G-布朗运动局部可积的随机过程的定义,并详细介绍了Li和Peng[40]文中定义此类随机过程的G-伊藤积分的思想。随后,我们定义了一个新的空间MFV([0,T]；Rn),即,所有的n维拟必然的具有连续和有界变差轨道的随机过程的集合。与上一章使用的方法类似,我们可以定义G-期望框架下关于有界变差过程的随机积分。在给出相关定义之后,我们沿用Li和Peng[40]文中的思路,考虑了更为一般的G-伊藤公式,其中φ只要求二阶连续可微,且X是一个G-伊藤过程和一个有界变差过程的加和：证明这个结论主要分为两步：第一步,我们先假设φ及其各阶导数有界且一致连续,并且K∈MFV([0,T]；Rn)是有界的过程：第二步,我们定义了一个停时{μm}m∈N,使得φ(X)和K可以分别用{φ(X.^μm)}m∈N和{K.^μm}m∈N来逼近,这两个序列中的元素满足上一步的条件。这一部分的内容主要由下列一个引理和一个定理组成：引理2.假设φ)∈C1,。([0,T]×Rn)是一个有界函数,其各阶导数tφ,αxφ,αxx1φ也有界且一致连续。X是一个由(4)定义的过程,其系数fv和hvij属于M*1(0,T),gvj属于M*2([0,T]),其中,v=1….,n,i,j=1…,d。K是MFV([0,T)；Rn)中一个一致有界的过程,并满足：存在一个α>0,对于任意的0≤u1≤T,那么,对于任意的t∈[0,T],我们有定理7.令φ圣∈C1,2([0,T]×Rn),且X由(4)定义,其系数fv和hvij属于Mw1([0,T]),gvj属于Mw2([0,T]),其中,v=1,...：n,i,j=1,…,d。假设K属于AFV([0,T]；Rn),并满足：存在一个α>0,对于任意的0≤u1≤T,那么,(5)仍然成立。特别的,(5)中的G-伊藤积分可以由Li(?)Peng [40]文中的思想给出,而其他的随机积分都可以依轨道地在勒贝格-斯蒂尔吉斯的意义下定义。在本章余下的部分,我们考虑如下形式的多维GSDE:假设上述GSDE的系数是利普希茨的,我们有以下存在唯一性定理：定理8.我们假设如下条件：(H1)存在一个p≥2,对于任意的x∈R,fv(·,x),hijv(·,x),gjv(·,z)∈M*p([0,T]),其中,v=1,...,n,i,j=1,...,d；(H2)系数f,h和g关于z是一致利普希茨的,也就是说,对于任意的t∈[0,T]和x,x’∈Rn,|f(t,x)-f(t,x’)|+||h(t,x)-h(t,x’)||+||g(t,x)-g(t,x,)||≤CL|x-x’|,q.s.,其中,||·||是矩阵的希尔伯特-施密特范数。那么,(6)的解X在M*p([0,T]；Rn)中存在唯一,并且,我们可以在C下找到它的一个轨道关于t连续的修正。假设x,y∈Rn是两个不同的初值,令Xx和Xy表示对应于这两个初值的(6)的解。那么,存在一个仅与p,n,T和CL有关的常数C>0,使得利用停时技术,我们可以考虑更一般的GSDE,也就是非利普希茨系数的GSDE,其解可以通过利普希茨系数的GSDE的解来逼近。在本章中,我们考虑了两类非利普希茨系数的GSDE,第一类：GSDE的系数的利普希茨常数是关于t的函数；第二类：GSDE的系数是时齐的,关于z局部利普希茨,且满足李雅普诺夫稳定性条件。定理9.我们假设如下条件：(H1’)存在一个p≥2,对于任意的z∈R,关于同一停时列{σm}。∈N,fv(·,x),hijv(·,x),gjv(·,x)∈Mwp([0,T]),其中,v=1,...,n,i,j=1,...,d；(H2’)存在一个极集A,在这个极集之外,系数f,h和g关于x满足局部利普希茨条件,也就是说,对于任意的t∈[0,T]和x,x’∈Rn,|f(t,x)(w)-f(t,x’)(w)|+||h(t,x)(w)-h,(t,x’)(w)||+||g(t.x)(w)-g(t,x’)(w)||≤Ct(w)|x-x’|,其中,C是一个非负过程,满足：在这个极集A之外,其轨道C(w)在[0,T]上连续。那么,(6)的解在X∈Mwp([0,T]；Rn)中存在唯一,并且我们可以在C下找到它的一个轨道关于t连续的修正。定理10.我们假设如下条件：(H2”)系数fv,hijv和gjv:Rn→R是确定性的函数,其中,v=1…,n,i,j=1…,d,且关于x满足局部利普希茨条件,也就是说,对于任意的x,x’∈{x：|x|≤R},存在一个仅与R有关的正数CR,使得如下不等式成立：|f(x)-f(x’)|+||h(x)-h(x\)||||g(x)-9(x’)||≤CR|x-x\|;(H3”)存在一个确定性的李雅普诺夫函数V,满足：V∈C1,2([0,T]×Rn)；V≥1；且当R→+∞,此外,存在一个常数CLY≥0,使得对于所有的(t,T]∈[0,T]×Rn,LV(t,z)≤CLYV(t,x),其中,L是按如下方式定义的微分算子：其中,S：=(σijS)i,jd=1∈∑(?)Sd。那么,(6_的解X在Mwp([0,T]；Rn)中存在唯一,并且我们可以在C下找到它的一个轨道关于t连续的修正。此外,我们还有如下估计：E[V,(t,Xt,x)]≤eCLYTV[0,x).3.G-布朗运动驱动的多维受限扩散过程本章的主要结论建立在M*2([0.T)这个空间上,关于这个空间的定义可以在Li和Peng[40]文中找到。给定一个开的凸区域O,我们在其上讨论如下形式的G-布朗运动驱动的多维受限扩散过程：其中,K是一个推动X的有界变差过程,使X停留在O的闭包内。令p=2,我们假设(7)的系数f,h和g满足上一章中的(H1)和(H2)。我们说,一对过程(x,K)是n维反射型GSDE(7)的解,如果(ⅰ)X和K都是属于M*2([0,1]；Rn)的过程,并且,在一个极集A之外,二者在[0,1]上具有连续的轨道；(ii)对于所有的w∈Ac,X.(w)取值于O；K.(w)是[0,1]上的有界变差函数,且K0(w)=0；(iii)假设Z是一个满足下列条件的过程：对于所有的w∈Ac,Z.(w)取值于O,且在[0,1]上连续。那么,对于任意的t∈[0,1],除了(H1)和(H2)之外,我们在本章中还假设如下的(H3)：(H3)对于所有的x∈Rn,fv(·,z),hijv(·x)和gjv(·,x)一致有界,其中,v=1….,n,i,j=1,…,d。受Menaldi[50]一文的启发,我们构造了如下G-扩散过程序列,其每一个元素都是一个系数满足利普希茨条件的GSDE的解,并且末尾包含一个惩罚项：我们证明了如下两个收敛性结果,并且得到了n维反射型GSDE(7)的解的存在唯一性定理：对于任意的p≥1,当ε,ε’→0,定理11.假设(H1)--(H3)成立。那么,(γ的解(X,K)在M*2([0,1]；Rn)×(MFV([0.1]；Rn)∩M*2([0,1]；Rn))中存在唯一。4.系数满足平方增长条件的二阶倒向随机微分方程本章的主要结果建立在Soner等[70,71]文中所建立的拟必然的随机分析的框架下。2BSDE理论由Cheridito等[7]以及Soner等[71,72]开创,其后,Possamai和Zhou [63]研究了系数满足平方增长条件的情形。但是,为了克服技术上的问题,Possamai和ZZhou[63]除了假设系数满足平方增长条件外,还引入了一些额外的条件,而这些条件使得这类2BSDE的应用性受到了一定的限制。本章的目的就是去除这些额外的条件,从而得到更为一般的结果。在本章中,我们在一族相互奇异的概率测度PH上考虑如下方程：其中,PH-q.s.意味着上述方程在每个P∈PH下a.s.成立。此外,K的轨道是递增的,且k满足一个最小值条件。在本章中,我们假设2BSDE的系数F：Ω×[0,1]×R×Rd×DFt→R满足如下条件：(A1)DFt(y,z)=DFt与(w,y,z)无关；(A2)F是F-循序可测的且关于ω一致连续；(A3)F关于(y,z)连续且满足平方增长条件,也就是说,存在一个三元组(α,β,γ)∈R+×R+×R+,使得对于所有的(ω,t,y,z,a)∈Q×[(0,1]×R×Rd×DFt,(A4)F关于y满足一致利普希茨条件,也就是说,存在一个常数μ>0,使得：对于任意的(w,t,y,y’,z,a)∈Ω×[0,1]×R×R×Rd×DFt,|Ft(w,y,z,a)-Ft(w,y’,z,a)|≤μ|y-y’|；(A5)F关于z满足局部利普希茨条件,也就是说,对于任意的(w,l,y,z,z’a)∈Ω×[0,1]×R×Rd×Rd×DFt,|Ft(w,y,z,a)-R(w,y,z’,a)I≤c(1+|a1/2z|+|a1/1z’|)|a1/2(z-z’)|.我们注意到,在经典的随机分析框架内获得系数满足平方增长条件的BSDE的适定性也需要类似的条件(参见：Kobylanski[35](?)Morlais[51]),并且本章所采用的这些条件比Possamai(?)Zhou [63]文中采用的要更为一般。与Possamai(?)Zhou[63]文中类似,在终端ξ一致有界的条件下,我们可以得到2BS-DE(8)的解关于经典BSDE的解的表示定理,以及一些先验估计。利用这些结果,我们就能得至2BSDE解的唯一性。为了证明2BSDE(8)的解的存在性,我们首先证明了如下关键引理：引理3.假设(A1)-(A5)成立。对于给定的ξ∈LH∞和一个固定的P∈PH,我们有,对于每一个t∈[0,1]以及P-a.s.w∈Ω,ytP(1,ξ)(w)=ytPt,w,t,w(1,ξ).(9)在上述引理中,(9)式的两侧都是经典BSDE的解。倘若2BSDE的系数满足利普希茨条件,那么,这个引理可以很容易的用皮卡迭代来证明。在本章的假设下,我们依轨道地应用了经典BSDE的单调收敛定理,以得到相应的结论。此后,我们先假设终端ξ关于ω一致连续且一致有界,并依轨道地定义了如下过程：对于每一个(w,t)∈Q×[0,1],随后,根据Soner等[72]文中提供的思路,我们证明了定义了一个2BSDE(8)的解。而后,我们利用解的先验估计,可以将这个关于存在性的结果一般化,以得到本章的主要结论：定理12.假设(A1)-(A5)成立,对于给定的ξ∈LH∞,2BSDE(8)的解(Y,Z)在DH∞×HH2中存在唯一。在本章的末尾,我们通过应用系数满足平方增长条件的2BSDE理论,重新考虑了Matoussi等[49]文中建立的金融模型,并给出了一类波动率不确定时稳健的投资组合期望效用最大化问题的解。由于系数满足平方增长条件的2BSDE理论在本章中得以一般化,其解的存在唯一性不再依赖一些在实际运用中比较难以满足的条件,因此,本章末尾所考虑的金融模型也比Matoussi等[49]文中的要符合实际情况一些。