随着大数据时代的来临,现实中遇到的问题越来越复杂,如何建立更合适的数学模型来解决日益繁杂的实际问题成为近年来的一个热点。最近,作为矩阵的高维推广,张量或称为超矩阵逐渐受到大家关注,成为一个用于表征复杂数据的有效工具。使用向量和矩阵作为变量已经不满足一些实际问题的建模需求,需要以张量为变量进行建模。基于此,本文对张量空间上的优化问题进行若干研究,具体内容如下:首先,引入一类张量收缩积,它是张量与向量模式乘积的推广。探究该乘积的一些基本性质,包括数乘、交换律、结合律和分配律等,讨论与之相关的半正定张量、二次函数的梯度和单调性,并结合不同的结构张量探究张量乘积的相关性质。其次,借助于引入的张量收缩积,定义一类张量空间上的仿射变分不等式,讨论其解的存在唯一性和解集的有界性等基本性质,将一类寡头垄断市场博弈问题模型化为张量空间上的仿射变分不等式;此外,还定义一类张量空间上的线性互补问题,讨论其等价模型、可行性与可解性理论和解集的凸性等,提出一个求解此类问题的外梯度算法,在一定条件下证明算法的收敛性,并给出初步的数值实验结果。最后,本文探究定义在三阶实张量空间上的广义张量函数,证明该函数可以从相关的标量函数继承很多好的性质,包括连续性、方向可微性、可微性、连续可微性、李普希兹连续性和半光滑性。这些性质为后续研究使用广义张量函数的张量空间上的优化问题的理论和算法提供了重要的理论基础。