大规模MIMO(Massive multiple input multiple output)技术通过将基站天线数量从几根、十几根增至几百根不等,获得了提升频谱效率,降低时延和噪声干扰等优势,并被第五代通信系统采纳作为其关键技术之一。但是,大规模MIMO技术却因为受到信道相干时间长度的制约,导致无法为系统中每个用户分配相互正交的导频序列,进而产生了导频污染并影响信道状态信息估计的准确性,使该技术的发展遇到瓶颈。因此探索并研究大规模MIMO系统中导频污染抑制的方法,对提升通信系统的性能具有重大的意义。本文主要对大规模MIMO系统的上行链路传输部分进行了研究,并分别从改善导频分配方案、优化导频序列设计和上行信道估计算法的角度出发,提出了两套可抑制大规模MIMO系统中导频污染的方案。首先,本文对大规模MIMO的系统模型与信号传输方案进行了分析,并对大规模MIMO系统中导频污染的成因进行了理论推导。分析结果表明:导频污染给系统带来了用户信干噪比下降、系统容量降低等负面影响。其次,针对大规模MIMO系统中由于各小区复用相同导频序列而产生的导频污染问题,本文提出一种联合极坐标导频分配和伪随机码导频设计的方案。先对每个小区内的所有用户用极坐标对其方位进行标注,并根据用户的极角大小依次分配导频序列,再采用不同时延的伪随机码对不同小区使用同一导频序列的用户进行干扰,以此减轻导频污染给信道估计造成的不利影响。相比于其他传统方案,本方案能够使系统信道估计的标准均方误差在其他方案的基础上再降低1.43-2.83%,信干噪比的累积分布函数性能提升28%,用户传输速率提升40%,更加接近无导频污染情况下系统的性能。同时,针对多用户大规模MIMO系统中由于存在导频污染而导致信道估计存在误差以及传统信道估计算法复杂度较大,进而影响系统性能的问题,本文提出一种基于角度域奇异值分解(Singular Value Decomposition,SVD)的多用户大规模MIMO信道估计算法。利用大规模MIMO系统空间相关信道在角度域下具有近似稀疏性的优势,在角度域中进行信道估计,并利用SVD替代信道估计中信道自相关矩阵求逆的过程,降低信道估计算法复杂度。相比于传统信道估计方案,本方案能够有效地使信道估计的标准均方误差性能提升51.02-66.66%,用户上行链路传输的平均传输速率提升36%。最后,本文将本论文所提出的新方案联合使用,处理大规模MIMO系统中存在导频污染的问题。并对其进行性能仿真。通过研究得出,联合后的方案相比于分别单独使用本文所提出的两个方案,信道估计的标准均方误差性能提升约8-14.8%,累积分布函数性能提升2.3-7.3%,用户上行链路传输的平均传输速率提升约3-6.6%。