随着移动网络接入技术的快速发展,人们对于高传输速率无线通信网络的需求越来越强烈,为了满足这种日益增长的需求,无线标准组织如3GPP,一直致力于发展全新的无线接入技术。由此,LTE-A (Long Term Evolution-Advanced),作为LTE (Long Term Evlotuion)的演进版本,于2011年被确定为未来移动通信的一项新标准(Release10),其中正交频分多址接入(OFDMA, Orthogonal Frequency Division Multiple Access)作为LTE-A下行的接入方案,是一种利用频域传输数据的多载波接入技术,能够有效对抗多径衰落并且拥有较高的频谱利用率。传统接入方式中,时分多址(TDMA, Time Division Multiple Access)以及频分多址(FDMA, Frequency Division Multiple Access)等利用时域或者频域无线资源抑制小区干扰,分开用户,但在OFDM中,信号的传输同时利用了时域与频域的资源,虽然提高了数据传输速率,但不可避免产生频率复用,在蜂窝系统中,如何抑制邻小区干扰(ICI, inter-cell interference)是一个关键的课题。交织分多址(IDMA, Interleave-Division Multiple-Access)具有抗多用户干扰的优势,其特点在于利用交织器将其他用户信号以及噪声联合干扰随机化。IDMA中对接收信号先验信息的统计离不开信道估计,信道估计的准确性对于系统性能有很大影响,在目前的信道估计算法中,EM (Expectation Maximization)估计算法能够得到较好的迭代性能；另一方面,OFDM-IDMA系统能够有效对抗上行以及下行的干扰抑制问题,通过对干扰抑制模型进行建模,能够得到不同干扰模型的系统性能；为了提高传输速率,需要更高阶的信号调制,通过对IDMA中先验信息的计算进行修正,针对信号比特得到先验信息,通过对比特信息的迭代检测得到接收信号。本文首先研究了基于IDMA技术的OFDM调制接收系统及无线光FSO (Free Space Optical)系统；随后描述无线信道以及FSO信道的估计的研究,详细讨论EM迭代信道估计算法,以及FSO系统中基于光子计数的信号盲估计算法；针对不同的邻小区干扰抑制模型,对OFDM-IDMA的抗干扰性能进行仿真；针对高阶调制,提出修正的初始信息估计(ESE, Elementary Signal Estimator),对QPSK (Quadrature Phase Shift Keying)和16QAM (Quadrature amplitude modulation)的格雷码映射以及非格雷码映射在不同反馈可靠性条件下的似然公式详细讨论,仿真16QAM与64QAM的迭代性能接收性能,分析在不同邻小区干扰模型中的系统误码率(BER, Bit Error rate)的性能。