无线多入多出(MIMO)传输链路在发射和接收端同时采用多副天线进行数据收发，能够同时获得复用和分集增益，从而提高无线通信系统的功率效率和频谱效率。为了充分利用MIMO技术带来的增益，需要设计与MIMO信道状态信息匹配的MIMO信号检测算法，并合理设计MIMO系统参数。考虑到实际应用的需要，MIMO信号检测算法需要在复杂度和系统性能之间取得合理的折中。本论文围绕无线MIMO传输链路中的信号检测和参数设计问题，研究了信道编码无线MIMO传输链路中，非理想信道估计下的软输出线性最小均方误差(MMSE)检测算法、软输出排序串行干扰抵消(OSIC)MMSE检测算法、MIMOTurbo接收机中降低复杂度的MMSE软干扰抵消(SIC)检测算法、基于线性检测算法的导引与数据符号功率分配、时变多径衰落信道下Alamouti编码的正交频分复用(OFDM)系统参数设计。论文首先在第二章中研究了块平坦衰落信道、非理想信道估计下的软输出线性MMSE MIMO检测算法。基于随机矢量和矩阵理论，分析了相关MIMO信道下的最大似然(ML)和MMSE MIMO信道估计的统计特性。基于对信道估计统计特性的分析，导出了相关MIMO信道下，分别采用两类信道估计方法的MMSE滤波器，给出了编码后比特软信息的计算方法，并比较了算法的复杂度。仿真研究表明：得到的软输出线性MMSE检测算法优于现有软输出线性MMSE算法。第三章继续第二章的研究思路，研究了软输出OSIC MMSE MIMO检测算法。为了提高输出的编码后比特软信息的可靠性，首先研究了理想信道估计下，基于后验符号概率估计、考虑残留干扰抵消误差的软输出OSIC MMSE MIMO检测算法，给出了降低复杂度的实现方法。基于提出的软输出OSIC MMSE MIMO检测算法，结合第二章中的研究结果，进一步研究了相关MIMO信道下，考虑信道估计误差的软输出OSIC MMSE MIMO检测算法，分析了算法复杂度。性能仿真显示，得到的算法相比现有算法具有明显的增益。在第二章和第三章研究的基础上，第四章研究了独立块平坦衰落MIMO信道下，采用MMSE MIMO信道估计和线性MIMO检测算法时，发射机端导引和数据符号功率分配算法。对于迫零(ZF)检测算法，首先推导了考虑信道估计误差的软输出检测算法；基于该算法，分析了处理后信噪比(SNR)。在此基础上，基于最大化平均处理后SNR，导出了优化的导引和数据符号功率分配比，并证明了该功率分配的性能限是理想信道估计。对于MMSE检测算法，则基于最大化平均处理后SNR的下限，导出了优化的导引和数据符号功率分配。对两类算法，均证明了优化值的存在性和唯一性，并给了高SNR区域的简化分配算法。仿真结果证实了所得到的功率分配算法具有逼近最优的性能。第五章研究了MIMO Turbo接收机中，降低实现复杂度的MMSE SIC检测算法。在分析现有算法特性的基础了，提出了基于估计的先验符号概率可靠性的MMSE SIC检测算法。在MIMO Turbo接收机中，随着迭代次数的增加，发射符号的先验概率的估计会越来越接近真实值。所提算法利用这一特性，在复杂度和性能之间取得了合理的折中。第六章研究了时变频率选择性信道下，Alamouti编码OFDM传输链路中，最大化中断信息速率的OFDM子载波设计问题。基于等效MIMO信道表示，利用OFDM子载波分簇和高斯近似，首先推导了时变频率选择性信道下，Alamouti编码OFDM无线传输链路的中断信息速率的紧上限。在此基础上，给出了最大化中断信息速率的OFDM子载波设计方法。最后，第七章对全文进行了总结，回顾了前面所述的研究工作，并根据目前的研究情况对未来的研究方向作了展望。