下一代无线通信网络向着两大不同的方向演进：面向普适计算的泛在密集节点无线网络和面向高速业务的宽带无线网络。对泛在密集节点无线网络而言，如何实现密集无线节点的高效接入是目前亟待解决的技术难题。对宽带无线网络而言，如何进行网络优化以适应下一代无线通信苛刻的QoS要求是最关键的问题。针对两种网络存在的上述问题，本论文采用跨层设计的思想，研究了泛在密集节点无线网络的高效接入问题，并对宽带OFDMA网络的下行链路以及宽带OFDMA中继网络的上行链路进行了跨层优化。论文的主要内容包括： (1)针对面向未来普适计算的泛在密集无线网络，提出了基于时域预约的CDCA算法和基于时域、码域二维预约的CDCA-2D算法并给出了两种算法接入效率的理论上界，实现了密集节点环境下的高效接入。在新算法的基础上提出了网络节点数目估计的跨层优化算法和SCDF帧长度优化算法，进一步提高了接入效率。将新算法应用于射频识别(RFID)传感网络以解决“多标签碰撞问题”。仿真结果表明，相比于目前国际上流行的RFID接入算法-“Q-算法”，CDCA算法和CDCA-2D算法均能大大提高接入效率。针对RFID网络中的“多阅读器碰撞”问题，提出了一种新的基于CDCA算法思想的多阅读器防碰撞协议-DREAM协议。仿真结果表明，DREAM协议在效率和功耗方面均优予现有的多阅读器防碰撞协议。 (2)针对OFDMA网络下行链路进行了跨层优化。在当前国际上流行的网络效用最大化(NUM)方法的基础上提出了一种新的基于加权联合效用函数的跨层优化方法-WNUM方法，新方法能够充分利用多用户队列长度和多用户队列延时等网络状态信息，在保证多用户QoS需求的前提下，充分兼顾了网络吞吐量最大化与多用户之间的公平性要求。将WNUM方法应用予OFDMA网络下行链路跨层优化，给出了相应的频带最优分配和功率最优分配条件。仿真结果表明，WNUM方法相比于NUM方法能够更好的兼顾网络吞吐量最大化与多用户之间的公平性，适应下一代无线通信苛刻的QoS要求。 (3)针对OFDMA中继网络上行链路进行了跨层优化。对于OFDMA中继网络中的资源优化分配问题，在部分公平性约束的基础上，提出了完备公平性约束条件并引入了公平性松弛参数，充分考虑了源节点(多用户)之间的公平性以及中继节点之间的公平性。将完备公平性约束条件下的资源优化问题转化为LoD(LinearOptimalDistribution)模型并用有向图表示，相应的完备公平性约束转化为流量限制，简化了求解过程。仿真结果表明，相比于部分公平性约束，基于完备公平性约束条件进行资源分配能够获得更加合理的多用户公平性以及中继公平性，能够满足下一代无线通信系统中苛刻的QoS要求。