随着各式各样智能设备的涌现,当前通信网络的频谱资源愈发紧张,可见光通信(Visible Light Communication,VLC)作为一种新的通信方式,使用的是无需授权的可见光频带资源,可以用来补充现有的射频通信。但可见光通信系统中的发光二极管调制带宽有限,因此需要研究各种提高VLC系统速率和网络容量的方法和技术,以实现高速通信的目标。异构网络(Heterogeneous Networks,HetNets)和非正交多址接入技术(Non-orthogonal Multiple Access,NOMA)是第五代通信技术中提升系统整体性能的两个重要技术。相比于传统的射频网络,可见光不能穿透墙壁的特性使其更易形成空间复用,能提供更小的小小区规模,而室内覆盖范围不同的各类照明光源,自然的组成一个异构网络。另一方面,VLC的高信噪比以及室内环境人数相对较少的特点,让研究NOMA在VLC中的应用显得格外重要。本文以基于NOMA的室内VLC异构网络为研究场景,对其中的相关问题进行研究,本文的创新性主要体现在以下两个方面:提出了一种在室内NOMA-VLC异构网络环境下基于匹配理论的用户分组方案。随着用户数增多,将所有用户都分配于同一个NOMA簇内,会使得无论是传输信号的叠加还是接收信号的解调的复杂度都大大增加,所以通常NOMA会与OMA技术结合,这就会带来如何确定每个NOMA簇内的用户组成的问题。本文基于匹配理论,提出了一个用户分组方案,旨在提高整个NOMA-VLC异构网络系统的总可达速率。本方案先将用户分成不同的两个集合,然后根据用户偏好生成偏好列表,根据效用函数对其进行分组匹配,相比于传统的分组方式,本方案基于匹配理论通过对用户的优化分组,明显地提升了系统的总可达速率。提出了一种在室内NOMA-VLC异构网络场景下结合联合传输的功率分配方案。对于异构网络场景下在小灯覆盖范围边缘部分的用户来说,大灯会对其造成严重影响,使其具有非常低的效能,为了减轻干扰,本文结合联合传输(Joint Transmission,JT),提出了一个适用于JT用户数为1的功率分配方案,旨在提高联合用户的数据速率以及系统容量。本方案根据最大传输功率差设定了功率大小的条件,然后根据这些限制提出了一个功率分配方案来对这样一个联合传输集合进行功率分配。相比于使用传统的功率分配方案,该方案能大幅提高边缘用户的传输数据速率以及系统容量。