近年来，矢量光束由于其独特的性质而得到了广泛的研究。其中，两个具有代表性的矢量光束是径向偏振和角向偏振矢量光束。径向偏振光束在大数值孔径的聚焦条件下，在焦平面附近可以得到一个很强的纵向或者无衍射的电场，此外，角向偏振矢量光束在深聚焦条件下可以得到一个中空焦斑。最近，具有复杂偏振态的光束，例如一种新型的随径向变化的混合偏振矢量场成为了研究的热点。由于矢量光束的这些独特性质，使得矢量光束已经在光存储、粒子的捕获和加速、高分辨显微镜、材料加工和分子的定向中有着广泛的应用。因此，对这些矢量光束的传输和聚焦特性的研究具有重要的理论和实际意义。在本论文中，我们以混合偏振矢量光束为主要研究对象，详细的研究了混合偏振经过大数值孔径透镜聚焦以后在聚焦场的聚焦特性，部分相干径向偏振和角向偏振的传输与聚焦特性，以及相关参数变化对传输和聚焦特性的影响。1．基于Richards-wolf的矢量衍射理论，我们研究了混合偏振矢量光束深聚焦的特性。通过数值计算我们研究了混合偏振矢量光束深聚焦的能量、偏振态和相位分布的特性。我们发现通过大数值孔径聚焦，混合偏振矢量光束径向变化的自旋角动量（SAM）会转变成径向变化的轨道角动量(OAM)。随着径向系数的增大，发现焦斑的形状会从一个椭圆变成一个圆环。2．基于德拜矢量积分理论，推导出了混合偏振矢量光束经介质面深聚焦的光强表达式。研究结果表明，利用混合偏振矢量光束经过介质面的大数值孔径聚焦，可以得到一个超长（~14λ）、亚波长尺寸（~0.9λ）的“光针”，它具有很强的横向偏振特性而且光强沿着光轴分布均匀。此外，研究发现焦平面的横截面上的偏振态是径向变化的。这种无衍射的“光针”可以用在原子的光学实验，例如原子的捕获和原子开关等实验。3．基于广义惠更斯-菲涅尔理论和相干偏振矩阵，我们从理论计算和实验研究了矢量光束的传输和聚焦特性。其中包括径向偏振和角向偏振矢量光束的研究。研究结果表明,可以通过改变部分相干矢量光束的相干度来对光束进行整形。此外，我们可以得到中空、平顶和高斯型光束，这些光束在粒子的捕获有着重要的应用。