边界积分方程的数值求解常常受制于积分算子的奇异性和离散矩阵的稠密性等问题,这使得边界积分方程方法求解大规模问题时需要更多的计算资源。本文考虑快速的傅里叶伽辽金方法,该算法将一个奇异的边界积分算子拆分成积分算子A+B的形式,其中算子A包含了原始算子大部分的奇异性,并且傅里叶基函数是它的特征函数,使得算子A在傅里叶基函数下的离散矩阵是对角矩阵。另一方面算子B有比原算子更好的光滑性,积分核具有更小的奇异性,使得算子B在傅里叶基函数下的离散矩阵只在部分区域显著不为零,通过设计合适的截断策略,可以将原算子在傅里叶基下的稠密矩阵压缩成稀疏矩阵,达到提高计算速度的目的。根据已有的研究表明,可以将原算子的离散矩阵中的非零元素个数降到O（n log n）水平,其中n表示所使用的傅里叶基函数的最大阶数。同时该方法能够保持和传统的傅里叶伽辽金方法相同的收敛阶O(n^-t),其中t表示真解的正则阶数。本文通过改进Laplace方程Dirichlet和Neumann内问题上的快速傅里叶伽辽金方法,使得离散矩阵的非零元素个数降到O（n）水平,同时将该算法推广到一类由双调和方程边值问题得到的矩阵边界积分方程系统上,并从理论和数值上给出了相应研究结果。具体的研究内容和结论如下:对于Laplace方程Dirichlet和Neumann内问题,我们首先通过位势理论得到原问题的积分方程形式,然后边界归化得到边界积分方程,对于其中的弱奇异和超奇异边界积分算子,我们将积分核进行拆分得到两个算子。在矩阵稀疏化的过程中,我们改进离散矩阵的截断策略,使得矩阵中非零元个数达到O（n）水平,并从理论上给出了证明。对于改进后的快速傅里叶伽辽金方法,我们通过Fredholm定理分析了算法稳定性,并进行了收敛性分析,证明该算法下的数值解保持了传统傅里叶伽辽金方法的最优收敛阶O(n^-t),并对得到的稀疏线性系统给出了预处理办法,控制了系数矩阵的条件数。对于双调和方程内边值问题,我们首先给出原问题解的边界积分方程形式,然后转化为矩阵边界积分方程系统,对于其中的积分算子进行拆分,然后设计合适的截断策略对算子在傅里叶基函数下的离散矩阵进行截断压缩,并从理论上给出了算法稳定性和收敛性结果。在每一章最后,我们给出了数值算例,以此验证算法的准确性和计算效率。