自然语言处理技术的发展深刻改变了搜索引擎、机器翻译等智能软件的设计,其中对表征的研究是重要推动力量。按照表达语义层次和学习算法划分,表征分基础表征和复合表征两类。基础表征的代表是单词表征,它被视作表达语义的最小单元,一般直接从大规模无标注语料训练得到;复合表征指从基础表征学习得到的表征,表达更高层级的语义,例如句子表征。当前,使用深度学习技术生成的高维浮点数向量表征在大量任务中表现优异。然而,随着在资源受限环境运行智能应用需求的提出,常见的基础表征表现出占用内存多、难以应用等缺点;随着数据规模的增长,复合表征在聚类等任务中暴露出时间低效。学习高效基础表征和复合表征的方法得到重视。本文选择单词和句子作为研究对象,分别提出一种高效表征学习算法,总结如下:第一,针对单词表征低效问题,本文提出基于直角三角形相似性变换的高效单词表征学习算法（RTST）。RTST首先从原始单词表征矩阵中采样出正交向量对,然后将向量对送入孪生神经网络降维。在降维前后分别做向量对减法获取斜边向量,并和正交向量对组合构成直角三角形。通过最小化变换前后的余弦角均方误差,训练得到神经网络化的相似性变换,该变换保证了局部空间不变和向量模顺序一致。除了降维,神经网络还借助激活函数指导生成二值向量。本文在内部任务和外部任务上评估单词表征,实验结果揭示了算法整体有效和组件有效,可视化分析结果定性表明生成的单词表征具有模式,效率分析定量总结出学习到的单词表征空间利用率高的结论。第二,针对句子表征低效问题,本文提出基于“构建-分解”的高效句子表征学习算法（C-D）。锚向量是C-D中的重要概念,满足一致、无偏和完备三种性质。C-D分批学习句子的高效表征:首先句子表征和锚向量计算得到相似度矩阵,然后分解相似度矩阵获取高效句子表征,分解过程中将PCA处理的锚向量视作相似度矩阵的固定因子。C-D采用离散坐标下降算法优化高效句子表征:首先数学推导出每一维的二值最优解,然后在固定其他维度数值的情况下只更新一个维度数值,并循环更新所有维度。本文从理论和实验两方面研究分析算法,结果表明算法整体有效和组件有效,最近邻检索分析定性评价句子表征编码语义丰富,效率分析定量得出生成的句子表征空间利用率高、速度快的结论。