改革开放三十多年，我国经济发生了翻天覆地的变化，银行业结束了“大一统”时代，市场准入制度放宽，形成了大型银行、全国性股份制商业银行、城市商业银行、农村商业银行等银行金融机构组成的现代商业银行体系。中小银行近些年有了巨大的发展，截止到2012年底，共有8家股份制商业银行和3家城市商业银行上市。中小银行是支撑我国银行业未来持续发展的生力军，研究中小银行具有广泛的现实意义。本文首先回顾了国内外关于商业银行效率的主要研究成果，介绍了银行效率的定义和研究方法。然后简要介绍我国银行业发展的现状，根据2006-2012年上市商业银行的数据，运用DEA方法计算商业银行效率值，并对大型上市银行和上市中小银行的效率进行了对比分析。结果表明，上市中小银行的技术效率高于大型银行，但两者之间的差距在缩小，大型银行的效率提高更快；纯技术效率角度看，上市中小银行除华夏银行偏离效率前沿面外，其他中小银行大部分时间处于效率前沿面上，效率高于大型银行；上市中小银行的规模效率高于大型银行，其规模效率无效大多是因为处于规模效益递增阶段，可以通过扩大规模改善；上市中小银行的平均超效率值大于1，强有效，城市商业银行的表现好于全国股份制商业银行的平均情况。根据超效率结果，进一步对银行效率的影响因素进行定性和定量分析，结果表明股权结构、不良贷款率、成本收入比和资产规模对银行效率有显著影响，其中前三项与银行效率负相关，后一项对银行效率有积极影响。根据理论及实证分析结果，提出提高我国上市中小银行效率的对策。银行自身可以扩大资产规模、降低不良贷款率、提升业务创新能力、优化公司治理结构、降低经营成本等方式，同时也需要营造一个良好的外部环境。