第七次人口普查的数据显示:我国60岁及以上人口为26402万人,占18.70%,人口老龄化的形势正在加剧,相关疾病的诊治形势不容乐观。经自然腔道内镜下手术（Natural Orifice Transluminal Endoscopic Surgery,NOTES）作为一种新型的微创外科手术,具有术后体表创伤小、病患术后恢复时间短、手术费用低等多种特性,是进行疾病早期诊疗的重要手段。当前NOTES器械以手动操作模式为主,手术操作效率低且使用功能单一,,因此需要开发经自然腔道手术机器人系统以提升手术操作效率。首先,针对经自然腔道手术机器人的工具臂与器械臂的结构特性,分析了其以连续体机器人为主体结构的NOTES机器人器械臂与工具臂的运动学。连续体机器人具有摩擦力较大、各关节间存在耦合等结构特性导致运动学求解困难。为了降低求解运动学的复杂程度,建立了连续体机器人常曲率模型,并推导了基于逆雅可比矩阵的连续体机器人逆运动学求解方法,最后对连续体机器人逆运动学模型进行了仿真,验证了运动学模型的可行性。其次,针对连续体机器人在人体狭窄自然腔道下易受到外界干扰的问题,提出了一种无模型控制方法,以摆脱对于连续体机器人精准运动学模型的依赖。通过获得连续体机器人的电机驱动输入和末端位置输出,实时估计连续体机器人当前的伪雅可比矩阵,通过对仿真证明了该方法具有较好的控制精度与抗干扰能力。随后,进行了手术机器人主从映射研究。分析了人手部的震颤信号对手术操作的影响,研究了在不同的震颤信号的滤波方法下信号处理时间延迟对滤波效果的影响。根据时延和滤波效果的关系,选择了合适的滤波方法。随后进行了主从映射研究,将主操作手端的运动以适当的比例映射通过网络传输到从操作手端,验证了主从映射方法的有效性。最后,在上述主从研究和无模型控制的基础上,进行了实验研究。首先对无模型控制方法进行了实验探究,分别在自由状态和受到外部负载下进行了轨迹跟踪实验,圆形轨迹的均方根误差的平均值为2.31mm,三角轨迹的均方根误差平均值为2.448mm,并改变了轨迹参数,验证了提出的方法具有较好的适应能力;最后与基于模型的方法进行了对比,证明了该方法在存在较大初始弯曲的情况下具有明显优势。