人类自古以来就不断发明和改进计算工具，从古老的“结绳记事”，到算盘、计算尺、差分机，再到电子计算机的诞生，计算工具经历了从简单到复杂、从低级到高级、从手动到自动、从自动到电子的发展过程。
　　最原始的人造计算工具是算筹。算筹最早出现在何时，现已无法考证，但在春秋战国时期，算筹的使用就已非常普遍了。根据史书的记载，算筹是一根根同样长短和粗细的小棍子，多用竹子制成，也有用木头、兽骨、象牙、金属等材料制成的。它采用十进制记数法，有纵式和横式两种摆法，这两种摆法都可以表示1至9九个数字（数字0用空位表示）。算筹的记数方法为：个位用纵式，十位用横式，百位用纵式，千位用横式……这样从右到左、纵横相间，就可以表示任意大的自然数了。
　　计算工具发展史上的第一次重大改革是算盘的出现，它也是我国先民首先创造和使用的。算盘由算筹演变而来，并和算筹并存了一段时期，最终在元代后期取代了算筹。算盘轻巧灵活、携带方便，应用极其广泛，先后流传到日本、朝鲜等国家，后来又传入西方。
　　算盘采用十进制记数法并有一整套计算口诀，例如“三下五除二”“七上八下”等，这是最早的体系化算法。
　　算盘能进行基本的算术运算，是公认的最早的计算工具。
　　17世纪，欧洲出现了利用齿轮技术设计出的计算工具。1642年，法国数学家帕斯卡发明了帕斯卡加法器，这是人类历史上第一台机械式计算工具，其原理对后来的计算工具产生了持久的影响。它是由齿轮组成、以发条为动力、通过转动齿轮来实现加减运算、用连杆实现进位的计算装置。
　　帕斯卡在制作加法器的过程中得出结论：人的某些思维过程与机械过程没有差别，因此可以设想用机械模拟人的思维活动。
　　德国哲学家、数学家莱布尼茨因发现帕斯卡一篇关于“帕斯卡加法器”的论文，产生了强烈的发明欲望，决心把这种机器的功能扩大为乘除运算。
　　1673年，莱布尼茨研制了一台能进行四则运算的机械式计数器，这台机器在进行乘法运算时采用进位加，即步进的方法，后来演化为二进制，被现代计算机采用。
　　在莱布尼茨发明步进计数器之后的一百多年中，虽有不少类似的计算工具出现，但除了在灵活性上有所改进外，都没有突破手动机械的框架，这种用齿轮、连杆组装起来的计算设备限制了其自身的功能、速度以及可靠性。
　　1886年，美国统计学家何乐礼借鉴雅各织布机的穿孔卡原理，用穿孔卡片存储数据，采用机电技术取代纯机械装置，制造了第一台可以自动进行加减乘除四则运算、累计存档、制作报表的制表机。这台制表机参与了美国1890年的人口普查工作，使预计10年的统计工作仅用1年零7个月就完成了。这是人类历史上第一次利用计算机进行大规模的数据处理。何乐礼于1896年创建了制表机公司，并于1924年后将其改名为国际商业机器公司，这就是赫赫有名的IBM（International Business Machines Corporation）公司。
　　后来，美国哈佛大学应用数学教授艾肯在IBM公司的资助下，于1944年成功研制了机电式计算机Mark-I。Mark-I长15.5米，高2.4米，由75万个零部件组成，使用了大量的继电器作为开关元件。它的计算速度很慢，执行一次加法操作需要0.3秒，且噪声很大。
　　艾肯等人制造的机电式计算机的典型部件是普通的继电器，由于继电器的开关速度是0.01秒，使得机电式计算机的运算速度受到限制。
　　1939年，美国爱荷华州立大学数学物理学教授阿塔纳索夫和他的研究生贝利共同研制了一台名为ABC（Atanasoff-Berry Computer）的电子计算机。由于经费有限，他们只研制了一个求解包含30个未知数的线性代数方程组的样机。在阿塔纳索夫的设计方案中，第一次提出利用电子技术提高计算机的运算速度。
　　第二次世界大战中，美国宾夕法尼亚大学物理学教授莫克利和他的研究生埃克特受军械部的委托，为计算彈道和射击表启动了研制ENIAC（Electronic Numerical Integrator and Computer）的计划，这台机器被后人誉为“标志人类计算工具历史性变革的巨型机器”。
　　之后，普林斯顿大学数学教授冯·诺依曼发表了《离散变量自动电子计算机》（EDVAC，Electronic Discrete Variable Computer）方案，确立了现代计算机的基本结构，提出计算机应具有运算器、控制器、存储器、输入设备和输出设备等五个基本组成部分，并提出“采用二进制”和“存储程序”这两个重要的基本思想。冯·诺依曼的伟大功绩在于他运用雄厚的数理知识和非凡的分析、综合能力，在EDVAC的总体配置和逻辑设计中起到了关键的作用。
　　总之，ABC电子计算机正好处于模拟计算与数字计算的门槛上，而ENIAC的问世则让计算机进入数字时代，最终冯·诺依曼吸取了图灵机的理论成果开发出冯·诺依曼架构。从此，数字计算机的整体架构得以确立。