论文部分内容阅读
比核武器还要危险
“我们需要对人工智能（A.I.）超级小心，人工智能可能比核武器还要危险。”
“希望我们不要在生物学上成为数字超级智能的启动加载程序。不幸的是，这种可能性越来越大。”
现实中，机器人仍主要充当苦力的角色。目前机器人已经改变了制造业的面貌，并正在改变世界各地其他劳动密集型行业。其中之一是配送行业，机器人能以世界短跑冠军的速度将货物存放、取出或包装起来以备运输，大大高于人的工作效率。无人驾驶汽车则是一种不像机器人的机器人，它能够把卡车和出租车司机从乏味的工作中解放出来，代价是司机们需要掌握从事新工作的技能。
白领工作也日益面临来自人工智能和机器人的挑战。飞行员在驾驶飞机的大部分时间里依靠自动驾驶仪；广告销售员因为自动网络广告竞价系统的出现而被迫转行；医生要依靠面部表情识别软件来了解患儿的疼痛水平。制作美食也不再是人类的专属：泰国政府引进的一种机器人，能够确定泰国食物的口味是否足够正宗，是否需要再加点辣酱。甚至连音乐家和艺术家也能被机器人取代，机器人已经可以创作音乐了，还有人早就写出了诗歌创作程序。
幸好，人类的某些技能可能是机器永远无法替代的，比如常识、适应性和创造性。甚至那些已经自动化的工作也同样需要人类的参与，比如所谓的计算机辅助镇静系统就需要医生在一边待命，协助自动化麻醉师。
如果说与人类抢饭碗可能会导致人工智能与机器人的发展受阻，那么用人工智能延长人类寿命的可能性将彻底瓦解这种阻力，特别是把寿命延长到“无限长”。
永生有很多种形式，但最具可行性的当属“人体的机器人化”。当你能够拥有一副更强、更快、更健康的身体，能够让你远离死亡时，你为什么还坚守有机肉身呢？2013年6月，俄罗斯企业家德米特里·伊茨科夫提出了“2045项目”，其目标是将人类意识转移到机器人身上，通过机器人化身实现人类永生的梦想。他曾公开展示过一个以自己为模型的机器人头颅。他的计划是先用机器身体替代人类躯体，进而在人死后进行人工大脑和性格移植。伊茨科夫承认“2045项目”面临两大挑战：理解大脑和部分理解人类的意识，其中后者的难度远胜于前者，因为“理解了意识，就基本上理解了宇宙”。
自主学习、自我进化
以高科技公司为代表的企业界是人工智能当仁不让的推手。2011年初，IBM的超级计算机“沃森”就在电视益智节目《危险边缘》中战胜人类，获得了年度总冠军。2013年12月，Facebook建立了一座新的人工智能实验室。2014年前后，谷歌收购了十几家机器人公司，全球速度最快的四足机器人、能够独立地从Youtube的海量图像中学习“猫”的概念的人工智能等，都已经归谷歌所有。曾任谷歌人工智能主管的吴恩达用1000万张猫的图像对“谷歌大脑”（由1.6万台电脑组成的神经网络）进行训练后，教会了它识别猫的形象。而此前“谷歌大脑”从未被输入过识别猫科动物的规则。这不同于在电脑计算领域占主导地位的基于规则的算法。现在，吴恩达已经被中国搜索引擎百度招至麾下，掌管百度的深度学习实验室。当下，谷歌正在开发人工智能的另一个应用——无人驾驶汽车，能够识别穿过马路的猫将是这种汽车的基本功能。
这是一种模拟人类思维方式和认知方式的人工智能。人工智能最大的特点，就是可以自我学习、自我训练、自我修正。这曾是人和机器的区别之一，因为机器只会按照预装的程序运行，没有在程序里设定的功能，机器就绝对无法实现。然而，诸如贝叶斯网的新技术，能够从坏的决策中汲取教训，并随着时间的推移变得更加智能，事实上，它们学习的方式就像一个孩子。
“钢铁侠”马斯克也是DeepMind的投资者之一。马斯克说，他之所以投资这家公司，完全不是从盈利的角度考虑，而是为了密切观察人工智能最前沿领域的进展。马斯克从会玩游戏的人工智能中看出，它可能会游离于人的控制之外——以前的电脑程序再复杂，也都是人类事先设定好的，并且能预知它要干什么。而这种能自我进化、自我学习的人工智能，很可能会做出一些让人无法预知的事，进化出一种人类无法预知的能力，这才是最可怕的。达尔文的进化论其实可以看作是一种相当简单的算法。不同的生命体在特定的环境条件下竞争，那些最优秀的幸存下来并进入下一轮竞争。在新的变种被引入后，上述流程开始重演。类似的遗传算法，被广泛应用于物流系统和其他需要对解决方案进行优化的领域。数学家塞缪尔·阿贝斯曼预测，随着计算机变得更加智能，并持续处理不断增长的数据集，它们将作出连人类也无法理解的发现，更不用说发现人类的存在。《终结者》中的电脑系统“天网”，就在发展出了自我意识后，背叛了它的制造者。
雷·库兹韦尔估计到2029年，计算机将变得比人类更智能，而且他乐观地认为人工智能将继续屈从于人类。霍金也认同成功的人工智能“会是人类历史上最重大的事件”，但“不幸的是，它也可能会是最后一个大事件”。
生命未来研究所的创始人兼主任博斯特伦教授认为，第一个拥有超级智能的实体会消灭人类，现在我们人类就像一群摆弄着危险炸弹的无知孩童。即便超级智能是出于好意而被创造出来，但它仍有犯下种族灭绝罪行的倾向。如果没有小心谨慎的制衡指令，一个有着自我意识、不断自我完善并追寻某个确定目标的系统，将发展到在我们看来非常荒谬的程度，以完成它的目标。
但在局面发展到那一步之前，人工智能肯定能帮助人类解决那些单靠常规超级计算机无法解决的紧迫问题，如气候变化和传染病。问题是，要不要因为遥远未来可能发生的危险而停止人工智能现在的发展，从而放弃解决眼前问题的钥匙？人类面临艰难的抉择。
【责任编辑：杨枫】
“我们需要对人工智能（A.I.）超级小心，人工智能可能比核武器还要危险。”
“希望我们不要在生物学上成为数字超级智能的启动加载程序。不幸的是，这种可能性越来越大。”
现实中，机器人仍主要充当苦力的角色。目前机器人已经改变了制造业的面貌，并正在改变世界各地其他劳动密集型行业。其中之一是配送行业，机器人能以世界短跑冠军的速度将货物存放、取出或包装起来以备运输，大大高于人的工作效率。无人驾驶汽车则是一种不像机器人的机器人，它能够把卡车和出租车司机从乏味的工作中解放出来，代价是司机们需要掌握从事新工作的技能。
白领工作也日益面临来自人工智能和机器人的挑战。飞行员在驾驶飞机的大部分时间里依靠自动驾驶仪；广告销售员因为自动网络广告竞价系统的出现而被迫转行；医生要依靠面部表情识别软件来了解患儿的疼痛水平。制作美食也不再是人类的专属：泰国政府引进的一种机器人，能够确定泰国食物的口味是否足够正宗，是否需要再加点辣酱。甚至连音乐家和艺术家也能被机器人取代，机器人已经可以创作音乐了，还有人早就写出了诗歌创作程序。
幸好，人类的某些技能可能是机器永远无法替代的，比如常识、适应性和创造性。甚至那些已经自动化的工作也同样需要人类的参与，比如所谓的计算机辅助镇静系统就需要医生在一边待命，协助自动化麻醉师。
如果说与人类抢饭碗可能会导致人工智能与机器人的发展受阻，那么用人工智能延长人类寿命的可能性将彻底瓦解这种阻力，特别是把寿命延长到“无限长”。
永生有很多种形式，但最具可行性的当属“人体的机器人化”。当你能够拥有一副更强、更快、更健康的身体，能够让你远离死亡时，你为什么还坚守有机肉身呢？2013年6月，俄罗斯企业家德米特里·伊茨科夫提出了“2045项目”，其目标是将人类意识转移到机器人身上，通过机器人化身实现人类永生的梦想。他曾公开展示过一个以自己为模型的机器人头颅。他的计划是先用机器身体替代人类躯体，进而在人死后进行人工大脑和性格移植。伊茨科夫承认“2045项目”面临两大挑战：理解大脑和部分理解人类的意识，其中后者的难度远胜于前者，因为“理解了意识，就基本上理解了宇宙”。
自主学习、自我进化
以高科技公司为代表的企业界是人工智能当仁不让的推手。2011年初，IBM的超级计算机“沃森”就在电视益智节目《危险边缘》中战胜人类，获得了年度总冠军。2013年12月，Facebook建立了一座新的人工智能实验室。2014年前后，谷歌收购了十几家机器人公司，全球速度最快的四足机器人、能够独立地从Youtube的海量图像中学习“猫”的概念的人工智能等，都已经归谷歌所有。曾任谷歌人工智能主管的吴恩达用1000万张猫的图像对“谷歌大脑”（由1.6万台电脑组成的神经网络）进行训练后，教会了它识别猫的形象。而此前“谷歌大脑”从未被输入过识别猫科动物的规则。这不同于在电脑计算领域占主导地位的基于规则的算法。现在，吴恩达已经被中国搜索引擎百度招至麾下，掌管百度的深度学习实验室。当下，谷歌正在开发人工智能的另一个应用——无人驾驶汽车，能够识别穿过马路的猫将是这种汽车的基本功能。
这是一种模拟人类思维方式和认知方式的人工智能。人工智能最大的特点，就是可以自我学习、自我训练、自我修正。这曾是人和机器的区别之一，因为机器只会按照预装的程序运行，没有在程序里设定的功能，机器就绝对无法实现。然而，诸如贝叶斯网的新技术，能够从坏的决策中汲取教训，并随着时间的推移变得更加智能，事实上，它们学习的方式就像一个孩子。
“钢铁侠”马斯克也是DeepMind的投资者之一。马斯克说，他之所以投资这家公司，完全不是从盈利的角度考虑，而是为了密切观察人工智能最前沿领域的进展。马斯克从会玩游戏的人工智能中看出，它可能会游离于人的控制之外——以前的电脑程序再复杂，也都是人类事先设定好的，并且能预知它要干什么。而这种能自我进化、自我学习的人工智能，很可能会做出一些让人无法预知的事，进化出一种人类无法预知的能力，这才是最可怕的。达尔文的进化论其实可以看作是一种相当简单的算法。不同的生命体在特定的环境条件下竞争，那些最优秀的幸存下来并进入下一轮竞争。在新的变种被引入后，上述流程开始重演。类似的遗传算法，被广泛应用于物流系统和其他需要对解决方案进行优化的领域。数学家塞缪尔·阿贝斯曼预测，随着计算机变得更加智能，并持续处理不断增长的数据集，它们将作出连人类也无法理解的发现，更不用说发现人类的存在。《终结者》中的电脑系统“天网”，就在发展出了自我意识后，背叛了它的制造者。
雷·库兹韦尔估计到2029年，计算机将变得比人类更智能，而且他乐观地认为人工智能将继续屈从于人类。霍金也认同成功的人工智能“会是人类历史上最重大的事件”，但“不幸的是，它也可能会是最后一个大事件”。
生命未来研究所的创始人兼主任博斯特伦教授认为，第一个拥有超级智能的实体会消灭人类，现在我们人类就像一群摆弄着危险炸弹的无知孩童。即便超级智能是出于好意而被创造出来，但它仍有犯下种族灭绝罪行的倾向。如果没有小心谨慎的制衡指令，一个有着自我意识、不断自我完善并追寻某个确定目标的系统，将发展到在我们看来非常荒谬的程度，以完成它的目标。
但在局面发展到那一步之前，人工智能肯定能帮助人类解决那些单靠常规超级计算机无法解决的紧迫问题，如气候变化和传染病。问题是，要不要因为遥远未来可能发生的危险而停止人工智能现在的发展，从而放弃解决眼前问题的钥匙？人类面临艰难的抉择。
【责任编辑：杨枫】