7月23日下午，我与王渝生博士作客北京电视台科教频道，参加“八点非常故事汇”《非常聪明》节目，探讨家庭机器人未来到底有多能?放过短片后主持人英达向我发问：你觉得像片子中讲的那么聪明的机器人，人类能够造得出来吗7我给出了一个比较保守的答案：在近期的未来不太可能。但随后又补充一句：一旦真有那一天，必定出现了一种足以颠覆现有认识的超级技术。试想，假如时光倒流150年，那时候的人们谁能预料得到电话，电视和电脑这些玩意啊?
　　几天过后，看到《纽约时报》7月28日登出的一篇文章，题为《科学家担心机器会比人聪明》，还提到：由于人工智能方面令人吃惊的进展，一些计算机科学家正在争论是否应该对某些研究设限。这跟两年前在美国旧金山召开的“奇点峰会——人工智能(AI)和人类未来”所传出的信息如出一辙。在当年的那个峰会上有AI研究人员警告说，现在是制订道德指导原则以保证这些进步会帮助人类而不是危害人类的时候了。最让人最担心的情况是，一个才华横溢的发明者创造出一个对人类怀有敌意，可以自我编程但却没有道德观念的智能机器。
　　看来，对于机器人的戒备和恐慌心理是比较普遍的了。最近一些年来，人们一直有一种担心：机器总有一天会自己设计，制造并操作将来的机器，届时我们很可能没有任何办法来避免这一可能性的发生。1997年，英国人工智能与控制论专家凯文·渥维克出版了《机器的征途一为什么机器人将统治世界?》一书。书中向我们展示了第一批能够学习，互相交流和自我设计程序的机器人，并且向我们发出了警告——未来的机器人将会统治世界：“在2050年，我们人类将为机器所驱使，必须做机器规定我们做的事情。许多人被用做一般劳动力……这些人类劳工都已经被阉割了，以防止出现不必要的性冲动；而且对他们的大脑也作了适当的调整，以避免人类性格中的弱点，如发怒，感到压抑或是有一些不切实际的想法。”
　　而在当下的人工智能领域，则有这样一种理念：当人工智能机器达到一定的智能水平(即在某天突然达到一种称作“奇点”的状态)之后，它们将会“失去控制”，以我们无法想象的速度自行进化，以至于远远地并且非常迅速地把我们抛在后面。为此专家们发出警告说：如果你认为这种神一样无所不能的人工智能机器不可能被很快制造出来的话，那么不妨回想一下，利奥·西拉德在20世纪30年代预测一颗炸弹(原子弹)可以摧毁一座城市，当时的人们却把他看作疯子的情形。
　　这样的忧虑是不是有点儿过了?
　　真正的问题或许是：当我们使机器具有更多的智能时，我们并不知道哪里是危险的边缘，因为对于智能的衡量并不明确，更何况智能所要包括的领域是如此之广。正如渥维克所言，这情形“很像是闭着眼睛在悬崖上行走，每向前迈一步之前，你说：‘我刚才走的一步没出问题，因此我就再迈一步吧。’在没有到达悬崖边缘之前你还不会出事，但等到了的时候就太晚了”。到那时候，人类是圆了一个好梦还是迎来了一个噩梦呢?
　　不过，对此也有不少人持乐观态度，认为各种各样的智力至少有可能建立一种共生关系。机器人或计算机不会取代我们的地位，而会作为我们的朋友和同盟者，跟我们一道走向光辉灿烂的未来——只要我们在此之前不要自我毁灭
　　
　　责任编辑　刘俊