库兹韦尔：人类应在AI控制人类之前控制AI

（YiViAn 2016年9月23日）久而久之，在为老问题提供解决方案的科学技术也会带来新的挑战。越强大的科技，不仅越有可能带来积极的影响，而越有可能带来消极的影响。人工智能也不例外，随着AI的不断发展，人们对其危害的担心也不断增加。

在美国加州奇点大学的一个问答环节中，曾发明盲人阅读机、音乐合成器和语音识别系统的著名发明家雷·库兹韦尔表示，科技的双重作用并不是什么新鲜事。

他说：“自从人类有了火之后，科技实际上就已经变成了一把双刃剑。火可以给我们带来温暖和熟食，但也能烧毁我们的村庄。”

对新技术而言，兴奋和忧虑的循环很正常。当一项新技术诞生之后，我们幻想它可以带给我们的好处；而随着这个技术的不断成熟，我们担心会出现无法预料的风险。将两者进行综合考虑，库兹韦尔表示他自己对新技术保持谨慎乐观的态度。他承认新技术潜在危险，但他认为问题的答案不是阻止新技术的发展而是为其做好计划。

在提前制定好防范措施和标准后，我们可以更好的预防消极的影响。库兹韦尔将1975年的艾斯罗马会议作为例子，这项会议是围绕当时刚刚发明的DNA重组技术展开生物伦理方面的辩论。他相信一个类似的方法可以应用在AI和其他呈指数发展的技术身上。

随着科学力量正在改变世界，我们每一个人都应该发挥一个积极的作用，将其塑造成我们想要的方式，而不是带来与我们期望相悖的结果。

库兹韦尔说道：“最重要的事情是如何在收获丰厚成果的同时也能控制其风险。”

引用参考：singularityhub