最近，笔者联系了17名来自不同领域的思想领袖，有AI专家、计算机工程师、机器人专家，也有物理学家和社会科学家。只问了一个简单的问题：“对于人工智能，我们应担心到何种程度？”

　　大家并未达成共识。不论是对担心的程度，还是这个问题的本质，答案跨度都十分之大。在有的专家看来，AI的危险性已十分紧迫；但更多专家认为，这种担忧要么被夸大了，要么根本没有必要。

　　以下是他们的回答。

　　不必杞人忧天



　　吴恩达（Andrew NG）

　　百度副总裁兼首席科学家

　　Coursera联席主席、联合创始人

　　斯坦福大学副教授

　　担心“邪恶杀手”AI，就好比担心火星上出现人口过剩。有朝一日也许会有这样的问题，但现在连登上火星都还没影呢。人们被这些不必要的炒作转移了视线，从而忽略了AI带来的更大问题：排挤就业。



　　塞巴斯蒂安·史朗（Sebastian Thrun）

　　斯坦福大学计算机科学教授

　　对我来说，人工智能有着无限的吸引力，我一点也不担心。AI会解放人类，我们不用再从事高度重复性的办公室工作，从而拥有更多时间去发挥创造力。我已经迫不及待了。



　　史蒂芬·平克（Steven Pinker）

　　哈佛大学心理学教授

　　气候变化、核武器、耐抗生素的病原体、新法西斯主义的政治运动，还有经济自动化导致的工人失业，这些才是我们要担心的事情。我们不用担心的事情，就是人工智能奴役人类。



　　玛格丽特·玛托诺斯（Margaret  Martonosi）

　　普林斯顿大学计算机科学教授

　　AI有望带来巨大的社会效益。它将重塑医药、交通等生活中的方方面面。任何技术，只要能影响到生活中的各个方面，就需要得到政策层面的重视，比如如何发挥它的作用，如何加以约束。完全忽略AI的风险固然愚蠢，但面对科技，“威胁至上”的态度总是不可取的。



　　丹妮拉·鲁斯（Daniela Rus）

　　麻省理工学院计算机科学与

　　人工智能实验室主任

　　AI是一种极为强大的工具，和其他工具一样，其本质并无好坏，关键看我们怎么用。通过收集和分析海洋与温室气体的无线监控数据，AI已经在帮助我们应对气候变化这样的问题。在AI的帮助下，我们得以分析海量病历，创建个性化的医疗方案。AI还在普及教育，确保每一个孩子都有机会学到宝贵的工作与生活技能。

　　人们对AI心存恐惧与顾虑，也是情有可原。作为研究人员，我们有责任认清这些恐惧，并提供不同的视角和解决方案。我相信，未来，AI能促进人类与机器的合作，改善我们的生活。



　　布莱恩·卡普兰（Bryan  Caplan）

　　乔治梅森大学经济学教授

　　要说可怕，设计AI的人也一样可怕。与家养动物一样，AI诞生的目的，就是服务于它的创造者。朝鲜若是掌控AI技术，后果会怎样？听着吓人，可现在朝鲜手里还握着远程导弹呢，两者并无太大的区别。电影《终结者》中AI攻击人类的情形，在现实中纯粹是杞人忧天。



　　安迪·尼伦（Andy Nealen）

　　纽约大学计算机科学教授

　　我有点担心的是“中间阶段”，比如说，自动驾驶汽车与人类司机共用道路时……一旦人类不再驾车，整体交通状况将更加安全，由于人类失误而酿成事故的情况将更为少见。

　　换言之，我担心的是技术进步过程中的“成长之痛”，但这就是人的本质——探索并推进科技前沿。我的态度不是焦虑和担忧，更多的是兴奋和警醒。



　　劳伦斯·克劳斯（Lawrence Krauss）

　　亚利桑那州立大学教授

　　起源项目负责人

　　AI既令人畏惧，又让人兴奋。毫无疑问，随着AI的持续发展，我们的生活方式将发生翻天覆地的变化。生活将因此改善，比如自动驾驶汽车，比如很多工作被代劳，这可以让人类解放出来，去从事更有意义的活动。另一方面，它也可能导致大规模失业，还会为黑客入侵提供新的漏洞。高级的网络攻击会使互联网信息的可靠性下降，削弱国内与国际基础设施。

　　尽管如此，好运总是青睐有准备的头脑，因此，我们有必要探索一切可能性，包括好的和坏的，从而做好准备。因为，无论我们愿意与否，那个未来始终将会降临。



　　肖恩·卡罗尔（Sean Carroll）

　　加州理工学院宇宙学与物理学教授

　　AI有一种特殊属性，它很容易让你想到可怕的科幻电影场景，比如人工智能接管了地球上所有的机器，奴役可怜的人类。这种可能性不是很大，不过，它倒是有可能获得执行某种任务的能力，而它是如何执行的，背后的过程却不为人所知……由此可见，意料之外的后果不可轻视。

　　仔细而彻底地思索这些潜在后果，以及如何预防，同时又不会阻碍人工智能的进步，这才是正确的应对之道。

　　但是，要报以敬畏



　　尼克·博斯特罗姆（Nick Bostrom）

　　牛津大学人类未来研究所所长

　　向机器超级智能的过渡非同小可，出大问题也不无可能，我们应予以重视。这应该会促使数学和计算机科学界的顶尖人才专门去从事AI安全性和AI控制的研究。



　　乔安娜·布莱森（Joanna Bryson）

　　巴斯大学计算机科学教授

　　普林斯顿大学信息技术政策中心研究员

　　俄罗斯黑客攻击，英国脱欧运动，美国总统大选，或是竞选团队基于选民的社交媒体信息，实施相应的操控，浇灭其投票积极性……如果AI在这些事件中起到作用，或是作为社会技术力量的一部分，导致了财富不平等的加剧和政治极化，就像19纪末、20世纪初两场世界大战和一场大萧条的前奏——那我们就得小心了。

　　倒不是说我们应该恐慌，我想说的是，我们应该在这个课题上下大力气进行研究，在摸索与治理的同时，走出这些险境。但愿AI也能让我们变得更聪明，帮助我们做到这一点。



　　斯图尔特·罗素（Stuart Russell）

　　加州大学伯克利分校计算机科学教授

　　一个显而易见的风险是，我们没能正确地指定目标，导致不可取的行为出现，并在全球范围内造成不可逆的负面后果。对这种“偶然性的价值错位”问题，我们也许能找到恰当的解决方案，虽然执行起来，可能要非常严格才行。

　　至于最有可能出现的故障模式，我有两种猜测。其一：越来越多的知识和专业技能都存储于机器之内，并在机器间传输，人类没有必要再学习那些艰深的东西，有动力去学习的人也越来越少，人类社会将日渐衰落。其二：人类失去对智能化恶意软件的控制，抑或是，有人故意使用不安全的AI，以达到不可告人的目的。

　　AI可能会取代大量人工岗位



　　朱利安·图吉利斯（Julian Togelius）

　　纽约大学计算机科学教授

　　我担心的是，随着技术应用到越来越多的岗位中，就业将受到何种程度的冲击？（在我看来，AI与其他技术并无本质区别。）我们能否设计出新的职位——尤其是在服务业和政府体系中——以此适应变革？或者，我们是不是要付钱让人赋闲在家？



　　泰勒·科文（Tyler Cowen）

　　乔治梅森大学经济学教授

　　AI不会灭掉人类，也不会奴役人类。它会使一些岗位迅速消失，让我们措手不及。白领也不会幸免。到最后，我们还是会适应过来，但重大技术变革的转型过程通常不会一帆风顺。

　　如何做好应对AI的准备



　　巴特·塞尔曼（Bart Selman）

　　康奈尔大学计算机科学教授

　　社会需要就一些问题做好准备。一个关键问题是，未来，当AI技术能够应付相当一部分常规性工作，该如何应对就业大幅减少的局面？另外，早期AI技术若是有什么需要我们担心的，那也是“不够智能”的问题，而不是“智能过头”。

　　早期的自动化AI系统犯错几率很大，而且是多数人类不会犯的错误。因此，我们有必要通过全民教育，普及AI和机器学习的局限性，以及其中潜藏的偏见。



　　摩西·瓦迪（Moshe Vardi）

　　莱斯大学计算工程学教授

　　人工智能有四个需要担心的问题。其一，AI对劳动力市场的冲击。技术进步已经给就业带来重大冲击，未来几年，其影响还会不断加大。其二，委派给AI系统的重要决定。人类该把哪些决定权握在手里？哪些可以交付给机器？对此，我们应展开认真的讨论。其三，致命的自动化武器系统。最后，“超级智能”问题，即人类无法控制机器。

　　前三个问题都已迫在眉睫，而超级智能的风险虽然屡见报端，却并不十分紧迫。我们还有充足的时间去深入评估。



　　贾安·普利萨鲁（Jaan Priisalu）

　　北约协同网络防御中心高级研究员

　　前爱沙尼亚信息系统局局长

　　我们不能把提升AI技术水平视作非法行为。否则一旦有人打破规则，那么相较于守法者而言，此人将拥有巨大的优势。同时，此人也会被判违法。这种两败俱伤的局面并不可取。此外，我们也不应忽视AI技术水平的指数级提升。如果认识不到这一点，就意味着，在规则被重新制定时，我们就已经跟不上时代了。

　　在超级智能机器时代，我们就别指望能有良好的生存条件了。侥幸心理是靠不住的。我们也别想着要与AI决战，这样做很不明智，只会激发AI的攻击性。最好的办法也许是，主动塑造不断改进的AI。教会它们如何与人类互利共存。

第三十六届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训

免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。