2017夏季达沃斯论坛前瞻：直面第四次工业革命的挑战

1951年，计算机之父阿兰· 图灵(Alan Turing)提出：“如果机器能思考，那么它很可能比我们更加明智……这种新的危险……当然让我们焦虑。”

世界经济论坛创始人兼执行主席克劳斯·施瓦布（Klaus Schwab）在《第四次工业革命》一书中直言，“无论是规模、广度还是复杂程度，第四次工业革命都与人类过去经历的变革截然不同。”

“这些改变是深刻的，以至于人类在其发展历史上从未迎来如此美好的前景，也从未面临如此严峻的风险。”施瓦布说，“然而我担心的是，决策者们往往囿于传统的、非颠覆性的线性思维，或者过于关注眼前的危机，而难以对影响未来的各种颠覆和创新力量进行战略性思考。”

2017年6月27日至29日，世界经济论坛第11届新领军者年会的主题为“在第四次工业革命中实现包容性增长”。有哪些新技术正在改变人们的生活？我们面临着怎样的风险和挑战？

新技术成“焦点风险”

第四次工业革命中所诞生的新技术将不可避免地从多方面改变世界。

关于新兴技术的争论往往会出现两极分化：有些人刻意只关注潜在的收益，而另一些人则过分关注潜在的危险。真正的挑战是在这两个极端之间找到平衡。

世界经济论坛大中华区首席代表艾德维（David Aikman）告诉《中国经济周刊》说，一方面我们正面对着第四次工业革命带来的科技方面数不清的机遇与风险。另一方面我们正在寻求新的发展模式和经济机遇。

“我们要做的并不是阻止技术的进步，担忧技术进步风险带来的后果，而是探寻新技术如何带来新的就业机会，释放创业潜能，为社会带来更多福祉。”艾德维说，“第四次工业革命的新技术可以给我们更长的寿命，更可持续发展的地球，但我们必须引导这些技术的发展方向，通过共同的理念创造更多的共同利益和包容性增长。”

在即将出版的《第四次工业革命手册》中，全球风险认知调查归纳了12项新兴技术作为第四次工业革命的代表，包括：3D打印，新型材料和纳米材料，人工智能和机器人，生物技术，能源采集，存储和输送，区块链和分布式分类账，地质工程，物联网，神经技术，新计算技术，空间技术，虚拟和增强现实。

多年来，世界经济论坛发布的《全球风险报告》反复强调技术风险的重要性。在2015年的报告中，新兴技术成为报告的“焦点风险”之一，凸显了人工智能（AI）和生物技术等领域中存在的道德困境。

在2017年的全球风险认知调查中，包含一个有关12种新兴技术优势与负面后果的调查研究。结果表明，大部分受访者对于技术风险和利益的平衡普遍持乐观态度。但受访者仍在新兴技术的监管方面明确指出所需有限关注的领域为人工智能和机器人与生物技术。

AI技术武器化的风险

“第四次工业革命将为经济、社会和个人发展创造新的机遇，从而向个人和社区赋权，但同时也会导致某些群体的边缘化，加剧不平等，催生新的安全风险，以及破坏人们的社会关系。”施瓦布说。

《2017年全球风险报告》认为，理想情况下，监管制度应该足够稳定、可预测、透明，以便在投资者、企业与科学家之间建立信心，并应在公众中产生足够的信任和认知，从而让用户意识到评估早期负面后果的重要意义。

例如，自动驾驶技术会不可避免地导致一些事故，而是否会引起公众呼吁禁止该技术的发展则取决于人们是否信任已经为监管其发展而制定的机制。

从目前看，投资者对新兴技术抱着比较乐观的态度。

资料显示，全球专供AI应用的创业公司在2015年收到了24亿美元的风险投资基金，在2016年上半年收到了超过15亿美元的风险投资基金。政府项目和现有科技公司又在此基础上追加了数十亿美元的投资。

除了近期阿尔法狗 (AlphaGo) 再次战胜人类棋手之外，机器的学习技术已经能通过大数据分析来揭示有价值的信息，并且通过处理人类能力所无法企及的问题来为企业创造价值。

再比如斯坦福大学的计算病理学家分析了数百张肿瘤图像上的数千个细胞特征，发现了被忽视的乳腺癌标志物。AI应用正在以惊人的速度和创造力来降低成本并改进诊断。

但是正如许多好莱坞电影中已经表现出的“不受控”的人工智能所带来的毁灭性灾难一样，在任何复杂混乱的系统中，潜在危险包括管理不善、设计漏洞、意外和不可预见事件。这一切给确保个人、政府和企业的安全和安保带来了重大挑战。这其中最为人诟病的就是AI应用和武器战争的影响。

在日内瓦安全政策中心的Jean marc rickli看来，对于导致AI手机死机或应用程序错误或许可以容忍，但如果AI武器系统或自主导航系统的一行代码中存在错误，结果就可能是致命的。

Jean marc rickli认为，军方是从早期阶段就看到AI巨大潜力的部门之一。AI武器化将改变标准的战争方式，对国际安全与稳定有着深远影响，对于自助式武器系统的大量投资始于几年之前；2016年7月，美国五角大楼国防科学委员会发布了第一份有关武器自主性的研究，但就如何规范这些武器的发展，目前尚无共识。

国际社会在2014年的《联合国常规武器公约》框架内开始讨论致命自主式武器系统的新兴技术。但迄今为止，各国尚未就未来发展方向达成一致意见。那些呼吁禁止AI武器化的人担忧人类会被排挤到操作环节之外，将使用致命武力的决策留给机器，造成我们目前尚不可知的后果。

Jean marc rickli也列举了AI非军事应用方面的经验教训。以阿尔法狗为例，它已经击败了全球排名前列的人类棋手。它的某些棋步让观察者困惑不已，因为这完全不符合人类通常的下棋模式。负责研发阿尔法狗的谷歌DeepMind CEODemisHassabis针对这种差异的解释是，“不同于人类，阿尔法狗的程序旨在最大限度提高获胜几率，而不是将优势最大化。”如果这种二元逻辑（仅注重获胜，而非获胜优势）纳入自主式武器系统中，就会违反比例原则，因为系统算法不会认为以杀死1个对手为代价的胜利和杀死1000个对手为代价的胜利之间有什么差异。

当年计算机之父阿兰·图灵 (AlanTuring) 提出的解决方案包括，在关键时刻关闭电源——以此作为一种可能的办法，但未来的超级智能机器可能已采取措施防止外力切断电源。

在打开这样的“潘多拉魔盒”之前，制定有效的监管机制显得尤为重要。

如何监管新技术？

如何监管新兴技术是一个复杂的问题。过度地严格限制技术发展可能会延误乃至妨碍潜在利益的取得。但是，长期不明确的监管方式则会导致技术被不负责任地滥用。同样投资者也不愿意支持那些他们担心以后可能会遭到禁止或排斥的技术发展。

《2017年全球风险报告》中指出，新兴技术的监管参差不齐，有些监管严格，而另一些技术不在任何现有监管机构的职权范围内，因为几乎毫无监管可言。历史表明，新技术的最终收益和风险可能与最初的专家意见南辕北辙。

如前所述，在世界经济论坛的调查中，当被问及12项新兴技术哪项最需要监管时，人工智能和机器人以及生物技术被最多的受访者提及（超过40%）。

但事实上这两项技术的监管现状有着很大的差别。

由于涉及到生物体的改造（应用于医药、农业或工业领域），生物技术往往受到严格监管。早在1992 年联合国出台的《生物多样性公约》就已将生物技术作为一项全球性的问题监管，而现今已有196个国家批准了这项公约。相反，在全球绝大多数国家和地区，AI和机器人的监管力度不严，用经济史学家的话来说，AI 作为“通用技术”在许多领域中均有应用，而这些领域各有不同的监管制度。

世界经济论坛大中华区首席代表艾德维接受《中国经济周刊》记者采访时认为，第四次工业革命带来的新技术正在改变我们工作、生活和交流的方式，没有哪个国家、哪个行业能免受影响。

“以人工智能为例，我们并不知道对这个技术领域应该有更多监管还是更少监管，该如何监管？这是许多这样的技术所面临的挑战，因为它们不仅仅是新生事物，而且还在快速地演变，这让传统监管模式很难及时跟进。”艾德维说，“在人工智能方面，我们希望通过各方讨论提出相关监管原则，然后各国在这个共识基础上，制定自己的细则。”

正如《2017 全球风险报告》结论中所述，要确保人工智能不会超出人类为之设定的界线，我们必须继续努力建立对此类系统的信任，因为它们将改变我们的社会、政治、商业环境，为我们制定决策，并成为我们阐释周边世界不可或缺的能力。

《2017年全球风险报告》发布：

五大风险预判 水资源危机被反复提及

施瓦布在《2017年全球风险报告》的序言中写道，“对于全球社会而言，2017年将是关键的一年。”

10余年来，世界经济论坛发布的《全球风险报告》都在致力于全球风险的演变和这些风险之间深度内在关联的研究，例如，收入不平等、不断加剧的两极分化造成的风险恶化可能性，又或是经济复苏疲软和技术变革速度相关的风险。

世界经济五大风险

《2017年全球风险报告》从多个维度例举了全球面临的五大风险，比如按发生概率排列的五大风险、按影响力排列的五大全球风险等。除此之外，《2017年全球风险报告》还从总体上列举了危及2017年世界经济的五大风险：

第一，不断凸显的收入不平等。上世纪80年代以来，在英国、美国、加拿大、爱尔兰和澳大利亚等国内，占人口1%的富人所拥有的财富在全国的份额不断上升。这群人并未受到金融危机后萧条的影响。对新技术的投资使技术工人受益，而非技术工人仍然受穷。全球化使得世界上落后国家的工人受益，而西方国家的工人在其国内依然贫困，以至于“支持不满情绪的竞选将获胜”正在成为一个定理。

第二，气候变化。它被认为是今年第二个最大的风险主要源于越发频繁的极端气候变化。尽管全球周期性厄尔尼诺现象已经过去，2017年不太可能超过2016年成为历史上最热的一年，但气候当局仍然预测今年全球范围内也会是最热的几年之一。该报告指出，今年各国政府必须切实兑现他们关于《巴黎协定》的减排承诺，其实《巴黎协定》所确定的减排速度根本不足以避免危险的全球变暖。

第三，社会越趋多极化。民主面临危机，尤其是政客、公共和私人机构的当权者越发与他们的选民在文化背景、收入和福利方面拉开了距离。政府的节俭政策实际上降低了弱势群体的福利水平，多文化主义正受到民族主义的挑战。

第四，网络依赖性上升。越来越多的关键基础设施依赖开放性的网络空间，发达国家相当大的一部分经济活动依赖开放性网络，比如英国大约10%的GDP来自网络经济。这固然给人们生活和经济发展带来很多好处，却也给某些打算对社会造成破坏的组织和个人提供机会。

第五，老龄化问题。日本有四分之一人口超过65岁，其他发达国家以及相当一部分发展中国家也正朝着这方向发展。日本自2000年以来为维持一个护理保险福利计划所做的开支使其债务对GDP的比重达到了240%。中国在经济发展过程中老龄化问题逐渐呈现，需要提前采取措施解决健康护理问题。

在世界经济论坛10年的风险研究中，2007—2017年，按影响力排列的五大全球风险，从2007年到2014年的首位都和金融相关，比如资产价格崩溃、财政危机和重大系统性金融崩盘，但从2012年水供应危机成为第二大风险后，从2013年到2017年，水资源危机都排在影响全球五大风险的前三位，这其中的趋势反映了什么问题？

世界经济论坛大中华区首席代表艾德维（David Aikman）在接受《中国经济周刊》记者采访时分析，在2012年前那段时间，世界主要关注点确实在金融系统方面，毕竟那时候世界经历了过去75年间最严重的金融危机，在人们的印象里，这方面的危机在影响程度上被认为是最严重的。但气候变化因素一直在人们视线中，并不是忽然出现的，其重要性逐步上升。

“实际上，从可能性和影响程度看，气候变化相关的风险严重程度是我们近10年报告所未见的。”艾德维说，“我们担心的是，这些环境风险造成的后果，可能不仅仅是经济上的，还可能引发冲突和严重的社会动乱。因此尽管这样的影响可能会是今后遥远的事，但是各国共同加紧面对还是很重要的。世界经济论坛要做的，就是在我们所有的利益攸关方之间汇聚支持力量，促进交流，加强合作，力争形成积极的影响。”

相关链接: