自古以来，对技术的发展就存在着两种极端的看法：技术崇拜和技术恐惧。技术崇拜论者认为，技术是化解人与自然之间矛盾的唯一手段和途径。而技术恐惧论者则认为技术在带来生产力解放的同时，可能对人类带来危害，甚至是毁灭。从布鲁诺到19世纪英国纺织工人摧毁机器，都表现出人类对技术可能引发的社会问题的恐惧。进入21世纪，人工智能技术的兴起再次引起人们对技术发展可能带来的社会问题的质疑。其中就业、伦理安全和是否存在技术泡沫成为普遍关心的话题。

技术在减少部分工作的同时创造更多的就业机会。早在2013年，Carl Benedikt Frey and Michael Osborne在考察702种职业的计算能力之后认为，美国47%的工人都面临因工作自动化而导致的失业风险。其中，大部分运输业、客运业和公关领域都可能被计算机所取代。他们认为，机器学习近期的发展将占据大量的职业岗位。在他们后续的研究中指出，英国有35%的职业可能被取代，而在日本这一比例将高达49%。

但是我们考察一下技术进步与人口增长之间的关系时，就可以发现技术进步是人口增长的决定因素。例如，20世纪中期之后的人口的快速增长，是工业革命的结果。与每一次科技产业革命相伴随的，是劳动分工的细化和新的产业部门的出现，同时会改造传统产业部门。技术进步不仅可能使部分职业消失，而且会因为分工的细化而创造出更多的就业机会。

人工智能的发展同样是这样，人工智能技术的应用一方面会造成部分职业的消失，例如，保安、客服和翻译工作者，另一方面却带来了软件开发者、技术和服务维护人员就业需求的增加。同时，人工智能技术的应用会提高劳动生产率和减少工作强度，使人类有更多的时间从事知识密集的创造性活动和就业弹性高的服务行业。

人工智能可能带来伦理问题。随着人工智能越来越广泛的应用，算法日益影响人们的日常经济和生活，甚至主导着人类的经济和社会事物。从算法如何影响人类的决策行为出发，人工智能是否会带来一系列伦理问题，成为人们关注的话题。

人工智能可能带来的伦理问题主要表现在四个方面：

第一，人工智能应用于人类决策过程中可能存在着算法歧视。例如，深度学习属于典型的“黑箱”算法，通过持续的数据训练，最终的决策程序和机制非常复杂，甚至连设计者都无法清楚算法是如何决策的。如果被算法应用于包括司法和信贷等涉及人身利益和情感场合，可能出现性别歧视和种族歧视等问题。

第二，隐私问题。一方面在深度学习过程中使用了大量的敏感数据，数据在应用过程中可能把个人隐私披露出去，另一方面大量的数据产生于交易过程中，数据频繁流动可能造成个人对数据控制和管理的疏漏，带来一系列隐私泄露问题。

第三，责任和安全问题。为防正人工智能给人类带来的安全问题，继阿西莫提出了机器人三定律之后，2017年阿西洛马会议上进一步提出了23条人工智能原则。尤其是随着自动驾驶汽车和智能机器人的发展，可能造成的人身和财产安全的责任问题成为考验人类智慧的重要领域。因为现有的法律体系是基于人的行为制定的，而机器的开发者在开发过程中很难预测到机器人未来的行为会造成什么样的危害。

第四，机器人的权利问题。随着机器人越来越智能，在法律如何界定它们的身份，是自然人、还是法人、物或者动物？都需要认真思考和界定。

中国新一代人工智能发展战略研究院
南开大学经济研究所
2018年5月15日