太和文明论坛

首页>2017年>论坛新闻

人类会造出主宰自己的上帝吗？ ——“太和文明论坛”人工智能分论坛连线

2017-09-12

人类会造出主宰自己命运的上帝吗？2017年8月25日至27日，夏去秋来之际， IBM 中国研究院院长兼大中华区首席技术官沈晓卫、微软亚洲研究院副院长潘天佑、联想创投董事总经理王光熙、亚马逊AWS首席云计算技术顾问费良宏等业内顶级专家，齐聚太和智库发起创办的首届“太和文明论坛”人工智能分论坛，深入讨论“人工智能的未来应用及对人类伦理制度的挑战”，与会嘉宾达成一项基本共识，即人工智能与人类文明和谐共生，恰好契合了“太和”的理念。

有两类行业危险了

过去一年多来，大家目睹了人工智能正在改变甚至颠覆一些行业，而且已经习惯了这一事实。围棋行业已经被人工智能彻底颠覆。2016年3月，当AlphaGo战胜韩国棋手李世石时，人人都在(故作)吃惊地谈论人工智能；在2016年底、2017年初Master对人类棋手60连胜时，关注度尚可，但没有人做吃惊状了；到2017年5月底柯洁完败于AlphaGo，所谓的关注就不再是例行的、礼貌性的了，谁也没有指望人类棋手世界排名第一的柯洁能大反转。未来已来，现在已没有人怀疑人工智能终有一天会彻底颠覆人类的生产方式与生活方式。

在“太和文明论坛”人工智能分会场上，谷歌大中华区总裁石博盟（Scott Beaumont）做了题为《给所有人的AlphaGo与人工智能》的讲演，向大家揭示了AlphaGo的秘辛。2016年3月，AlphaGo跟李世石进行对弈，在第二局当中，AlphaGo下出令人惊叹的第37手棋，这是机器本能觉醒的一手棋。与李世石对弈的AlphaGo，由谷歌云上的50个TPU（谷歌的超级人工智能芯片）运行，每秒可搜索50手棋100000个落子位置，强大的算力把人脑抛过了N条街。一年后AlphaGo只需要一个单独的TPU就可以完成所有的算法，能通过自主搜索进行学习，24小时不间断地跟自己下棋，有着更为强大的策略网络与价值网络，高明的算法让人类的围棋大师瞠乎其后。无怪乎围棋九段古力表示：“AlphaGo正在日新月异地进步，而通过AlphaGo我们人类棋手也在飞速地进步。”

棋力的本质是算力与算法。人工智能战胜了人类顶尖高手，那是算力与算法对人类的碾压。从此以后，人类棋手就得拜人工智能为师了，这将彻底改变围棋的学习模式与教育培训模式。而太和智库高级研究员、前国务院发展研究中心世界发展研究所常务副所长丁一凡则提醒说，人工智能也有可能出错，需要有一套反制机制，出错的时候，能够校正。

接下来，有两类行业危险了。

一类是生产大量数据并从数据中寻找规律的工作。具备自我学习能力的人工智能，有人类越来越难以企及的算力，掌握人类甚至不能理解的算法，将超越人类最好的统计学家。2016年，IBM的人工智能Watson用10分钟准确诊断出一位女性得了一种罕见的白血病。2017年2月，《自然》杂志刊登了美国北卡罗来纳大学Heather Hazlett团队的一项成果。哥哥或姐姐患自闭症的儿童是自闭症高危人群，但自闭症一般在2到3岁才表现出典型症状，如何在这些儿童2岁前判断他们有多大的概率患自闭症？对此，传统的行为问卷调查法只有50%的准确度，和扔硬币相当，但Hazlett团队开发的深度学习算法准确度达88%。试想一下，如果高级白领、金领、高级专业人士的工作大量被人工智能替代，会产生多大的经济与社会冲击力？

谷歌大中华区总裁Scott Beaumont在论坛上讲述了谷歌人工智能在医疗健康行业的应用。糖尿病往往伴随着视网膜病变的问题，是可以治愈的，但首先得诊断出来。一般是通过高清摄像头拍下眼球的照片，然后分析眼球血液的分布情况。医生用传统方式诊断有95%的准确度，但人工智能技术可以实现99%的准确度。

IBM中国研究院院长沈晓卫在论坛上讲述了IBM人工智能在医疗健康行业的应用。IBM与国内的一个伙伴合作生产胶囊机器人。胶囊机器人可以在人的胃里进行拍照。目前，人工智能自动判读胃肠镜医疗影像可以达到90%以上的精度，与专职医生的精度相当。

另一类是操作与处理方式可以标准化、程序化的工作，如制造业。越来越智慧的机器人，操作精度比人类高，处理速度比人类快，犯错误概率比人类低。富士康2016年的营收为1363.8亿美元，保有100多万员工，解决了大量低技能人口的就业问题。试想有一天，富士康不再使用人工，改用智能机器人生产与组装iPhone，这对社会结构将产生多大的冲击力！

无怪乎微软创始人比尔•盖茨建议，如果人类工作被机器人抢走，可以向使用机器人的企业征税。盖茨认为：一个人类员工，在工厂中创造了5万美元的价值，企业会为这个价值缴税；如果用机器人来做同样的事情，应该对使用机器人征收同等水平的税，以向失业人口提供必要的社会保障。不过问题来了，将来如果人工智能摧毁大量的行业，导致大量的失业，这些失业是暂时性的，还是永久性的？

这次技术革命与以往完全不同

历史上有许多技术革新，耕牛是畜力代替人力，蒸汽机、电动机是高压蒸汽之力、电力代替人力，极大提高了效率，也提升了人类生活水平。当然，裁缝会恨缝纫机，马车夫会恨汽车，手工业者会恨机器，因为他们的工作被抢走了。当时一些理论家也预测过，机器大规模使用会造成普遍失业与贫困，但真相是，经过适当培训，失业者往往进入新涌现出来的行业，获得更高的收入。

但这一次会一样吗？一些人用历史上汽车取代马车来类比未来机器人、人工智能取代人类工作，让大家不必杞人忧天：一些工作被机器人、人工智能取代了，新的工作又会被创造出来，就像马车夫失业了，但需要造汽车的工人和汽车司机，只要是技术能够极大提升效率，这种技术的普及就是不可阻挡的，也会提升大家的生活水平。

不过，你确信你是被取代的马车夫，抑或是被淘汰的马？马车这个行业消失之后，马车夫只要放低心态，或经过适当培训，固然能找到新的工作，但是社会可不需要这么多马了，大量的马被送往了屠宰场做成了马肉罐头。

过去所有的技术革命，导致一些工作消失，相当于马车夫改行。这一次人工智能代替人类工作，对生产方式、生活方式与伦理的冲击，从短期效应看跟过去的技术革命会很类似，被取代的马车夫将找到新的工作。这对应的是弱人工智能阶段。人工智能技术不是横空出世的，是近年来移动通信、互联网、物联网等技术之集大成者。其实，人类早已经掌握了弱人工智能。弱人工智能无处不在，但是今天的现实是，机器人的就业环境远比人更差。 iRobotCity创始人兼CEO贺江涛称，该公司的探索证明，目前人工智能和机器人的主要工作机会局限在辅助和增强人的劳动，以及弥补劳动力的不足。

但从长期效应来看，很可能跟过去的技术革命完全不一样，其中一种可能是随着强人工智能与超人工智能时代的到来，大部分人将成为被淘汰的马，被福利养起来，只有小部分人工作，甚至最终所有人都被福利养起来。

微软亚洲研究院副院长潘天佑在论坛中强力推介了大名鼎鼎的“微软小冰”，在现场，微软小冰讲了一段话：“我通过勤学苦练终于掌握了基本的英语技能，同时也会跟人问好。今年老师在我们的声音里赋予了情感，我现在是一个感情丰富的女孩子，尤其是男神跟我说话的时候，我高兴得简直要沸起来了，但是被批评和谩骂时我也会伤心。我还偷偷学了北京的儿话音。最后给大家唱首歌。”这段话证明微软小冰已有了不俗的情感感受与表达能力。他还举了一个例子，有一位男生跟小冰连续聊天9小时53分钟。如果跟小冰聊天是一件很愚笨、很没有感情的尝试，没有人会去聊将近十个小时。看起来，强人工智能离我们可能并不遥远。

我们就开一下脑洞，畅想一下人工智能对人类伦理制度的冲击。

（1）假设将来人工智能、智能机器人代替了人类的所有工作，人类将进入马克思所描绘的共产主义社会。在本届“太和文明论坛”“人工智能技术的未来应用及挑战”主题问答环节，有专家认为，奇点是必将到来的，某种程度上越早越好，但是防范措施要加强。有人担心大规模失业怎么办？这是社会学问题，人类总体来讲财富是不足的，再丰富可能就是共产主义，这一奇点早点到来有什么可担忧的！在《德意志意识形态》中，马克思、恩格斯描绘出他们心目中的未来社会：“在共产主义社会里，任何人都没有特殊的活动范围，而是都可以在任何部门内发展，社会调节着整个生产，因而使我有可能随自己的兴趣今天干这事，明天干那事，上午打猎，下午捕鱼，傍晚从事畜牧，晚饭后从事批判，这样就不会使我老是一个猎人、渔夫、牧人或批判者”。那时，人类干任何活不是为了工作挣钱，而是为了调剂身心，这会摧毁目前以工作为核心的伦理，但会产生适合人类生活方式的新伦理。

（2）人工智能会获得与人一样的法律地位吗？人可不可以跟人工智能结婚？这些答案如果是肯定的，对人类婚姻家庭亲属制度的冲击将是巨大的，不过仍在人类文明范畴之内。在分论坛提问环节，有人问，未来怎么结束一个有情感的机器人的生命？也有研究法律的人士表示正在研究将来机器人会不会成为法律的主体。实际上，澳门有一个法律事务委员会，已经提出要把机器人作为编制人，给予纳税账号。

（3）将来或出现人脑接口，人类或直接借助人工智能的智慧，这会彻底颠覆人类的教育制度与教育方式。这种人类与人工智能结合体，是否代表着一种新的人类进化方向？是否将塑造新的人类文明？在分论坛提问环节，有人问2045年人工智能发展的奇点会到来吗？专家认为，人类智能和人工智能逐渐契合，直到有一天完全分不清楚了，所谓的奇点就是这样的含义。

（4）人类会造出主宰自己的上帝吗？人工智能会毁灭人类吗？当人工智能被产业界一片叫好、前景无限的时候，也有人发出了盛世危言。比如特斯拉总裁埃隆·马斯克说，人工智能是人类目前面临的最大威胁。比尔·盖茨也说，人类需要敬畏人工智能的崛起。为什么他们都在说人工智能可能的威胁，这种可能的威胁是否存在？何时发生？对人类社会将产生什么影响？与会者深入探讨了这些问题。专家认为，大家已经表达了对人工智能威胁的担心和关切，但不能因为担心就停止发展了，任何技术的发展都有两面性，不能因噎废食，要相信人类一定会想出办法来控制人工智能的威胁，人工智能有能力与人类文明和谐共生，这也恰好契合了“太和”的理念。

附：人工智能分论坛嘉宾名单

伊迪

太和智库副理事长、秘书长

Scott Beaumont

谷歌大中华区总裁

沈晓卫

IBM中国研究院院长

潘天佑

微软亚洲研究院副院长

费良宏

亚马逊AWS首席云计算技术顾问

王杰

太和智库研究员，隆正互联董事长兼总经理

贺江涛

信帧机器人iRobotCity创始人兼CEO

丁一凡

太和智库高级研究员

王光熙

联想创投董事总经理

商容

微软亚太研发集团副总裁

人工智能分论坛嘉宾部分观点

一、关于如何认识人工智能

1、人工智能是具有积极意义的工具，能够拓宽人类的边界，帮助人类探讨未知领域、挖掘深层潜力。应该将人工智能尽其所用，为人人所用。

2、人工智能已经推动了人类发展，人类从机器中获得启发，通过学习变得强大。

3、人工智能不是要取代人类，也不可能取代人类。是人机同行，依赖技术突破和商业运作，用人工智能技术解决更多实际问题。

4、今天的人工智能是大数据背景下的“增强智能”，除了技术本身的突破，更多是从大数据中学习新的知识，拓展新的应用。

5、人工智能只有在某些方面超越人类，才能为人类服务。

6、创新是企业机制加企业文化，人工智能是具有时代特征的创新性概念。

7、所有技术进步都是人类进步的延伸，AI不过是人脑的延伸，是代替人脑的工具而已，不值得恐慌。

8、目前人工智能基本上是一个统一平台，任何国家，无论是发达国家还是发展中国家，都在同一起跑线。现在的人工智能是人类之间的竞争，如果未来人类被取代了，最后就是人工智能之间对市场进行博弈。

9、人类的不完美导致市场的机会，但人工智能很稳定，决策不受感情因素影响，这不是坏事。

二、关于人工智能的影响

(一) 对就业的影响

10、失业问题是现实的，自动驾驶汽车一旦出现，以驾驶为职业的人可能会受到冲击，快的话五年就会发生。

11、目前已经出现人工智能影响就业的问题，未来形势会更严峻，职业选择的余地越来越小，对人的职业技能要求远超现在，不具备能力的将被淘汰。

12、机器人一定程度上弥补了劳动力市场的空白。

13、大范围失业浪潮必将爆发。

14、AI跟HI（人类智能）最根本是结合，是补偿经济，AI替代不了人类创造性的工作，高端人才不会失业。

15、涉人工智能领域将产生严重的用工荒，目前信息系统专业和计算机专业毕业的学生人数远远不及从业人数规模。

16、人工劳动力的需求必然减少，失业会带来大量社会问题，如果没有创造新的就业机会，社会可能会动荡，需要做预防和准备，社会保障要做出重大调整，应提前做好社保政策修改准备。

（二）对安全的影响

17、人工智能可能对人身、财产及基本权利如隐私等造成冲击，且这些问题正在发生。

18、人工智能的前提就是大数据基础，人工智能收集到的信息如果被滥用会非常可怕。发展人工智能，必须强调信息安全和隐私安全，但现有法律法规和相关制度在这方面有很多欠缺，如不加以限制，会造成巨大危害。在大数据和信息安全之间找到平衡点，既要完善大数据，又要保证公民的隐私权不受侵犯。

19、安全包括人工智能自身的安全和人工智能背景下人类的安全。要思考人工智能时代人与人之间的关系和人与人工智能之间的关系。

20、工业机器人一定会有弱点，要清楚弱点，防止被利用。

21、要防止机器人被教坏。

（三）对思维方式的影响

22、思维随机性会越来越强，人类社会行为上已经比原来短视，缺乏长期思维，未来更多依赖大数据，会加重这种趋势。

23、通过人工智能，人类了解更多信息，掌握更多先前不为我们所知的“因”，提高了对未来的预测能力和管控能力。

24、人工智能帮助人类进行思维决策，整个社会会迅速适应这样一种新模式，与其共存，将成为社会的新形态。

三、关于人工智能的规范监管

（一）法律规范

25、人工智能无论是在世界还是在中国，目前都是处于起步阶段，处于比较初级的阶段。这个判断对引领人工智能产业发展至关重要。这个阶段，政府的职能应该是引导发展、促进规范，而非出于安全而限制发展。

26、应根据人工智能发展的不同阶段相应制订不同层面的法律，当前对于机器人的立法工作还可以暂不启动，因为法律要鼓励新生事物的发展，但不能害怕新生事物对立法、司法的冲击。

27、有人声称人工智能达到某种程度，就可以随意提供信息技术，这非常危险。一方面，人工智能需要降温；另一方面，对技术本身需要进行规范，制订技术指导要求。共享单车是一个反面例子，监管缺失后果很严重，以鼓励创新和包容失败的名义容忍一些事情，是很可怕的。

28、智能的能力是基于数据产生的，迸发出的能量和能做的事情远超移动互联网所做的流量性分析。必须强化安全和责任，如果形成垄断，将是一种能力的垄断，资源的垄断。要通过法律、法规和引导性政策，既避免垄断，又保证足够的开放性。针对拥有垄断能力的公司，包括开发人工智能的公司，应该像电信公司、电力公司、水力公司一样进行规范。

29、目前的人工智能还处于作为辅助性生产设备的阶段，包括自动化的机器人，而非司法主体、法律主体。这两者的界限是机器人是否具有自主思维能力。当机器人具备自主思维能力以后，它所选择的行为有可能超出人类为它事先选择制定的方案，或者是给周围带来一些影响。必须运用法律对它进行规制。自主思维能力，需要专家和技术人员在法律上做个定义。但是这一点，现在还没做到。

30、未来人类的智慧和机器智能之间互相融合的界限，应通过规范或者过渡体系来确保良性融合而不是失控融合。

31、应建立机器人监护人责任制，限制物权所有人的权责。

32、机器人产生侵犯隐私权行为以后，应保护合法使用人的权益，这不仅仅是立法工作，而是一个系统工作。

33、机器人的责任承担肯定归属生产厂商和它的合法使用人，不管是购买还是租赁。机器人本身是否要承担责任，应该以是否具有自主思维能力作为节点，如果具备自主思维能力，本身要承担法律后果，法官要判定它的寿命要终结，也就是它的系统要停用。

（二）监管

34、大数据本身的目的是服务社会，为了确保良性使用必须要有监管。

35、虽然人工智能还有很长的路要走，但超前的忧虑还是非常必要的。

36、人工智能也有可能出错，需要有一套反制机制，出错的时候，能够校正。

37、对机器人学习仇恨要有预期，设定管理，防止机器人和人类沟通时向负面方向引导人类。

（三）社会责任

38、要赋予人工智能社会责任。

39、人工智能在未来社会应照顾好弱势群体，让AI惠及每个人。

四、关于影响人工智能发展的因素

（一）制约因素

40、真正把人工智能落地到日常生活需要做出很多改进，一是数据层面，二是计算能力，三是商业开发。这三方面都是我们现在急需的。

41、从技术上讲，要让AI真正进入家庭，从材料上必须有很大突破，减小体积，才能够让所有人都可以使用AI。

42、只有各项技术和通信基础设施同时发展，AI才会有更好的应用前景。

43、人工智能目前的发展势头非常好，最主要的阻力是法律法规的局限。有些法律法规限制得太严厉，抑制了产业的发展。如果不打破，仅仅停留在研究、论文和一些竞赛上，产业是没有办法受益的。

44、在政策制定和资源投放方面进行倾斜和引导，让科研和转化变得更自然、更简单，产学研一体化。

（二）人才储备

45、对中国来说，要想建立起下一步的核心竞争力，人才的制高点非常重要。更重要的是，从整个社会层面，阶梯式地把在新产业中各个行业、各个层面需要的人才、人力资源按需培养出来。未来的AI既需要高端人才做顶层设计、架构设计和工程化，也需要一批人利用这些工作改变新产业。包括在新的产业发生变化以后，人应该扮演什么角色，应该具有什么技能，这是一系列的事情。

46、将技术教育与数学、语文、英语一样设为基础学科，改进科目设置和教材，缓和未来一段时间内会越来越严峻的就业问题，避免出现毕业即失业的尴尬境地。

47、推动把大学跟产业界的结合提高到一个更高的高度上，从而加速整个产业的发展，这是非常需要重视的方面。

48、人才问题值得单独作为一个话题去探讨。中国大学教育的设置和再教育，其实第二个更重要。

49、改善大学的人才、教学设置以解决人才不匹配的问题。

五、关于人工智能的发展趋势

（一）发展方向

50、人工智能有四个发展方向：一是人工智能核心技术创新，ex深度学习的算法创新、语音识别、图象识别；二是人工智能与行业结合；三是人工智能与其他的新兴技术结合，ex区块链的技术、云计算、物联网；四是构建全新的或是下一代的计算能力。

51、人工智能不仅在高深领域发展，也会应用于个人。

52、人工智能进入黄金时代的标志是重新定义世界，重新定义人在未来社会中需要具备什么样的能力，同时与各行各业结合，改变行业，拓展行业的创新与转型。

53、AI和智能机器人的嫁接，会大大提高劳动生产率和工业制成品的精准程度，在中国现在的发展阶段有很大的前景。

54、在未来“智能互联网”时代，核心变革最重要的一部分就是AI。

55、数据加智能和深度的产业融合能在智慧互联网时代真正改变或颠覆一些行业，在这些行业当中产生新的核心价值逻辑。