人工智能还能做这样的事？
下将棋的对手、自动驾驶、扫地机器人――它们的内在其实是“聪明的程序”。
盐野：我平时经常会给企业经营者提供企业战略方面的建议。听他们说，近不管是哪个行业，今后在业务上都会受到人工智能和大数据的巨大影响。而且，在经营战略的拟定过程中，数据分析也变得越来越重要了。我所就职的咨询公司也开始录用和培养数据分析师。我知道松尾老师您一直在做关于人工智能和大数据的研究，所以今天想向您请教这方面的知识。
近，人工智能这个词在我们耳边出现的频率越来越高。但是，它是如何构成，如何工作的，而我们又是在什么情况下使用它的呢？我想，包括我在内，很多人都是不知道的。比如说，人工智能赢了将棋的专业棋手，领导人乘坐自动驾驶的汽车――像这样消息，我们经常听到。再举个我们身边的例子，几年前电器商们推出了能够自动打扫卫生的扫地机器人。听说这些东西都安装了人工智能，那么人工智能是否就是计算机程序呢？
松尾：没错。就是计算机的程序。程序一词有许多定义。人工智能里安装的，是那种“看上去好像是做出了聪明举动的程序”。不过，它们所做的“举动”各不相同。
盐野：原来如此。扫地机器人的身体里面原来有计算机。
松尾：是的。有计算机，程序才会工作。这个程序是人类设计的。扫地机器人的动作，或者说它在房间里怎么行动，都是由程序决定的。如果房间不一样，它的动作还会发生变化。这是因为根据房间的形状改变动作这一点，也是程序里设计好的。
盐野：也就是说，设计程序的人已经把命令机器人“这样过来，这样回去”的内容放在里面了？
松尾：是的。像这样的规则有很多，根据不同情况会使用不同的规则。这样机器人就能够应对各种各样的状况。
盐野：我觉得汽车的自动驾驶非常难。因为人开车是需要有驾照的。虽然雷达会在环境不断变化的情况下，感知周围的事物并且进行分析，但是很可能车子刚开出去就遇到突然冲出来的路人。遇到这种情况，你们也会像命令扫地机器人“这样过来，这样回去”一样，事先在程序里设计好对应方法吗？
……
教会计算机“行为”
盐野：松尾老师，您在东京大学从事有关人工智能的研究，具体都有些什么呢？
松尾：对于人工智能的具体研究内容，人们有各种各样的观点。不过大体上可以分为三类。首先我们在研究中调查，对人工智能来说什么样的数据是可用的，什么样的数据又是有效的。这是针对数据本身的研究，网络研究和大数据研究就属于这类。那么接下来我们应该如何应用这些数据，又应该用什么样的方法来制订规则呢？这就要涉及计算机自动学习规则的方法。这类研究主要有机器学习和数据分析研究。在第三类研究中，我们思考利用制订规则的系统和“算法”
能够实现什么样的应用。这是关于实际应用的研究。例如数据的输入口和处理，以及输出口。基本的内容就是这些。
盐野:那么规则到底是如何制订的呢？现在人工智能下将棋这个话题很热门，您可以介绍一下它是怎么运行的吗？
……
如何定义“人工智能”？
盐野：刚才我们了解了传统程序和人工智能的区别，那么研究界是根据什么来定义“人工智能”的呢？
松尾：人工智能是一个非常有趣的领域。本来它就源于人类纯朴的好奇心和对知识的探求心。因为计算机的计算速度非常快，人们不禁开始思索，说不定计算机会变得比人还要聪明。这种想法其实就是人工智能的开端。1956年召开了“达特茅斯会议”。会上诞生了人工智能（AI）这一词汇。随着种种研究的进行，人们发现人类的智能并不是那么简单的东西。人类是非常
聪明的，有人就认为，计算机不可能变得比人类更聪明。
发展至今，人工智能产生了两大流派。一派较为传统，以实现类人高级智能，甚至比人类更为聪明的智能为目标，被称为“强AI”。另一派被称为“弱AI”。这一流派认为虽然以现有的技术无法制造出高级智能，但是比普通计算机稍微聪明一点的智能是可以实现的。他们致力于开发具有这种构造的人工智能。
人工智能为什么突然变得聪明了呢？
……
人工智能真的会变得比人类还要聪明吗？
松尾：我认为这个问题可以从两方面来回答。首先，技术的进步一定会给社会带来各种各样的影响，因此对有的人来说工作会增加，对有的人来说工作则会减少。这不仅是人工智能带来的影响。比如随着网络应用的扩大，一部分产业能够更加发展壮大，当然反而规模缩小的产业也是存在的。
使用人工智能来提高人类判断力的技术发展下去，必然会影响到一些职业。从宏观上来看，如会计、法律和医疗等领域中，在与人类判断力相关的方面，计算机的作用会变得越来越大。
另一方面，像霍金博士所担心的事，以及卢德运动那样的动乱，也是现在科学家们议论的焦点。虽然目前还只是一个假设，但是如果一台人工智能能够制造出比自己稍微聪明一点的人工智能，而这一台被制造出来的人工智能又能够再制造出第三台更加聪明的人工智能，如此不断持续下去，那么很快就会出现无限聪明的人工智能。
这就是所谓的“技术奇点” （Singularity）。有人认为一旦这一时间点到来，我们面临的就会是一个完全不同的世界。
……
人工智能的“真正可怕之处”是什么？
盐野：明白了。也就是说计算机的混合型学习还很困难。要让计算机变得那么聪明还需要时间。但是我觉得，把人工智能添加到各式各样的机器人或者汽车上，生活会变得越来越方便，我们人类的自由时间也会增加，这应该是件好事。不过，如果人类创造出的AI超过了人类本身，那就有点恐怖了。超越人类的人工智能也是电影里经常出现的情节。
……
【作者简介】
松尾丰（MATSUO YUTAKA）
东京大学大学院工学系研究科综合研究机构、知识的结构化中心、技术管理战略学专业副教授。1997年毕业于东京大学工学部电子信息工学科。2002年于同校博士课程结业，获工学博士学位。同年起，任产业技术综合研究所研究员。2005年10月起，任斯坦福大学客座研究员。2007年10月起任现职。2002年获人工智能学会论文奖。2007年获信息处理学会长尾真纪念特别奖。先后任人工智能学会总编，首届网络学会研讨会代表。专业方向为网络数据挖掘、人工智能、大数据分析。
盐野诚（SHIONO
MAKOTO）
经营共创基础（IGPI）合伙董事、总经理。IGPI新加坡CEO。庆应义塾大学法学部毕业。华盛顿大学法学院法学硕士。
先后任职于高盛证券、贝恩公司（Bain & Company），以及日本活力门（LiveDoor）。也经历过创业。目前主要向政府以及通信、媒体、技术和娱乐等领域的企业提供战略建议。同时兼任政府方面的项目验证审查委员。著有《专业大脑的制作方法》《真正的创业：年轻人能力培养与创业的战略技术》《20岁的“事业”与“工作”入门》等。
【免费在线读】
与人类共存的机器应该拥有感情吗？
盐野: 上节说到在不远的将来，我们将进入人类选择算法的时代。那么，在根据算法进行决策的情况下，安装了算法的机器人的自律程度到底有多高呢？据说软银集团发售的小辣椒机器人（Pepper）可以通过自己的判断行动，还能识别人类的感情。此类机器人的系数设定也是由人类来执行的吗？我想，在考虑到人类与人工智能共存的情况，这一点是非常重要的。
松尾:重要的设计都是人类完成的。机器人的是非观本身就不是机器人自己能够决定的。人类的一些意识，如某种做法很狡猾或者应该为大家考虑等，或多或少都是与生俱来的。这些意识在我们制定社会系统的时候，也是十分重要的价值判断标准。
这是人类在作为生物，以及作为社会性的存在生存下来的过程中，渐渐培养起来的资质。或者说，这是人类在作为拥有这种价值观的个体和种族生存下来的过程中，通过进化形成的。而这个进化的过程，机器人没有经历过。所以它们只能根据人类安装在它们身上模仿人类的程序来判断是非。
盐野:这么说，因为人类是有肉体的，思维则是在人类拥有手和脚这些人体“装置”的基础上形成的，所以这一点也必须要让机器人模仿和学习。
松尾:是的。为了获得与人类非常接近的思想和概念，就必须让机器人在形体上也和人类接近。例如，对人类来说，“危险”这个概念表示的是，人类的身体有很大概率可能受到伤害的状态。但是机器人和人类就不一样，也许对它们来说，电源将被拔掉的状态才是危险的。我想，对它们来说这个概念就是物理意义上的。
盐野:所以对于机器人来说，“千钧一发”这个词就是指“刚才差点就被拔掉电源，真是太危险了”这样的状态。
除了机器人的自律性之外，还有一点我也想确认一下，那就是它们的感情面。我想这个问题是很多人都想问的。如果我们继续让机器人不断学习模拟人类的各个方面，那么作为它们的输出结果，会不会出现像人类感情那样的东西呢？
松尾:这个问题的答案很难一口断定。不过我们能够使机器人模仿人类做出似乎拥有感情的样子，或者也能够把某种奖励系统安装到机器人身上，从而使它们做出类似人类情感的反应。
盐野:有感情的奖励系统吗？
松尾:比如“如果这样就会高兴”的情绪，当然还有“如果这样就会难过”。
我们可以把这些感情输入人工智能中，只要设定好高兴和难过时相对应的动作，就能得到它们或喜或悲的“表现”。但是从感情的本质来说，这些动作就没有什么意义了。感情是在通过进化植入我们身体中的东西。“看上去似乎有用感情”对于人类来说是没有意义的。这个程度充其量不过是会哭的小海豹机器人。其实，如果我们把机器人的感情面和自律性联系起来看就很有意思，两者的结合正是本质上的进化。
盐野:确实如此。这与戏剧论中内在性的问题很像。例如，结婚与恋爱的不可分关系，两者间的紧密联系也是到了现代才形成的。本来，在人类历史上，也有很长一段时期，我们仅把婚姻作为劳动力的保障。我们要把这种现代人类的人情世故教给人工智能，或者说按照现代人类的思维来设计它们的奖励系统。
松尾:是的。其实，大量投入机器人，让它们形成自己的社会也未尝不可。一旦机器人的社会生活延续了好几代，那么在与其他机器人合作时，或者帮助了其他机器人的时候，会感到愉悦，也就是说拥有这样奖励系统的机器人生存下来的可能就比较高。因此到了那个程度，也许它们就能与人类产生情感上的共鸣。
盐野:原来如此。我记得好像有个实验把很多小机器人放在一起，结果发现它们会集体行动。机器人社会是不是类似这样的呢？
松尾:不是的。这个实验只不过是在设定好的情况下观察机器人的行为，和机器人自主产生感情和奖励系统并没有关系。
盐野:那么，是不是可以把感情和奖励系统通过编程的方式植入大量的机器人，然后把它们放置到某个大草原上，观察它们经过几代的发展呢？
松尾:是的。我们可以把感情和奖励系统作为进化中的随机变量植入机器人，制造出可能拥有各种感情和各种奖励系统的机器人，并把它们“放归田野”，让它们建立起各种各样的村落，经过了几代发展，我们会发现，某个村子发展出了非常利己的奖励系统，村子里的机器人从不互相帮助，而另一个村子里的机器人在其他机器人有困难的时候会伸出援手。两个村子间发生战争的时候，我想应该是互相帮助的才能够生存下来。
这时如果我们调查一下互助村庄里的机器人，也许会发现这里的机器人出现了进化，它们在其他机器人有困难时会产生同情感，或者在与其他机器人合作时会产生愉悦感。这样一来，通过集体生活，机器人也会渐渐形成和人类相同的社会形态。
盐野:我感觉作为人类，对这个模拟过程的观测行为本身，似乎就带有神的视角。刚才您说的这些机器人是不是一定要有物理意义上的实际形体呢？如果以程序的形式，也能进行这样的实验吗？
松尾:可以。在程序中也能进行同样的实验。
盐野:或者也可以给多个机器人设定某些参数后，再加入随机变量。这也是一种实验的模式。
松尾:现在的人工智能技术中，深度学习发展得很快。但是这仅仅局限于个体的智能。在深度学习中，有一种被称为超参数的、决定系统自身行动的数值。这些重要的参数，形成了人类赋予人工智能的结构。但是，也许这些参数本来也应该是由进化决定的。如果确实如此，那么我们就可能需要多次重复刚才的机器人村庄实验，才能在这个过程中慢慢调整所谓的超参数。
【内容简介】
已经不需要人类了？随着人工智能的快速发展，社会在今后数年内将发生巨大的变化。拥有了学习能力的机械在超越人类能力的时候，所造成的后果是什么？人工智能到底是什么？商业模式会改变吗？东京大学副教授、人工智能学的权威――松尾丰通过回答这些关于人工智能的问题来阐述未来的种种可能性，以展示那个即将到来的人工智能社会。
【目录】
推荐序一 智能+时代的来临
推荐序二 在人工智能面前，你是宇宙派还是地球派？
前言
第1章 人工智能和网络
第1节 判断“人工智能”的基准是什么？
第2节 人工智能的可怕之处在于预测的精确度
第3节 渐渐能够看清人工智能的强项与弱项
第4节 具有创造力的计算机会出现吗？
第5节 核心在于“相似”的判断
专栏1 如何制造人工智能？
第1章 问题
第2章 政治与经济
第6节 渐渐能够看清“预测”的结构
第7节 深度学习真有那么厉害吗？
第8节 靠预测股价真的能抢占先机吗？
第9节 大数据创造新的国家
第10节 大数据是属于谁的？
专栏2 什么是高介数国家？
第2章 问题
第3章 人与人工智能
第11节 大脑可以原样复制吗？
第12节 自己的“意识”能够放入网络吗？
第13节 “厌倦”是机器没有的特性
第14节 人能够更多地引导出海豚的“智慧”吗？
第15节 人工智能会扩展“人”的领域吗？
专栏3 网络高度化的另一个方向
第3章 问题
第4章 社会
第16节 不放过任何犯罪行为的社会终将到来
第17节 大数据和人工智能体现不平等
第18节 自动驾驶也并不都是好事
第19节 通过比较生命的价值做出判断
第20节 与人类共存的机器应该拥有感情吗？
第21节 经济活动的实时变化要开始了
第22节 对机器人来说寿命是必要的
第23节 计算机懂得爱吗？
专栏4 从欧几里得空间到拓扑空间的映射
第4章 问题
第5章 教育
第24节 人类应该学什么，怎么学？
第25节 如何辅助学习好的孩子和学习差的孩子？
第26节 教育真的会变得扁平化吗？
第27节 人工智能会提高“现在的年轻人”的水平？
第28节 医生和顾问也会被排名吗？
第29节 人工智能设备会从可穿戴式发展为人体接续式吗？
第30节 如何维持作为人类的尊严？
专栏5 人工智能的“青年之心”
第5章 问题
尾声 未来不再遥远
对谈后记 松尾丰
对谈后记 盐野诚
作者介绍
【编辑推荐】
如何制造人工智能？
具有创造力的计算机会出现吗？
政治、经济、甚至连国境都会改变？
靠股价预测真的能抢占先机吗？
人的“意识”是可以制造出来的吗 ？
人工智能会扩展“人”的领域吗？
自动驾驶并不都是好事？
与人类共存的机器应该拥有感情吗？
对机器人来说寿命是必要的？
人工智能会提高“现在的年轻人”的水平？
人工智能设备会从可穿戴式发展为人体接续式吗？
人工智能是人类*后的发明？
在这个范式转移的时代，每个人应该怎么做？
……
活跃在一线的人工智能学者松尾丰和商业战略专家盐野诚带您走进人工智能的前沿，了解人工智能对政治、经济、教育、医疗和社会的颠覆性影响，通过对机器人社会的展望，促使我们幻想中的未来成为现实！
