与人类共存的机器应该拥有感情吗？
盐野: 上节说到在不远的将来，我们将进入人类选择算法的时代。那么，在根据算法进行决策的情况下，安装了算法的机器人的自律程度到底有多高呢？据说软银集团发售的小辣椒机器人（Pepper）可以通过自己的判断行动，还能识别人类的感情。此类机器人的系数设定也是由人类来执行的吗？我想，在考虑到人类与人工智能共存的情况，这一点是非常重要的。
松尾:重要的设计都是人类完成的。机器人的是非观本身就不是机器人自己能够决定的。人类的一些意识，如某种做法很狡猾或者应该为大家考虑等，或多或少都是与生俱来的。这些意识在我们制定社会系统的时候，也是十分重要的价值判断标准。
这是人类在作为生物，以及作为社会性的存在生存下来的过程中，渐渐培养起来的资质。或者说，这是人类在作为拥有这种价值观的个体和种族生存下来的过程中，通过进化形成的。而这个进化的过程，机器人没有经历过。所以它们只能根据人类安装在它们身上模仿人类的程序来判断是非。
盐野:这么说，因为人类是有肉体的，思维则是在人类拥有手和脚这些人体“装置”的基础上形成的，所以这一点也必须要让机器人模仿和学习。
松尾:是的。为了获得与人类非常接近的思想和概念，就必须让机器人在形体上也和人类接近。例如，对人类来说，“危险”这个概念表示的是，人类的身体有很大概率可能受到伤害的状态。但是机器人和人类就不一样，也许对它们来说，电源将被拔掉的状态才是危险的。我想，对它们来说这个概念就是物理意义上的。
盐野:所以对于机器人来说，“千钧一发”这个词就是指“刚才差点就被拔掉电源，真是太危险了”这样的状态。
除了机器人的自律性之外，还有一点我也想确认一下，那就是它们的感情面。我想这个问题是很多人都想问的。如果我们继续让机器人不断学习模拟人类的各个方面，那么作为它们的输出结果，会不会出现像人类感情那样的东西呢？
松尾:这个问题的答案很难一口断定。不过我们能够使机器人模仿人类做出似乎拥有感情的样子，或者也能够把某种奖励系统安装到机器人身上，从而使它们做出类似人类情感的反应。
盐野:有感情的奖励系统吗？
松尾:比如“如果这样就会高兴”的情绪，当然还有“如果这样就会难过”。
我们可以把这些感情输入人工智能中，只要设定好高兴和难过时相对应的动作，就能得到它们或喜或悲的“表现”。但是从感情的本质来说，这些动作就没有什么意义了。感情是在通过进化植入我们身体中的东西。“看上去似乎有用感情”对于人类来说是没有意义的。这个程度充其量不过是会哭的小海豹机器人。其实，如果我们把机器人的感情面和自律性联系起来看就很有意思，两者的结合正是本质上的进化。
盐野:确实如此。这与戏剧论中内在性的问题很像。例如，结婚与恋爱的不可分关系，两者间的紧密联系也是到了现代才形成的。本来，在人类历史上，也有很长一段时期，我们仅把婚姻作为劳动力的保障。我们要把这种现代人类的人情世故教给人工智能，或者说按照现代人类的思维来设计它们的奖励系统。
松尾:是的。其实，大量投入机器人，让它们形成自己的社会也未尝不可。一旦机器人的社会生活延续了好几代，那么在与其他机器人合作时，或者帮助了其他机器人的时候，会感到愉悦，也就是说拥有这样奖励系统的机器人生存下来的可能就比较高。因此到了那个程度，也许它们就能与人类产生情感上的共鸣。
盐野:原来如此。我记得好像有个实验把很多小机器人放在一起，结果发现它们会集体行动。机器人社会是不是类似这样的呢？
松尾:不是的。这个实验只不过是在设定好的情况下观察机器人的行为，和机器人自主产生感情和奖励系统并没有关系。
盐野:那么，是不是可以把感情和奖励系统通过编程的方式植入大量的机器人，然后把它们放置到某个大草原上，观察它们经过几代的发展呢？
松尾:是的。我们可以把感情和奖励系统作为进化中的随机变量植入机器人，制造出可能拥有各种感情和各种奖励系统的机器人，并把它们“放归田野”，让它们建立起各种各样的村落，经过了几代发展，我们会发现，某个村子发展出了非常利己的奖励系统，村子里的机器人从不互相帮助，而另一个村子里的机器人在其他机器人有困难的时候会伸出援手。两个村子间发生战争的时候，我想应该是互相帮助的才能够生存下来。
这时如果我们调查一下互助村庄里的机器人，也许会发现这里的机器人出现了进化，它们在其他机器人有困难时会产生同情感，或者在与其他机器人合作时会产生愉悦感。这样一来，通过集体生活，机器人也会渐渐形成和人类相同的社会形态。
盐野:我感觉作为人类，对这个模拟过程的观测行为本身，似乎就带有神的视角。刚才您说的这些机器人是不是一定要有物理意义上的实际形体呢？如果以程序的形式，也能进行这样的实验吗？
松尾:可以。在程序中也能进行同样的实验。
盐野:或者也可以给多个机器人设定某些参数后，再加入随机变量。这也是一种实验的模式。
松尾:现在的人工智能技术中，深度学习发展得很快。但是这仅仅局限于个体的智能。在深度学习中，有一种被称为超参数的、决定系统自身行动的数值。这些重要的参数，形成了人类赋予人工智能的结构。但是，也许这些参数本来也应该是由进化决定的。如果确实如此，那么我们就可能需要多次重复刚才的机器人村庄实验，才能在这个过程中慢慢调整所谓的超参数。