从机器到机器人 ｜ 科学与人文（在线）论坛第三期：机器、机器人与人（上） 科学与人文（在线）论坛第三期 机器、机器人与人（上） 在大约100年的历程中，机器人从一个科幻小说的虚拟角色，逐渐可能成为每个人的“家庭成员”，这是科学技术迅速发展的成果，在我们期待“机器”为我们带来更多“智能”服务的同时，却有着被这位后起的“类人”支配、奴役乃至毁灭的隐忧。本期科学与人文论坛邀请了四位相关领域的不同专家，对“机器、机器人与人”的话题进行了集中而深入的探讨。我们可以了解机器到机器人的大致历程，也可以了解“机器人”的发展原理与现状，更可以前瞻机器人走入人类生活的可能，同时，也可以了解机器人与人的关系，机器人相关的伦理话题。科学与人文探讨机器人与人，可以说一种主体角度的切入。希望人与机器人能更好互动与协同，在人文与科学精神的共同观照下，享有便利美好的生活。 主持人：各位网友、各位嘉宾，大家下午好！欢迎关注我们第三期科学与人文论坛，论坛由腾讯研究院主办、腾讯科协协办。科学与人文论坛旨在探讨科学与人文的前沿及其之间的关系，本期主题是“机器、机器人与人”，可以说是一个比较独特的切入点，从第一期“科学与人文”、第二期“互联网与人文”，到第三期，我们逐步切入到相对具体的主题。我们今天论坛大约是三个部分，第一个部分想回顾一下从机器到机器人这样一个历程。我们知道会制造工具以及会思维，是人类特有的特质，自从工业文明以来，人类就会制造现代意义上的机器。到了信息化时代，我们可以制造非常先进的工具——机器人。首先，我们先请刘永谋老师给我们做一个回顾。 刘永谋：好的，我做一个简单的回顾。我们讲机器、机器人和人的关系，首先要说说什么是机器。“机器”这个词大家知道，但古代汉语中没有“机器”这个词。古汉语中“机”是一个词，“器”是一个词。“机”，古代一般指器械，另外一个意思是织布机。大家知道《木兰词》里边有“唧唧复唧唧，木兰当户织，不闻机杼声，唯闻女叹息”，这个“机”就是织布机。“机”的第三个意思是机巧，带有一点贬义。我们现在网络语言讲“心机婊”，“机”正是“机巧”。《庄子》里有一个寓言：有一个老人，他用罐子在井里取水，孔子有个学生叫子贡，他看到那个老人在取水，就问他：你为什么不造一个木头的取水机器呢？你这么一次次抱一个罐子取水不是很辛苦？这个老人回答说：“有机械者必有机事，有机事者必有机心。”意思是说，你搞了机械以后，就会想一些复杂的事情，考虑这些事情以后你的心就变得有机心。图：《木兰词》配图 来源：网络 “器”，在汉语当中指的是有用的东西。比如说“玉不琢不成器”，这里的“器”讲的是有用的东西，但是有用的东西在中国古代文化中并不就是很好的东西，“器”带有一点轻视的意思。《周易》里面讲“形而上者谓之道，形而下者谓之器”。“道”是高级的，“器”是形下的。《论语》中讲“君子不器”，意思是说，君子是不搞那些低级的工匠搞的事情的。在现代汉语中，大约一八五几年，有位英国传教士把这两个字合成了“机器”，把machine翻译成“机器”，从此汉语中才有“机器”这个词。在英语中，machine起源于希腊语，后来传到拉丁语，再传到英语。它和汉语有异曲同工之妙，一个意思是引擎、发动机，另外也有诡计、狡黠的意思，跟中国文化类似。当然，有一些语言学家说，如果再往前追溯的话，希腊语再往前追溯，machine和may这个词是有关系的，有一种拥有力量的意思。进入现代，“机器”是什么意思呢？《大英百科全书》上说，机器是一种节省人力和畜力、完成各种体力工作、具有特殊用途的装置。有两种机器：一种是简单的机械，像杠杆，还有比较复杂的机器，像汽车。这个定义显然滞后，机器不光节省体力，今天我们讨论计算机、人工智能，还要加上节省脑力。《现代汉语词典》对机器的定义比大英百科全书要抽象一些。第一它是由零件组成的，第二它能够运转，第三它能够变换能量产生有用的功，比如说热能变成动能，电能变成热能，能量转换的过程中能够产生有用的功。实际上，随着历史发展，随着机器发展的进程，机器的意思也在变化。其中有几个关键的变化。第一个变化是：古代用的是手工操作的工具，后来变成了非手工操作的工具，尤其是近几十年我们出现了自动化机器和智能机器，这样的变化必然会导致我们对机器的定义会有一个改变。另外，我认为还有一个值得关注的重要变化，与今天我们讨论智能机器有很大的关系：做机器的材料的变化。古代的机器主要是无机物，除了木头以外，主要是石头的、玻璃的、铁的，无机的。现在有机的越来越多了，如橡胶、塑料、合成纤维。原来的机器和生命是没有关系的，不管是无机的还是有机的，都和生命体是隔绝的。但是现在有一个变化，最近几十年，发现没有生命的机器它可以和生命体结合起来了。比如说，在你的肉体里边装一个心脏起搏器，心脏起搏器就完全是一种机器，这样的变化还包括现在有人在搞的脑机接口，脑子后边装一个接口，插上就可以上网，这样机器就会突破我刚才讲的无生命和有生命之间的界限。总结一句话：随着机器本身的变化，什么是机器，当然也会变化，我们讨论机器和人的关系的范围也会有变化。而且，刚才讲的是比较实在意义上的机器。在现实生活当中，除了讲比较具体的物化的机器以外，我们经常在一种隐喻的意义上使用“机器”，比如国家机器、社会机器。有一位很著名的技术哲学家叫芒福德，他的理论中有个很著名的概念叫“巨机器”，“巨机器”就是一种隐喻，他想说的是现代社会都有一种机器属性。什么是巨机器呢？最早的巨机器是埃及的法老发明的，用来建造金字塔，巨机器不仅仅是有形的机器，还包括人、财、物、社会制度等等。有了这样一个巨机器，埃及的法老才能建金字塔，中国古代才能搞修长城这样浩大的工程。巨机器既有破坏性的打仗的机器，也有建设性的劳动机器。芒福德认为，巨机器后来衰落了，到了14世纪，尤其到了16世纪——现代科学是在16、17世纪诞生的，我们一般将1543年哥白尼的《天体运行论》的出版作为现代科学产生的时间——芒福德认为，16世纪以后巨机器就再度复兴，到20世纪进入高潮。总之，除了有形的机器之外，还有一个隐喻意义上的机器。另外还有一个讲“机器”概念的关键点，大家一定要知道，即在历史上很多人认为人就是机器。有人考察过，“机器”这个词一开始使用的时候，就有很多人把机器和人体相类比。首先是很多人认为动物是机器。大哲学家笛卡尔就认为动物是机器，动物本质上和钟表是一样的。后来有一些极端的人说人也是机器：你的心脏就是提供动力的锅炉和水泵，你的肺就是一个风箱，你的血管就是你身体的PVC管道。有一本著名的书叫做《人是机器》，作者是拉美特利。我们一般把这样的思想批判为机械决定论。但是，这种机械决定论现在还是有人相信，比如说今天要讨论智能机器人会讲到维纳，维纳就比较过机器和人的神经系统，认为人的神经系统和机器是有相似性的。他认为，人的神经系统和机器都是在过去已知情况和信息之下做出决定的装置。他说神经系统是在传递冲动或者不传递冲动之间选择的，是二进位制的，这样一种行动模式就和电子开关在开或关之间二选一是一样的。接着我们再讲机器的本质是什么？简单讲几种观点。第一种，大家耳熟能详，马克思的“劳动工具说”。他说机器是劳动工具，因为马克思是从劳动的观点来看待社会的。一般我们讲劳动包括劳动者、劳动工具和劳动对象，劳动者运用劳动工具作用于劳动对象，劳动就是这么一个过程。机器就属于劳动工具。第二种，机器的“器官投影说”。人有手、脚、眼、耳、口、鼻、舌这样一些器官，机器就是这些器官向外的延伸，比如说手机就是我们耳朵和嘴巴的延伸，小汽车是我们双脚的延伸。马克思也有类似的观点，不过马克思主要讲的是器官在劳动过程中的延伸。第三种观点与“投影说”类似，认为机器是人的器官的强化，或者是补偿，比如说眼睛看东西，显微镜对你看的过程进行强化。还有一些人的观点，和刚才讲的“工具论”是相反的，认为机器不是简单的随便能够支配的工具，而是有自己目的、甚至不受人控制的一个东西，甚至可能奴役人，这就是马克思讲的“机器的异化”。大家知道卓别林的电影《摩登时代》，这是我特别喜欢的一部电影，《摩登时代》对此描述得非常好。图：《摩登时代》剧照 来源：豆瓣我再简单梳理一下人和机器的关系，一个流变史。很多思想家认为，19世纪20年代，英国工业革命完成以后，人类就进入了机器时代。从那个时候开始，很多学者思考机器时代问题。总的来说，学者对机器的态度可以用一个词表达：爱恨交加”。一方面，显然机器提高了社会生产效率，改善了人类生活，让我们的生活变得越来越便利。另一方面，学者也发现机器让我们的生活变得更方便的同时，也出现了表面上看是机器给我们的一些约束，比如说我们的生活越来越紧张。以前没有手表的时候，我们日出而作、日落而息，现在有了手表，同一个时区里人上下班都是一个点，生活变得更加紧张。机器产生之后，也给生活带来一些不好的影响，所以对机器是爱恨交加的态度。中国古代思想家，基本上是轻视机器的。我刚才讲的庄子是道家的，“君子不器”是儒家的思想，基本上大多数中国古代思想家把机器斥之为 “奇技淫巧”，这是一个不太好的词。有这么一种观点：中国古代对机器的这种观念，实际后来阻碍了治国现代科学技术的发展。乾隆时期，英国的马嘎尔尼使团访问清朝，给乾隆皇帝送了好多箱礼物。他们最引以为骄傲的是他们的科技设备，比如蒸汽机、织布机，等等当时高科技的设备，结果中国人对此一点都不感兴趣。有一个例外，中国人对钟表比较感兴趣。英国使团后来又来中国访问，就不带机器这些科技设备了，知道中国人对机器、对科技不是特别喜欢。老百姓是什么态度呢？老百姓看机器很复杂，它的原理很复杂，我搞不懂、不能理解、不是专业人士，很容易产生抵触的情绪，甚至是拒绝乃至破坏的行动。所以，西方历史上有一个很著名的运动，叫做“卢德运动”，现在也有很多的卢德主义者。工业革命时期，1820年代，很多机器使用以后，导致了工人失业。一些工人怪机器，组织起来去破坏工厂、砸烂机器，别人问他，你们的头儿是谁？这些工人说我们的头儿叫卢德将军，其实没有卢德将军，是子虚乌有的，后来称之为“卢德主义运动”，把这些人称为“卢德主义者”。现在也有很多“卢德主义者”，尤其是在平民当中，虽然没有统计，我想是很多的。1990年代，有人还专门写了一个《新卢德主义宣言》，说明老百姓抵触情绪还是比较大的。所以，学者对机器是爱恨交加，而普通老百姓更多的是怀疑，负面的会多一点。当然，这是我的看法。我先介绍这些。主持人：好的，谢谢刘老师详细介绍了机器的概念、人对机器的认知以及态度等，也涉及到了机器与人的关系，谢谢刘老师！接下来我们想请中科院自动化所的研究员王金桥老师给我们介绍一下机器人以及机器人与人的相关内容。王金桥：好的，谢谢主持人。刚才刘老师从哲学以及人文角度为我们分析了“机器和人”在进化过程中的内涵，其实在很多方面和我们做科研的也很相关，从科研历史来讲，机器最早被我们称之为“工具”，我们人类和动物最大的区别是能够制造工具，我们能够给工具赋予灵魂，这样的定义主要在最早的时期。人类历史上经历了农业时代、工业时代、电气时代，再到即将到来的人和机器共存共融的时代，“机器和人”一直在交互和选择中不断进化，我们人通过工具能够制造出机器，让机器代替人。两个工作，一个是人能够制造工具，工具能够变成机器，机器同时又能够替人类去完成一些人不能完成以及一些互补的工作，叫人机协同。随着数学的发展，我们有了电器、有了各种各样的执行机构，一直到了19世纪50年代我们有了人工智能的概念。最早的时候叫做人工智能（artificial intelligence），对于最早的人工智能，人类希望它是人造的智力，这跟我们理想中或者科幻电影中对于智能的理解是不一样的，大家更希望机器是能够有自主的智能，而不是人造的智能，这也是现在我们对这个词不断地修正的原因。对于机器的研究从历史上来讲，我们一般把它分成以下两个功能：一是把机器变成机器人，二是让其变成一个智能体。从人工智能的角度，我们分为以下几方面。首先，一部分机器可以像人一样感知，感知这个世界。人有传感器，人的传感器是靠视觉，通过视觉人能看到可见光波段，能够接受太阳光，同时所接受的太阳光在我们的视网膜成像，通过感知细胞激活视神经，视神经激活某部分感知的区域从而形成视觉暂留的现象，所以说我们视觉的形成就像传感器一样。而机器就是在模仿人类的视觉，它主要通过摄像头、各种各样的传感器以及雷达去感受不同类型的光线去形成一种图像。比如柯达的胶卷，这是最早的模拟视觉的工具，但由于柯达这个公司主要是模拟相机，从而被技术淘汰。我们人类80%是靠视觉，10%是靠听觉，剩下的就是我们的触觉、嗅觉、味觉等等。机器人就像机器一样不断地模拟人类的感觉，例如现在通过摄像头、声音的声纳、激光雷达、麦克风阵列来区分不同的人，通过摄像头能够识别出你是谁、他是谁，人脸识别、身份识别就是模拟人类的感知。其次就是运动。人类能够看见、听见这属于感知，除此之外我们希望机器同样能够像人一样运动。现在可能最成熟的叫做外骨骼，辅助搬运，就是我们人背东西的时候相当于人机协同的支架，人通过支架能够承载更重的货物，这是人机协同。现在，人们接触的机器人非常多，目前的机器人运动主要是能够完成走路、寻找、拾、拿等。大家知道波士顿动力的Bigdog大狗机器人以及其它机器人，它能够完成跑酷的动作，完成在箱子上的单腿跳跃。这就是在拟人的运动，我们所说的运动就是指运动控制和执行。在学科控制论里是感知和执行。图：Bigdog大狗机器人 来源：网络 第三个，我们称之为思考，最早期的智能称之为低级的智能，也就是感知的智能。而我们现在智能的方向，是认知的智能，让机器可以进行决策。这也是我们现在技术所面临的最大问题所在。我们能够让机器看到世界，看到车辆、人等，但是不能知道在思考什么。让它思考除了感受到的这些数据外，还需要结合自己的人生经历、历史文化、学到的知识等，做一个自动的推理，这种认知智能最重要的一点我们叫做知识表示。所谓的知识表示就是把我们感知到的各种各样的数据变成我们的语言，自然语言处理是解决知识表示的一个人工智能的研究方向，NLP，这是非常难的，被称为人工智能皇冠上的明珠。人类说话，英文、中文、日文、韩文，每个人说话有轻重缓急、每个人不同时刻说的会具有不同的意思，这就是为什么认知智能还很难进行突破的原因之一。现在正面临着感知智能向认知智能的迈进阶段，这才是人类跟机器目前最重要的区别。如何像人类一样进行推理、演绎，总结出大意来知道我要干什么，让机器自主地思考，这是我们所说的机器的三个要素：感知、控制、理解，虽然还有一个执行，执行是和运动相关的，我们认为三要素决定了机器人这个学科所有的范围。我跟大家简单地分享一下机器人的历史，大家对机器人的了解可能大多来自于各个科幻电影，例如“大白”。机器人我们在模式识别领域一般给它的定义就是自动化的机器，这个自动化其实是包含着一种类人的智能，或者是我们前边说的那三个要素。这个自动化的机器，从功能上讲，第一我们是要让他节省一些劳动力、代替人工做一些提能增效的事情。例如进行一些外科手术，和人进行配合。再一个就是陪伴，就是情感，机器人的情感也是一个很重要的问题，机器人的情感和认知是很相关的，为什么机器人现在都卖得不好？我们中国做机器人的公司300多家，做教育的机器人卖得还挺好，因为教育类的机器人直接跟作业、考试内容是相关的，像目前疫情期间，大家都进行在线教育，更多的是传道解惑。除此之外，还有为家庭服务的机器人，就像现在的扫地机器人，虽说目前的扫地机器人扫得比较慢，但它能够自动干活，干完活能够回去充电，这就是一个任务的闭环，他能够自主地去完成这些功能，这就是我们所需要的。而关于陪伴功能的家庭机器人，我们发现一个现象，买回来在家里玩上两周基本上就把它放到阳台上、放到库房里存起来了，因为它的功能一般就是打个电话、视频、走两步、播放动画片，或者唱个歌、讲个故事、讲个笑话。基本上一些互联网的ipad的功能它都有，它变成了一种应用仓库，缺乏对人的理解。什么时候你一回家给机器人一个眼神机器人就知道你想吃什么，你怎么了，受了什么刺激了，需要精准化的理解，需要个性化的建模，让机器人真正走进家庭还需要一些时间。现在机器人受到了认知智能的一个限制，机器人要想真正地跟我们人成为一个特别好的伙伴，还需要它的思想意识和情感的独立性，而不只是模拟人和生物的一种简单的执行。简单来说它不能只作为人类能力的一种强化和外延，我们希望它是能够强化我们人的某一种功能，能够使我们人类走向太空，但是我们更多的希望它能有灵魂上自主的智能，这才属于机器的智能，真正的机器崛起。关于机器人的历史、机器人的发展其实经历了很多过程，在古代的时候我们就有了机器人，大家都知道三国时期，诸葛亮做了“木牛流马”，这是最早的机器人。关于“木牛流马”现在只有一个图纸，那时候没有影像的记录，所以没有充足的证据证明它是存在的，它可能是那个时候人们想象中最早的一个机器人原始的样式。还有在我印象中，我是70后的，我们小时候玩过发条的鸭子，拧一拧那个鸭子就能够往前蹦，那是法国人亚克1737年发明的，是最早消费级的机器人的原形，拧一下它自己往前走，这是一个执行的机构，而且还可以发出“嘠嘠嘠”的叫声。另外，意大利的一个作家有一个提线木偶，也是很经典的叫“匹诺曹”，能够吊着线，后来一个作家写了这样一本书。然后就有了我们后面的《星球大战》，很多人都跟我讲，《星球大战》里边一些关于机器人的描述慢慢都变成了现实，包括虹膜识别、身份识别、杀人蜂以及飞行技术、控制技术、机器人换脸的技术现在都变成了现实。所以最早在1977年，乔治·卢卡斯执导《星球大战》时就有了机器人。再有就是1993年，美国最早的远程操控机器人，试图探险南极洲的时候做的但丁机器人，它其实是延伸我们人类的智能。因为在火山口爆发的时候，人是走不过去的，所以我们就遥控着一个但丁机器人走到火山口采东西，就像我们现在的嫦娥几号、火星几号一样。然后就是火星车，1997年旅行者，就有火星车1号、2号，火星的机器人探路者，主要做一些火星的科研任务，它们更多的作用是执行、采集、传输。因为它自己消化不了，我们也不能指望一个机器人在未知的领域完成人类做实验推导的过程，它的功率也不够，所以主要是延伸我们人类的智能。慢慢到现在，去年有个电影叫《阿丽塔》，讲的是关于2050年之后的故事，在人和外星人混合的时代，人除了大脑以外，心脏、身体都是机器。心脏作为一个能量供应的基地，慢慢地整个就变成了机器和人混合的世界。现在电影中所看到的可以说是我们未来所期待的。所以都是以我们的感知、行动、推理、理解，最后再加一个通讯的功能，基本上就把整个机器人的要素组织起来了。图：《阿丽塔》剧照来源：豆瓣然后，历史上在陪伴领域，1998年，最早做的一个玩具菲比娃娃。2000年左右索尼做的最早的拟人、拟动物的宠物狗机器人，它陪伴我们人类，可以定时地喂食、定闹钟，还可以找地方睡觉等等，可以发出各种各样的声音。然后是2000年开始的扫地机器人，让它代替我们人类做一些重复性的劳动。刚才刘老师也讲了，人和机器交互的过程，更多的就是在2000年左右。两千年来，我们人类一直把人当机器来用，人类社会、工业社会，这里我拿富士康的制造工厂举个例，我们跟富士康的工作人员也经常沟通，一条iphone的生产线，有多少个工人？回答是在现在智能化水平这么高的情况下工人将近400个，400个人，很多工作都是人来做的，玻璃的盖板、检验、拧小螺丝、生产、加工，苹果的生产、它的外壳以及主板，一共有9台机器人，依然有很多内容还是要靠人来做。为什么智能制造从美国到欧洲、欧洲到日本、日本到亚洲、亚洲到中国，一直到现在，现在由于疫情的原因，大家发现中国现在口罩日产2.6亿只，在新冠之前日产两千万，这绝对在世界上是一个奇迹，但口罩质量的把控是一个非常难的过程，要做各种CE认证、IOS认证，为了保证质量，现在大多数口罩的生产都用机器，用机器焊口罩的耳朵，所以点耳机都是自动化的，这是制造业。在这个过程中，我们通过2000年之前，把人当机器来用，到未来100-200年我们会把机器变成人，就是人工智能。人造的智能和真正的机器智能的转变，这里也涉及到伦理和安全的问题，最近也频繁出现这类问题。我们目前落地最成功的就是扫地机器人，到目前为止扫地机器人只需要一个路径规划，也不需要跟它怎么交流，它自己找到一个充电的位置就去充电了，它能够完成一个特定的任务，形成一个任务的闭环。未来我们更多的是希望人机协同、人机辅助、人机混合，关于这方面目前应用最广的就是手术机器人。比如说今年新冠疫情爆发，带来很多变化，不知道大家是否去过西贝莜面村吃饭，西贝攸面村还有很多的饭店里，还有海底捞都有了送餐的机器人，全过程是无接触的，机器人给你送到餐桌上，你自己把它拿下来，它就在完成一个特定的功能，形成一个业务的闭环，这就是人机的混合并且将来会长期存在的，同时这也是将来整个发展的趋势。再有就是机器人是一个综合的学科，为什么我们自动化所现在在招一些做心理的、做情感的，或者是神经科学的，因为我们现在的智能化、机器人还是相当于电子计算，还没有到量子，量子还在一个摸索阶段，所以我们现在在做类脑的研究，希望机器能够模拟我们人的计算，每天吃一顿饭，特别是女同志，每天只吃一两口，但是大脑的计算一点不比别人少，人低功耗。而现在的机器人呢，我们说无人驾驶，包括现在的电动汽车都要拉着一块巨大的电池，要不就烧油、要不就烧电，这个耗电量是非常大的，我们要把它的功耗降下去还得要靠神经的计算。所以我们现在也找这种跨学科的，做神经科学的、做科学的，来做一些交叉性的、探索性的研究，更多的是从人类的角度上。目前我们国家成立了人工智能治理委员会，因为现在再次频繁出现很多问题。比如去年有一个机器人写了一篇文章，侵权了一个作家的一段话，被这个作家起诉，法院判的时候说法律没有依据呀，说这是机器人写的，到底判给谁呢？法律上没有参考。我们整个数据开放的时代，更多的数据治理，道德和伦理，人工智能治理更多的机器人也要有自己的道德规范，它应该干什么、不应该干什么，要把它的边界有效地控制。我们未来要想机器人比人更厉害，我们希望它能够干好事，不能去干很多的坏事，我们现在就应该从现在开始治理，这些也都是问题。再就是在医疗领域比较凸显，新冠疫情爆发，我们知道中国新冠的数据比较多，中国也是最早把人工智能应用到新冠诊断上，只要医生拍个片子，机器人就可以把它判断出来，这样就把医生的知识很快转化成机器，机器就能做很多诊断。那么这里依然存在问题，一旦机器给你判断错了，这个责任谁来担？后来为什么IBM的沃森做了这么多年，这是原因之一。医学是最有用的，医学积累了人类历史上很多很多的数据，但真正地把这些数据作为智能还需要非常非常长的路要走，因为这里边有很多的不确定性，不是所有的医生诊断都是靠谱的，而且这些数据都不是医院互通的，你最终在哪儿看到的都不知道，所以现在人慢慢地接受了，来把这个机器作为辅助的工具，机器辅助完之后再让人来决策，承担责任的还是人，法律上要界定清楚，要不然后面人工智能就可以为所欲为。就像我们一直说的，人工智能是一把双刃剑，我们人和机器的关系也是一个矛和盾的关系。我们把人当机器用，人只是重复劳动，你节省了大脑，大脑可以少思考，一旦机器的能力太强的时候，算式不断加大，它就有自主的意识，它能够在数据的基础上进行一些迭代，在迭代的过程中它就会产生自己的一些想法。一旦机器有自我意识的话，它就知道什么是我认为重要的、什么是你认为重要的，我认为重要的我为什么要听你的？当机器有自我意识崛起的时候，就像电影《机器崛起》反映的，我们人类有这种担忧，现在这个时间点还没看到。但是我们在治理上要防止机器智能的泛滥，就跟我们每个孩子的教育一样，我们从小让他学英语，从幼儿园到小学，到初中、高中，其实每个机器也是一样的，要让它受到一些正统的教育，将来给社会化服务的时候做一些正常的事情。人机协同，就是人和机器，机器虽然是冰冷的，但我们希望机器能够有一颗为社会服务的智能化灵魂，这个智能化灵魂要在可控的范围之内，未来很长一段时间人和机器的协同将会长期陪伴我们存在，未来我们人类想象的空间还很大，我们人类的创造力是机器很难具备的。我们人类的想象和创造力，就被我们现在的互联网、移动互联网改变了很多，智能也改变了很多。人工智能的治理也取决于机器、智能、管理这三者，管理跟人文、哲学等等都非常相关，所以人机协作是我们这个时代的主流。 主持人：谢谢王老师给我们非常细致地介绍了机器人的来龙去脉，它的原理和使用的情况，介绍了机器人使用的现状，展望了人机协同的前景和可能遇到的挑战。（上完） 中国人民大学 刘永谋教授 中国人民大学哲学院教授、博士生导师，国家发展与战略研究院研究员；美国哈佛大学访问学者（2010-2011），荷兰乌德勒支大学访问学者（2015），西班牙巴斯克大学访问学者（2015-2016），美国科罗拉多大学高级访问学者（2019），法国索邦大学高级访问学者（2019）。主要研究方向：科学技术哲学，科学、技术与公共政策。按时间顺序主要研究过的问题包括：福柯哲学，创新型国家与创新方法，另类科学哲学，物联网与泛在社会，知识与权力理论，技术治理理论，AI与智能革命研究，新科学哲学。 中国科学院 王金桥研究员 从事视频分析与检索、大规模目标识别、目标检测与跟踪、图像分类与识别方面的应用基础研究，同时也涉及了模式识别与机器学习方面的相关理论研究。 共发表论文200余篇，国际杂志36篇，国际会议160余篇。其中以第一作者或通讯作者发表高水平国际期刊论文30篇。曾携自主研发的人工智能机器人“小加”上央视一套加油向未来节目为众人展示人脸识别技术，担任湖南卫视“我是未来”的科学代言人；研发的人工智能音乐评分系统在央视“渴望现场”担任机器人评委。 主持人张顺平 腾讯研究院资深专家，北京市明德书院理事长、院长 --END-- 我好看吗？