75岁深度学习之父突然离职谷歌：痛悔毕生工作，警告AI会对人类构成「灾难性」威胁 整理 | 刘燕，核子可乐 带着对毕生工作的遗憾和恐惧，“AI 教父”决定离开谷歌 。Geoffrey Hinton 从谷歌辞职 人工智能教父 Geoffrey Hinton 辞去了工作，并警告这一技术领域的持续发展或将带来巨大风险。 Geoffrey Hinton（图左）已经离开谷歌 现年 75 岁的 Geoffrey Hinton 在发给《纽约时报》的声明中证实，他已经正式从谷歌辞职。 《纽约时报》报道称，Hinton 上个月已经向谷歌递交了辞呈，并于上周四直接与谷歌 CEO Sundar Pichai 当面交流。不过目前尚不清楚此次讨论的具体细节。 Geoffrey Hinton 因其在神经网络方面的开创性工作获得“计算机届的诺贝尔奖” — 图灵奖。Geoffrey Hinton 作为“三位 AI 教父”之一，与另外两位合作伙伴共同获得了 2018 年图灵奖，旨在表彰他们为当前 AI 繁荣做出的基础性贡献。 但如今的他却对自己投入一生的研究感到遗憾。 根据《纽约时报》对他的采访，Hinton 最近刚刚辞去在谷歌的工作，也终于可以畅谈 AI 技术背后的风险了。已经在谷歌工作十多年的 Hinton 表示，“我总在用这样的借口安慰自己：哪怕我自己不做，其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。” 虚假信息的传播只是 Hinton 眼下想要强调的风险之一。从长远来看，他担心 AI 会彻底消除一切需要大量记忆的工作，而随着其逐步编写并运行构成自身的代码，AI 也许会最终取代人类。 Hinton 在采访中指出，“其实不少人都相信，AI 实际上能够变得比人类更聪明，但大多数人认为这还很遥远。没错，我也曾经觉得还很遥远，没准要再过 30 年、50 年甚至更久。但现在，我显然没法再这么想了。” 在接受 BBC 采访时，他甚至提到 AI 聊天机器人已经构成“相当可怕”的威胁。“据我所知，目前的 IT 还不比我们聪明，但我相信它们很快就会超越人类。” 此外，Hinton 博士承认自己离开谷歌也有年龄方面的考量，他告诉 BBC“我已经 75 岁，是时候退休了。” Geoffrey Hinton：GPT-4 等模型已拥有远超一般人的知识储备Hinton 博士在神经网络和深度学习方面的开创性研究，为如今包括 ChatGPT 在内的 AI 系统铺平了发展之路。 在人工智能当中，神经网络是一种在信息学习和处理方面与人脑相似的系统。正是神经网络让 AI 能够像人类一样从经验中学习，这就是我们常说的深度学习概念。 谷歌当初收购了一家由 Hinton 和他两名学生共同创办的公司，这位终身学者也由此加入搜索巨头麾下。其中一名学生后来成为 OpenAI 的首席科学家。Hinton 和他的学生们开发了一套神经网络，在分析了数千张照片之后，它成功学会了识别狗、猫和花等常见物体。正是这项工作，最终促成了 ChatGPT 和谷歌 Bard 的诞生。 Hinton 这位认知心理学家兼计算机科学家表示，聊天机器人很快就会超越人脑所能容纳的信息水平。 “现在，我们看到的 GPT-4 等模型已经拥有远超一般人的知识储备，没错，是远远超过。虽然在推理方面还不太好，但 AI 也已经具备了简单的推理能力。” “考虑到其发展速度，我们预计情况会很快好转。而这正是我们最担心的问题。” 在《纽约时报》的文章中，Hinton 博士提到了那帮打算用 AI“干坏事”的“坏蛋们”。在采访当中，他进一步解释道：“当然，这考虑的是最糟糕的情况，堪称噩梦。”“比方说，大家可以想象某些威权领导者可能给出总体目标，然后任由 AI 机器人制定附属计划。” 这位科学家警告称，此类行为最终可能会让 AI“制定出「我需要获取更多能量」之类的实施计划”。“在我看来，我们正在开发的智能跟人类自身拥有的智能有着明显区别。” “我们属于生物系统，AI 则属于数字系统。二者最大的区别在于，数字系统之间有着大量相同的权重集和相同的世界模型。” “所有这些副本既可以各自单独学习，也可以立即实现知识共享。这就好像面对一万个人，每个人都能分别学习知识，而其他人会自动同步掌握这些知识。正因为如此，聊天机器人的信息储备才远远超过一切人类。” 英国高级研究与发明局主席 Matt Clifford 也以个人身份向 BBC 表示，Hinton 博士的声明“凸显出 AI 能力正以惊人的速度加快发展”。“这项技术有着巨大的优势，但人类世界必须在 AI 安全与控制方面紧急投入更多资源。” “没必要叫停 AI 模型的开发工作” 与 Hinton 博士一道，还有更多专家加入这个行列，他们纷纷对 AI 的发展速度和方向表达了担忧。 今年 3 月，AI 领域数十人共同署名、科技富豪马斯克高调参与的一封公开信震惊世界，他们呼吁暂停一切比当前版本聊天机器人 ChatGPT 更先进的 AI 模型开发工作，腾出时间设计并实施更强有力的安全控制措施。 与 Hinton 博士及 Yann LeCun 共同因深度学习方面的卓越贡献而获得 2018 年图灵奖的另一位 AI 教父 Yoshua Bengio，也在这封公开信上签下了姓名。Bengio 写道，面对 AI 系统的“意外加速”，“我们需要放缓脚步”。 但 Hinton 博士告诉 BBC，“在短期之内”，他认为 AI 带来的好处还是多于风险，“所以我觉得没必要叫停 AI 模型的开发工作。” 他还提到，如今 AI 已经在各个国家之间引起军备竞赛，所以想要叫停将会困难重重。“即使美国这边全体停手，中国也会继续推进并取得巨大的领先优势。” Hinton 博士表示，他只是科学专家，并不是政策专家。政府有责任确保 AI 的开发工作“充分考虑到如何阻止其被恶意滥用”。 “负责任的做法” Hinton 同时在 Twitter 上澄清了自己对谷歌 AI 管理工作的立场： “在今天的《纽约时报》采访中，记者暗示我离开谷歌是对公司不满。实际上，我离开是为了讨论 AI 的风险，而不是要表达对谷歌的态度。谷歌对待 AI 的态度一直非常负责”。Hinton 博士强调，他并不想批评谷歌，这家科技巨头已经“极具责任心”。 “我甚至想替谷歌说几句好话。如果我不是谷歌员工，那这些表述应该会更可信。” 根据《纽约时报》的采访，Hinton 对谷歌的 AI 技术管理举措表示赞许，也承认微软将 OpenAI 新成果注入 Bing 的行为直接挑战了谷歌的核心业务，在搜索巨头内部引发了“红色代码”反应。Hinton 感到这股激烈的竞争浪潮恐怕无法平息，最终可能令整个世界充斥着虚假的图像和文字，人类再也无法分辨“什么是真、什么是假”。 谷歌首席科学家 Jeff Dean 则通过声明想要缓和这种担忧，“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险，与此同时也在大胆创新。” 谷歌首席科学家 Jeff Dean 在一份声明中指出，“我们仍致力于对 AI 采取负责任的态度。我们不断学习和研究新出现的风险，与此同时也在大胆创新。” 更重要的是，AI 聊天机器人还只是 AI 技术的一个小小切片，只不过目前成了风口浪尖上的焦点议题。 AI 技术已经在流媒体平台上决定用户接下来会看到什么内容，也可以在招聘流程中被用于筛选申请人、被保险公司用于计算保费，也可以诊断医疗状况（但最终决策权还是在人类医生手中）。 但如今，我们已经开始感受到通用人工智能（AGI）的兴起，它们能够通过训练完成特定范围内的各类任务。所以尽管目前 ChatGPT 主要通过查询向用户提供文本答案，但其背后同时蕴藏着无穷无尽的可能性。 而且 AI 发展的速度本身甚至令其创造者也感到惊讶。自从 Hinton 博士 2012 年建立起开创性的图像分析神经网络以来，AI 世界已经发生了翻天覆地的变化。 就连谷歌掌门人 Sundar Pichai 也在最近的采访中表示，他也无法完全理解自家 AI 聊天机器人 Bard 所能做到的一切。也就是说，我们正坐在一列高速列车上，而它或许终有一天能够自行建造轨道。 参考链接： https://www.bbc.com/news/world-us-canada-65452940?at_medium=RSS&at_campaign=KARANGA https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings 今日荐文7天花5万美元，我们成功复制了 Stable Diffusion，成本大降88%！训练代码已开源2023年，Rust能“干掉”JavaScript吗？ AI开始抢黑客饭碗？攻击快又准，不到一分钟破解超过半数的密码 字节跳动回应140万美元年薪挖角OpenAI；天涯社区疑似关停，已欠数千万服务器费用；寒武纪否认恶意裁员 | AI一周资讯 部署像ChatGPT这样的大语言模型，到底要花多少钱？ 一天就花 500 万元，运行 ChatGPT 太烧钱！微软为省钱已秘密自研 AI 芯片 4 年，今年或发布 你也「在看」吗？ ??