OpenAI CEO要求政府监管AI，美议员：没见过这么主动的！ 来源：量子位 Sam Altman，作为OpenAI的CEO你赚了很多钱吧？ 我没有OpenAI的股权，我的薪酬刚刚够健康保险……我做这个是出于热爱。 就在昨晚，这段对话发生在美国华盛顿一场听证会。 Sam Altman与IBM副总裁Christina Montgomery、纽约大学名誉教授Gary Marcus一同出席作证。 讨论的核心问题在于，ChatGPT与其他AI技术的风险。 与过去的其他科技公司高管不同，Altman表示非常欢迎对AI进行监管。 如果这项技术出了问题，那就可能会是大问题……我们希望与政府合作，防止这种情况发生。 议员们的态度也与过去大不相同，减少了批评和刁难，像是真的在征求三位证人的意见。 AI如何监管？OpenAI提出三点方案听证会开始，参议员Richard Blumenthal作开场白，阐述了AI造成虚假信息扩散、社会不平等加剧等潜在风险。 但坐在主席台的Blumenthal，嘴却一直紧闭。 这是一段录音，文本由ChatGPT生成，声音由AI软件合成，听起来与本人几乎一致。 有围观网友表示：议员们这次居然认真准备了，这很难得。 录音结束后，真正的Blumenthal补充道，虽然ChatGPT这次表达地和他本人观点一致，但同样的技术也可以轻松合成虚假消息，“那将非常可怕”。 Altman在证词中也表示，AI可能被用于操纵舆论也是他最担心的问题之一，特别是明年将举行大选。 当Photoshop刚出现时，有一段时间人们真的会被P图骗到。 然后很快人们就会有“图可能是被P过的”这个意识，AI将带来相似的情况。 在场的其他参议员还指出，由少数科技公司主导是人工智能市场的另一大风险，OpenIAI与微软合作便是一例。 对于像OpenAI这样的AI公司应如何被监管，Altman准备了三条方案： 成立一个新的部门，负责为AI大模型颁发许可，并拥有撤销许可的权力。 为AI模型创建一套安全标准，对危险性做评估，包括它们是否能够“自我复制”、“逃出实验室自己行动”。 要求独立专家对模型的各种指标做独立审计。 华盛顿邮报认为，方案中明显缺少对训练数据的披露，而这也是一同出席的Marcus一直呼吁的。 对于OpenAI是否会进入广告业务，Altman表示不排除这种可能性。 我不能说永远不会……但我真的喜欢订阅模式。 有议员担心基于广告的商业模式会让AI重蹈社交媒体的覆辙，发展出操纵用户的产品和令人上瘾的算法。 如果不采取比对社交媒体更快、更有效的行动，AI可能会对社会经济和文化造成更大伤害。 一同作证的IBM副总裁Montgomery认为，AI发展不能像Facebook的口号那样“迅速行动、打破常规（move fast and break things）”，但也不必对创新猛踩刹车。 Altman与Montgomery都反对暂停人工智能开发。 对于AI造成的失业问题，两人观点也一致，认为AI会减少一些工作岗位，但也会创造新的。 Marcus则一如既往对“OpenAI声称为了造福全人类，但与微软形成商业联盟”、“AI生成虚假信息”、“ChatGPT的训练数据不透明”等问题做出批评。 他形容AI为“像一只在瓷器店的公牛一样，强大、鲁莽且难以控制”。 Marcus提议成立一个像欧洲核子研究中心CERN一样的国际合作组织，专门研究AI安全问题。 AI完成任务，而不是整个工作这不是Altman第一次因AI问题来到华盛顿。 本月初他与其他科技公司CEO参加了白宫关于AI发展的一场讨论，本周一他还与60名议员共进晚餐并展示了ChatGPT的各种用法。 据在场的众议员Ro Khanna透露，Altman在晚宴上强调“AI是一种工具，而不是一种生物”，“能帮人完成具体任务，而不是整个工作”。 这次公开听证会结束后，Altman继续与议会AI核心小组举行闭门会议。 美国司法委员会知识产权部门也表示计划在未来两个月内举行多场听证会，讨论AI对版权和专利法带来的影响。 完整视频回放： https://www.youtube.com/watch?v=TO0J2Yw7usM 参考链接： [1]https://www.washingtonpost.com/technology/2023/05/16/ai-congressional-hearing-chatgpt-sam-altman/ [2]https://www.bizjournals.com/sanjose/news/2023/05/16/mr-altman-goes-to-washington.html 推荐阅读 西电IEEE Fellow团队出品！最新《Transformer视觉表征学习全面综述》润了！大龄码农从北京到荷兰的躺平生活（文末有福利哟！）如何做好科研？这份《科研阅读、写作与报告》PPT，手把手教你做科研奖金675万！3位科学家，斩获“中国诺贝尔奖”！又一名视觉大牛从大厂离开！阿里达摩院 XR 实验室负责人谭平离职 最新 2022「深度学习视觉注意力 」研究概述，包括50种注意力机制和方法！【重磅】斯坦福李飞飞《注意力与Transformer》总结，84页ppt开放下载！2021李宏毅老师最新40节机器学习课程！附课件+视频资料 欢迎大家加入DLer-计算机视觉技术交流群！ 大家好，群里会第一时间发布计算机视觉方向的前沿论文解读和交流分享，主要方向有：图像分类、Transformer、目标检测、目标跟踪、点云与语义分割、GAN、超分辨率、人脸检测与识别、动作行为与时空运动、模型压缩和量化剪枝、迁移学习、人体姿态估计等内容。 进群请备注：研究方向+学校/公司+昵称（如图像分类+上交+小明） ??长按识别，邀请您进群！