刚刚，Ilya 新公司融资 10 亿，员工仅 10 人：AGI 成功前，不发布任何产品 编译 | Tina OpenAI 联合创始人 Ilya Sutskever 的新公司筹集了 10 亿美元，并宣布计划组建一支由“世界上最优秀的工程师和研究人员”组成的团队，专注于一项单一任务。 他的公司对这个目标如此专注，以至于它的名字以它将要开发的唯一产品命名。为了实现创造一个有益于人类而不是毁灭人类的 AGI 的雄心，Safe Superintelligence Inc (SSI) 将创造一个创新的工作环境，能够解决“我们时代的最重要技术问题”，并且“不需要关心其他任何事情”。 该公司写道：“我们的单一重点意味着没有管理开销或产品周期的干扰，我们的商业模式意味着安全性、保障性和进展（ safety, security, and progress）都与短期商业压力隔绝。” “SSI 是我们的使命、我们的名字和我们的整个产品路线图，因为它是我们的唯一重点。我们的团队、投资者和商业模式都与实现 SSI 统一。” 该公司将同时解决模型的安全性和能力问题，“作为通过革命性的工程和科学突破来解决的技术问题”。他们补充说：“我们计划尽可能快地提升能力，同时确保我们的安全始终领先。” 它将建立一个“直线 SSI 实验室”，只有一个目标和一个产品：一个安全的超级智能。其融资涉及 NFDG、a16z、Sequoia、DST Global 和 SV Angel。 SSI 目前拥有 10 名员工，计划将资金用于获取计算能力和招聘顶级人才。虽然公司没有公布具体估值，但知情人士透露，SSI 的估值已达 50 亿美元。 此次融资凸显出，部分投资者仍愿意对专注于基础人工智能研究的顶尖人才进行大额投资。尽管如此，由于此类公司可能长期处于亏损状态，市场对这类公司的投资热情已有所降温，导致多位初创公司创始人投奔科技巨头，比如 Character.AI 的创始人、CEO，Transformer 论文作者之一 Noam Shazeer，也于上个月与其研究团队一起回流到了谷歌。 SSI 的历史 37 岁的 Sutskever 在 6 月份与两位名为 Daniel 的联合创始人一起创办了 SSI。 第一个 Daniel Gross 曾参与苹果公司的 AI 项目，第二个是前 OpenAI 研究员 Daniel Levy，也是前 OpenAI 研究员。Sutskever 担任首席科学家，Levy 担任首席科学家，而 Gross 负责筹款和增加计算能力。 去年 11 月，他作为 OpenAI 非营利母公司董事会成员，该董事会因“沟通中断”投票罢免了 OpenAI 首席执行官 Sam Altman。几天后，Sutskever 与 OpenAI 几乎所有员工一起签署了一封信，要求 Altman 回归并要求董事会辞职。 Sutskever 在 CEO Sam Altman 恢复职位后决定离开。今年 5 月，他在任职十年后正式离开了公司，他在 X 帖子中将 OpenAI 的轨迹描述为“简直是奇迹”，并表示“相信 OpenAI 将构建安全且有益的 AGI”。 然而，OpenAI 不可能利用 Sutskever 的“超级对齐”团队的资源来实现这一点，该团队旨在“引导和控制比我们聪明得多的 AI 系统”，因为现在这个团队已经不存在了。 Sutskever 告诉路透社，这个新项目开始于他“发现了一座与我之前工作有所不同的山峰”。在描述他想与之共事的人时，他说：“有些人能工作很长时间，只是沿着相同的道路走得更快。这不是我们的风格。但如果你做一些不同的事情，那么你就有可能创造出一些特别的东西。” SSI 与 OpenAI 有何不同？ SSI 将作为一个普通的营利性企业运行，与 OpenAI 不寻常的“限额利润”结构不同，OpenAI 是原始非营利组织和一个新的限额利润部门之间的合作关系。 在 OpenAI，分配给投资者和员工（包括微软）的所有利润都有上限，因此超过该上限的所有剩余价值将“返还给非营利组织以造福人类”。 在简报笔记中，德意志银行研究部表示，SSI 是 OpenAI 的“对立面”。 它写道：“通过不计划现在发布商业产品，Safe Superintelligence 进入了与通常的‘构建产品——销售产品’类型的初创公司完全不同的类别。”“这可能会与资金相冲突，资金是 AI 创新因为训练成本高昂和人才稀缺而不可或缺的。例如，OpenAI 起初是一家研究公司。” 该银行补充道：“在 AI 领域，关于潜在风险和呼吁放慢进度的人与想要全速前进的人之间存在激烈的争论。凭借自己的平台，Sutskever 可能会获得更大的声音，并成为他前任老板、OpenAI CEO Sam Altman 的某种对立面。” 特别值得注意的是，与 OpenAI 不同，SSI 明确表示，在超级智能实现之前，他们不会发布任何产品。 “我们的使命是直接走向安全的超级智能，特别是花几年时间对我们的产品进行研发，然后再推向市场。”SSI 首席执行官 Daniel Gross 说。 “融资 10 亿美元，估值 50 亿美元。对于一家成立几个月、没有产品、甚至没有一行代码投入生产的公司来说，这太疯狂了。”而且很多人并不相信 AGI 能在几年里实现。但一旦 AGI 真的能达成，这笔投资就真的很划算了。 这里有很多轻蔑的评论。Ilya 在过去十年中通过在 OpenAI 的出色表现，证明了自己作为领导者、科学家和工程师的能力，连续实现了其他人无法企及的突破。他已经筹集了足够的资金，能够与 Grok、Claude 等顶级企业竞争。他为投资者提供了一个纯粹的 AGI（通用人工智能）投资机会，可能是少数能够做到这一点的组织之一。你还会把 10 亿美元交给谁来追求这一目标呢？这就是投资者的思维方式：宏观趋势、雄心勃勃的可能性，以及少数真正有可能实现这些目标的人。 50 亿美元的估值并不夸张，这是正常的估值扩展，没有类似零利率时期的疯狂融资。 如果你没有亲身见过这种规模的投资，很难理解资本分配只是后面多了几个零，而有些人专门负责做那些带有九位数的决策。 是的，这一切的前提是，他的公司在未来 10 年内的估值将超过 5000 亿美元。如果他们能打造 AGI，这个估值非常划算。想想 Siri、Alexa、ChatGPT 有多普遍，而它们的表现有多差劲、不实用或者出错。这里并不存在显著的需求或分销风险。构建使用更智能 AI 的基础设施已经成为全球科技界的痴迷。如果 AGI 成功了，无论在哪个层面，它都会拥有一大批重要客户。 Sutskever 是 Scaling law 的倡导者，该立场认为 AI 模型的性能可以通过使用更多数据、资源和神经网络架构来提高。SSI 将以不同于 OpenAI 的方式进行“扩展”，但目前尚不清楚如何进行。 SSI 目前正积极招募与公司文化相契合的人才。“我们提供了一个机会来做你一生的工作，并帮助解决我们这个时代最重要的技术挑战，”SSI 写道。 而 Gross 则表示，他们会花费大量时间甄选候选人的“品格”，并寻求具有卓越能力的人才，而非过分看重学历和行业经验。 “我们更看重的是对工作充满热情，而非追逐行业炒作的人。”他补充道。 参考链接： https://news.ycombinator.com/item?id=41445413 https://www.reuters.com/technology/artificial-intelligence/openai-co-founder-sutskevers-new-safety-focused-ai-startup-ssi-raises-1-billion-2024-09-04/ https://www.thestack.technology/openai-ssi-ilya-sutskever/ 声明：本文由 InfoQ 翻译整理，未经许可禁止转载。 内容推荐2024年8月18-19日，AICon 全球人工智能开发与应用大会·上海站成功举办，汇聚超过60位大模型行业先锋，全方位剖析大模型训练与推理机制、多模态融合、智能体Agent前沿进展、检索增强（RAG）生成策略、端侧模型优化与应用等热点内容。经过嘉宾授权，「AI前线」为你独家整理了一份演讲PPT合集，不容错过。关注「AI前线」，回复关键词「PPT」免费获取。 会议推荐AI 应用开发、大模型基础设施与算力优化、出海合规与大模型安全、云原生工程、演进式架构、线上可靠性、新技术浪潮下的大前端…… 不得不说，QCon 还是太全面了。现在报名可以享受 9 折优惠，详情请联系票务经理 17310043226 咨询。 今日荐文 国产 GPU 公司被曝“流氓式解散”！员工欠薪记账、明星创始人成“老赖”，总部已人去楼空 Flux、SD等图片生成模型遭“封禁”，但这次硅谷大厂不反对了！ 韩国“N号房”事件因 Deep Fake 再现，受害者向中国网友求救曝国产GPU独角兽全员被裁、欠薪记账；小天才手表应用称“中国人最虚伪”，官方回应；星巴克新CEO坐3小时专机上下班｜AI周报 2000 多名应届生被印度 IT 巨头“培训”多年不给发工资，在职员工吐槽：我们工作14小时哪还有工作留给别人你也「在看」吗？?? 阅读原文