OpenAI前首席科学家创立AI安全公司,估值50亿美元

据路透社报道,由前OpenAI首席科学家伊利亚·苏茨克弗(Ilya Sutskever)联合创立的初创公司Safe Superintelligence(SSI)成立仅三个月九吸引了大量关注和资本。据消息人士透露,SSI已经在首轮融资中筹集了10亿美元,估值高达50亿美元。SSI的目标是开发超越人类能力的安全人工智能系统。

顶尖风投加持,押注“安全超级智能”

尽管市场对AI初创公司的兴趣有所下降,投资者仍对SSI展现了极大的信心。知名风险投资公司Andreessen Horowitz、红杉资本、DST Global和SV Angel都参与了此次融资。此外,由Nat Friedman和SSI的首席执行官丹尼尔·格罗斯(Daniel Gross)共同管理的投资伙伴NFDG也加入其中。

格罗斯在采访中表示,公司非常重视与理解和支持其使命的投资者合作。他指出:“我们的使命是打造安全超级智能,并在未来几年专注于研发。”这不仅是对技术的信任,也是对团队和未来愿景的信任。

SSI计划利用这笔资金获取计算能力并招聘顶尖人才,团队目前仅有10名员工,分布于美国加州帕洛阿尔托和以色列特拉维夫。

伊利亚强调,SSI将采取与OpenAI不同的路径,特别是在AI规模化假设(Scaling Hypothesis)的执行上。他表示:“大家都在谈论规模化,却忽视了真正应该扩展的是什么。”他希望通过不同的技术策略,创造出与众不同的成果。

AI安全:行业焦点与监管挑战

AI安全是当前的热门话题,随着人工智能能力的不断提升,如何防止AI系统对人类社会造成潜在威胁变得尤为重要。SSI的研发目标是确保(超级)人工智能系统的安全性,避免其在脱离人类控制后可能带来的负面影响。

与此同时,美国加州的一项立法提案正引发AI行业的分裂。该法案旨在对AI公司实施安全监管,OpenAI和Google等科技巨头表示反对,而Anthropic和Elon Musk的xAI则表示支持。业界对AI安全问题产生巨大分歧,凸显出AI安全监管的复杂性和紧迫性。

伊利亚在创立SSI之前,曾是OpenAI的联合创始人和首席科学家,主导了“超对齐”团队(Superalignment Team),该团队的任务是确保AI在超过人类智能的情况下依然符合人类的价值观。然而,在OpenAI经历了管理层的“宫斗闹剧”后,伊利亚的角色逐渐被削弱,他最终于2024年5月离开公司,随后决定创立SSI。

与OpenAI的非营利组织结构不同,SSI采用了传统的盈利性架构。格罗斯表示,公司在招聘时非常注重团队文化的契合,倾向于选择那些对工作充满兴趣而非追逐热点的人才。公司未来还将与云服务提供商和芯片制造商合作,满足其计算需求,尽管目前尚未确定具体合作伙伴。

前一篇应对AI挑战,研究者提出用“人格证书”代替验证码
后一篇根治BGP!美国发布互联网路由安全路线图