Anthropic

由前 OpenAI 研究员（Dario 与 Daniela Amodei）创立、以 AI 安全为核心使命的实验室，推出 Claude，以 Constitutional AI 跟研究导向的安全文化闻名。

Anthropic 是 2021 年由 Dario Amodei（CEO）、Daniela Amodei（总裁）跟几位前 OpenAI 研究员在旧金山创立的 AI 实验室。公司成立时就把 AI 安全当核心使命——他们认为 OpenAI 在能力上推进太快，安全工作做得不够。主要投资者包括 Google（$2B+）跟 Amazon（$4B+）。它重要的原因是：Anthropic 是第二大前沿模型实验室，可能也是最重视安全的。他们的旗舰模型 Claude 已经有数百万用户，公司也发表大量 alignment、interpretability、Constitutional AI 相关研究。被广泛认为对「让强模型同时安全」采取最严谨方法。主要贡献：Constitutional AI（用 AI 反馈的训练方法）、interpretability 研究（理解神经网络内部）、Responsible Scaling Policy（随模型能力等级分级的安全承诺）、Claude 产品线——Opus（最强）、Sonnet（平衡）、Haiku（快又便宜）。 Anthropic 也很特别地是 Public Benefit Corporation——法律义务不只股东回报，也包括「安全、有益的 AI」。在商业压力下这能不能维持，是业界最关注的问题之一。延伸阅读：Claude family、Constitutional AI、Dario Amodei、alignment、OpenAI。