通用人工智能 (AGI)

假设中能在所有认知任务上达到或超越人类水准的 AI 系统，定义与测量方式至今没有共识。

AGI——通用人工智能——指能在几乎所有认知任务上达到或超越人类水准的 AI，不只擅长单一领域。对比的是「狭窄 AI」像 AlphaGo（围棋超人，其他都不行）或当前 LLM（很厉害但不平均，可能在小孩都会的事上失败）。它重要的原因是：AGI 是 OpenAI、Anthropic、DeepMind 公开宣告的长期目标，也是投资人、监管者、AI 实验室讨论「transformative AI」或存在风险时谈的主题。AGI 是 5 年还是 50 年到，影响战略、alignment 研究优先级、政策。争论：没有广泛接受的定义或测试。Sam Altman 说 GPT-4「显然不是」AGI；François Chollet 的 ARC 挑战是定量 AGI 测试的尝试之一。有些研究者认为当前 LLM 规模化能到，有些认为需要根本不同的架构。实务观察：目前前沿模型在很多领域很厉害，在某些领域奇怪地弱（数字母、全新推理、长时间 agent 工作）。「impressive demo」跟「像人类专业人员那样全任务可靠」之间的差距，就是 AGI 的差距。延伸阅读：ASI、scaling laws、alignment、frontier model。