通用人工智慧 (AGI)

假設中能在所有認知任務上達到或超越人類水準的 AI 系統，定義與測量方式至今沒有共識。

AGI——通用人工智慧——指能在幾乎所有認知任務上達到或超越人類水準的 AI，不只擅長單一領域。對比的是「狹窄 AI」像 AlphaGo（圍棋超人，其他都不行）或當前 LLM（很厲害但不平均，可能在小孩都會的事上失敗）。它重要的原因是：AGI 是 OpenAI、Anthropic、DeepMind 公開宣告的長期目標，也是投資人、監管者、AI 實驗室討論「transformative AI」或存在風險時談的主題。AGI 是 5 年還是 50 年到，影響戰略、alignment 研究優先級、政策。爭論：沒有廣泛接受的定義或測試。Sam Altman 說 GPT-4「顯然不是」AGI；François Chollet 的 ARC 挑戰是定量 AGI 測試的嘗試之一。有些研究者認為當前 LLM 規模化能到，有些認為需要根本不同的架構。實務觀察：目前前緣模型在很多領域很厲害，在某些領域奇怪地弱（數字母、全新推理、長時間 agent 工作）。「impressive demo」跟「像人類專業人員那樣全任務可靠」之間的差距，就是 AGI 的差距。延伸閱讀：ASI、scaling laws、alignment、frontier model。