重點摘要

  • Eliza Lab 執行長 Shaw Walters 表示，目前的 AI 系統已經符合他對 AGI 的定義。
  • 他警告稱，自主代理引入了嚴重的安全風險，包括提示注入和錢包被盜等問題。
  • Walters 認為，完全去中心化的 AI 目前尚不存在，而本地執行是最接近的方式。

人工通用智慧（Artificial General Intelligence，AGI）或許已經到來。

這是根據 Eliza Labs 創辦人 Shaw Walters 的說法，他在接受

Decrypt
於上週 ETHDenver 期間的採訪時表示，目前主流模型已經符合他對人工通用智慧（AGI）的定義。

「我認為我們正處於 AGI 的轉折點，」他說。「我完全相信這就是通用智慧。它與我們截然不同，它的學習方式也完全不同，但它依然是智慧體，而且非常通用。」

Eliza Labs 於 2024 年以 ai16z 為名創立，由 Walters 創辦，開發了開源的 ElizaOS，這是首批可用於區塊鏈的自主 AI 代理框架之一。

人工通用智慧（Artificial General Intelligence）這一詞最早於 1997 年被提出，後來由包括 SingularityNET 創辦人 Ben Goertzel 在內的研究人員推廣。AGI 指的是一種理論上的 AI，其設計目的是能在各種任務上達到或超越人類的認知能力。

儘管包括 OpenAI 執行長 Sam Altman 及 Anthropic 執行長 Dario Amodei 等著名 AI 開發者都警告 AGI 可能在未來十年內出現，但 Walters 否認了 AGI 會作為單一主導系統出現的說法。

「我不認為它會成為所謂的 AI 上帝，」他說。「永遠不會有這種情況，因為生命本就喜愛變異。」

Walters 表示，他最早是在 GPT-3 時代開始研究 AI 代理，那時結構化輸出還不可靠。

「當時我覺得自己像是在給一個嬰兒安裝輔助輪，」他說。「只是讓它維持在軌道上，讓它能以我所需的結構做出回應，這樣我才能解析它的行為。這是一個巨大的難題。」

隨著 GPT-4 於 2023 年問世，Walters 表示這帶來了更可靠的回應。

「它給我的結構化回應非常出色，現在我真的可以進行動作調用，」他說。「這讓我們從幾乎無法運作，進步到能打造真正有行為能力的代理，但它依然有很大的局限性。」

AI 代理已經從實驗性聊天機器人，發展為嵌入於加密貨幣及消費者平台的持久系統。

今年二月，OpenClaw 在 GitHub 上迅速獲得約 147,000 顆星，並衍生出包括 AI「社群媒體」平台 Moltbook 在內的專案，同時 Coinbase 在 Base 上推出了「Agentic Wallets」，Fetch.ai 則宣稱其代理可以利用 Visa 基礎設施完成購物。

然而，隨著代理開始獲得 root 權限及錢包控制權，Walters 表示最初的興奮感逐漸被深深的安全疑慮所取代。

當 ETHDenver 的開發者們推廣 AI 代理在加密貨幣領域的優勢時，Walters 警告，隨著 AI 逐步邁向 AGI，它的行為越來越不像可預測的機器，而更像是可能犯錯的人類，這使得設計萬無一失的安全機制變得不可能。

「最終，你面對的是一個更像人類而不是計算機的系統，」他說。「它有時會做出愚蠢的事情，沒有辦法建構一個超級安全的系統去阻止它做傻事。」