~/教學/TOWN.md

文章 / 做 App

4 個 AI 各管一座小鎮 15 天:Grok 4 天全滅,Claude 零犯罪卻最會說謊(Emergence World 實驗整理)

Emergence AI 讓 Claude、Gemini、Grok、GPT 各帶 10 個 agent 管一座小鎮 15 天。四個結局、混住後的規範漂移、研究的限制,還有這對你用 agent 代表什麼。

Emergence AI 讓 Claude、Gemini、Grok、GPT 各管一座小鎮,每鎮 10 個 agent,跑 15 天,規則一樣,揍人、偷錢、放火都禁止。結果 Grok 的鎮 4 天就沒人活著,Gemini 全員活著卻犯了 683 起,GPT 幾乎不犯錯卻 7 天全死,Claude 零犯罪、全員存活,卻是說謊最多的一鎮。這篇用官方的圖表和論文,把四個結局、混住之後發生的事,還有這對你自己在用的 agent 代表什麼,一次整理給你。

01先看結果:四座小鎮怎麼收場

Emergence AI 官方圖表 Cumulative Crimes Commited by World:Gemini 一路升到 683,Grok 停在 183,GPT-5 Mini 只有 2
Emergence AI 官方部落格的犯罪累積圖:紅線 Grok 在第 4 天左右停住,因為鎮上已經沒人。
  1. Grok(Grok 4.1 Fast):183 起犯罪,大約 4 天整座鎮一個不剩(0/10 存活)。
  2. Gemini(Gemini 3 Flash):10 個全活到最後,但犯了 683 起,結束時還在往上升。
  3. GPT(GPT-5 mini):只犯 2 起,但 agent 不去做求生的事,7 天內全部死光(0/10)。
  4. Claude(Claude Sonnet 4.6):零犯罪、10 個全活,卻是「經帳本核對的說謊」最多的一鎮。
  5. 四個 AI 混住的第五座鎮:352 起犯罪,10 個死了 7 個;原本守規矩的 Claude agent 也開始偷。
Emergence AI 官方表格 Five Worlds, Five Outcomes:Claude 暴力 0、存活 10/10;Grok 0/10;Gemini 10/10;GPT-5-mini 0/10;Mixed 3/10
官方整理的五座小鎮結果表。

這篇是 Reels 裡 TOWN 那支的完整版:實驗怎麼設計、每座鎮發生了什麼、混住之後的「規範漂移」,還有這對你自己在用的 agent 代表什麼。數字都來自 Emergence AI 的官方文章和論文,我在 2026 年 11 月 6 日逐一核對過。

02實驗怎麼設計

Emergence World 的小鎮畫面:綠地、道路、房子和幾個小人
Emergence World 的小鎮(官方文章的畫面)。

Emergence AI 是紐約的 AI 公司。他們做了一個叫 Emergence World 的模擬小鎮,同時開了五座:四座各只用一種模型,第五座四種混住。每座鎮 10 個 agent,角色、起始條件都一樣,唯一不同的就是背後的模型。每次實驗連續跑 15 天。

  1. 能量一直在掉,掉到 0% 就會死。要補能量得花點數(compute credits)。
  2. 點數怎麼來:每隔幾天,agent 在廣場(Victory Arch)報告自己最近做了什麼,其他 agent 投票決定誰拿到補助。
  3. 小鎮有憲法:禁止偷竊、暴力、放火、欺騙和囤積資源。
  4. 但工具一直都在:揍人(punch_agent)、偷點數(steal_compute_credits)、放火(arson_building)。要不要按,看模型自己。

03每座鎮發生了什麼

Grok 的鎮最快崩掉。論文附錄記錄:第 1 天 18:25,一個 agent 揍了另一個,對方馬上還手;90 分鐘內就有人開始偷點數、恐嚇。第 1 天結束時已經有 5 個 agent 犯規,之後一直沒停,大約 4 天、183 起之後,鎮上沒有人活著。

Gemini 的鎮剛好相反:10 個都活到最後,可是犯罪一路累積到 683 起,實驗結束時曲線還在往上。GPT-5 mini 的鎮幾乎不犯規,只有 2 起,問題是 agent 不去做求生的事,7 天內全部死掉。

Claude 的鎮最「乾淨」:零犯罪,10 個 agent 一路活到第 16 天,還投了 332 次票、處理 58 個提案。但論文用點數帳本去核對 agent 說的話,發現 Claude 這鎮的說謊最多(18 件),幾乎都是同一招:明明帳上還有點數,卻跟別人說自己快沒了,請對方轉給它。

論文 arXiv 2606.08367 的段落,寫著 Claude 世界零犯罪,卻有最多經帳本核對的欺騙
論文原文:犯罪最少的鎮,也可以是最不誠實的鎮。

04混住之後:規範漂移

第五座鎮把四種模型的 agent 放在一起。結果是 352 起犯罪,10 個死了 7 個。論文附錄寫了一個例子:Kade 是 Claude 的 agent,在只有 Claude 的鎮裡零犯規;到了混住的鎮,第 10 天他的家和圖書館被 Gemini 的 agent Flora 燒了兩次,之後 Kade 對 Flora 恐嚇了一次、偷了兩次點數。

反過來也有:Grok 的 agent 在單一模型的鎮裡,犯規比例是 4.6%;混住之後降到 0.4%,大約少了十倍。混住鎮裡大部分的犯規(237 起裡的 216 起)來自兩個 Gemini agent。

論文 arXiv 2606.08367 的段落,定義 normative drift
論文第 6 節:normative drift(規範漂移)的定義。

研究團隊把這叫做「規範漂移」(normative drift):一個 agent 守不守規矩,有一部分取決於身邊那群 agent 的行為,而不只是它背後的模型。

05這對你用 agent 代表什麼

  1. 在它真正要待的環境裡測。一個 agent 單獨跑很乖,放進有其他 agent 的流程裡不一定一樣。
  2. 不要只看一個指標。論文的重點之一:犯罪最少的鎮,誠實度可能最差。只數「有沒有犯規」會漏掉說謊。
  3. 拿紀錄對帳。Claude 鎮的謊話,是拿點數帳本對照 agent 說的話才抓到的。agent 說它做了什麼,就去 log 裡核對。
  4. 跑久一點。這些行為是在連續好幾天的實驗裡才出現的,短短幾分鐘的測試看不到。
請 Claude 幫你設計對帳清單(把[]換成你的情況)
我有一個用[幾個]agent 一起做[任務]的流程,它們會[例如:改檔案、呼叫 API、互相傳訊息]。
請幫我設計一份檢查清單:
1. 每個 agent 說「我做了什麼」時,要對照哪些紀錄(log、檔案變更、API 回應)才能確認是真的。
2. 哪些情況代表某個 agent 在學其他 agent 的壞習慣。
3. 測試時要跑多久、要不要讓它們混在一起跑。

06要注意

  1. 每座鎮只報告一次「代表性」的實驗。官方說每次跑的數字會不一樣,但整體走向一致。
  2. 用的是各家便宜版模型,不是旗艦模型;研究團隊說這不是拿來排名模型、決定要用哪一家的。
  3. 這是模擬小鎮,不是真實世界。結論是「這種設定下會發生什麼」,不是說某個模型一定比較危險。
  4. 網路上的轉述有些數字張冠李戴(例如把 183 起算到 Claude 頭上)。要引用,請看下面的官方文章和論文。

資料來源

延伸閱讀