工程 · 1 min read
Context:這一步要讓 agent 看什麼、不看什麼
Context 不是越多越好。一份過期的待辦快照,差點讓我的 agent 很有自信地講錯話。這篇整理組裝 context 的五個步驟、三層記憶,以及為什麼最常被跳過的 Trim 最重要。
有一天,North 收到一份 4 天前的待辦快照。快照上寫著「連三天太累,今天要減量」。
North 發現快照的時間範圍不是最近三天,就沒採用。它告訴我:資料過期了。我這才發現,它差點就很有自信地講錯話。
Context 的五個步驟
Context 不是越多越好。「大大帶我飛」的演講把組裝 context 分成五步:
最常被跳過的是 Trim。資料還在,不代表它還是對的。
三層記憶
演講也把記憶分成三層:
- 任務狀態:這次在做什麼、跑了哪些工具、下一步是什麼。
- Session 記憶:這段對話讀過哪些檔案、有哪些短期假設。
- 長期記憶:使用者偏好、專案慣例、過去學到的事。
過期的快照,其實是短期資料混進了今天的 context。
我學到的事
每份資料都要帶上「什麼時候產生的」。這樣 agent 才能判斷它是否過期。
更好的做法,是不要讓 agent 每次自己判斷。那次之後,我把它變成一條規則:快照太舊,script 直接不送進 context。這就是讓 NFR 畢業成 FR說的畢業。Context 屬於 harness 的其中一層,見Harness 是 agent 的工作環境。
放進 context 的每一份資料,都要能回答:它還是對的嗎?
參考來源:
- 「大大帶我飛」的演講
延伸閱讀: 看看過期快照那條規則怎麼畢業,讀讓 NFR 畢業成 FR,回頭讀Harness 是 agent 的工作環境。或回到系列總覽:設計 Agent,先切 FR 與 NFR。