9 月第二週說清一件事:討論從“代理能否做任務”轉向“我們能否把生產系統託付給代理”。
代理離開實驗室
多步代理工作流——規劃、調工具、觀察、重試——開始跑在真實後臺流程裏,而非會議舞臺。成功的部署共有一模式:範圍窄、工具顯式、在動錢那步有人把關。 失敗的則想一次性自動化一切。教訓與軟件業一貫相同:有界、可觀測的系統贏;無界、不透明的嚇退簽字人。
評估成了紀律
隨著代理執行真實動作,行業收斂到一個無聊卻關鍵的做法:在已知任務上給代理行為打分的固定評估套件。能交付評估基座的供應商顯出成熟度;給不出的被默默跳過。 評估是把有前景原型變成可靠產品的無光工程,也是聲稱“這能用”唯一誠實的方式。
買家抬高門檻
被“從未上生產”的試點灼傷的採購團隊,開始問更尖銳的問題:你的評估套件是甚麼、監督日誌是甚麼、每成功任務的花費是多少? novelty 折扣蒸發了。 這對認真買家是好事。它把支出轉向能證可靠性的供應商,懲罰那些價值全在一卷演示片的供應商。
人工檢查點模式
本週主導的安全模式,是不可逆動作處的人工檢查點。代理準備並建議;人批准寫、付款、傳送。這把速度放在安全處,把控制放在丟失昂貴處。 對中型公司,這模式是無需企業級風險職能即可享受代理價值的入場券。務實,非怯懦。
工具訪問成新攻擊面
給AI 代理工具就是給它權力。安全討論從“模型會不會說錯話”轉向“代理會不會用工具幹壞事”。限定許可權與動作日誌成了基本盤。 架構答案是最小特權工具訪問,加代理每個動作的完整審計軌跡,使一切不再隱形發生。
接下來預期
預期評估自成產品品類,採購框架標準化到可靠性證據。從第一天就內建評估與監督的公司會複利信任;事後補的會落後。 對買家,清單現已具體:評估套件、監督日誌、限定工具、單任務成本。供應商勾不出這些,演示就不是產品。
要點速覽
- 代理工作流帶人工檢查點進入真實部署。
- 評估基座成了交付與演示的分水嶺。
- 採購現要求在前期就給可靠性證據。
- 工具訪問成新攻擊面;限定並留痕。
推行起點
若資助代理項目,先要四樣:評估套件、監督日誌、限定工具許可權、單任務成本。給不出的供應商尚未生產就緒,演示再驚豔也罷。
接下來看甚麼
下週討論可能從“代理是否安全”轉向“其安全性如何被證據化”。把評估套件與監督日誌標準化的採購框架,將區分交付者與僅演示者;採用該清單的買家,將避過昂貴的代理事故第二波。