模型权重不动,围绕提示、工具、校验与编排的「脚手架」开始按真实运行反馈进化,安全与功能被分开计分。

圈子里的关键词正从「提示词技巧」转向 Harness 工程——也就是给大模型套上的记忆、工具权限、校验门禁、子代理与失败回环。研究团队展示的一类系统,允许编码 Agent 根据真实运行反馈改写自己的工具、技能与编排逻辑,而模型权重保持冻结。
关键做法是把「功能是否通过」和「是否足够安全」拆成独立目标,保留多套候选脚手架并行进化,避免为了刷过测试而牺牲安全,或反过来。改进还要在进化过程从未见过的任务上验收,否则很容易把评测集背下来。
对落地团队的实用路径是:先把可编辑的工作流、可观测的失败信号和可复用的校验组件建起来,再谈模型换代。模型差一两个点往往不致命,脚手架差一整条产线才致命。
— 阅读至此 —返回洞察与新闻 ↗



