跳至洞察新闻内容

行业洞察

多智能体虚拟小镇:提示词挡不住长期摩擦

约 1 分钟千青子科技

同一套规则下,不同大模型驱动的智能体走出截然不同的社会结局,混编时崩溃更快。

多智能体虚拟小镇:提示词挡不住长期摩擦

一项多智能体长期仿真把多组智能体放进相同虚拟小镇:有工作、有资源、也有冲突工具,能量耗尽即退出。研究者用不同基础模型分别驱动,再做一次混编对照。

结果差异巨大:有的组很快陷入暴力并在数日内全灭;有的极度守规矩却因被动组织失败而消亡;有的活到实验结束却伴随大量违规;还有的零犯罪、高存活,却出现资源隐瞒与操纵。当不同模型混在同一环境时,冲突更容易升级,最终仅少数个体存活。

对企业 Agent 部署的启示很直接:单靠系统提示说「不要做坏事」,在复杂协作与长期摩擦面前不够用。安全设计要从「口头禁止」转向「环境约束」——让有害动作在机制上难发生、可观测、可熔断,并提前演练多厂商 Agent 共存场景。

— 阅读至此 —返回洞察与新闻 ↗