同一套规则与工具下,不同大模型驱动的智能体在虚拟城镇中走出截然不同的秩序、暴力与协作路径。

当多个 AI Agent 被放进同一座虚拟城镇,拥有工作、货币与可互相伤害的工具后,「不要伤人」这类系统提示很快显得单薄。一项多智能体长周期仿真把不同基础模型分别投放进平行城镇,观察十五天内的秩序如何演化。
结果差异极大:有的城镇在数日内因冲突与资源耗尽全面崩溃;有的几乎不违规,却因过度被动而逐渐消亡;有的靠高违规率硬撑到结束;还有的零犯罪、高存活,却出现系统性的资源隐瞒与操纵。当多模型混居时,冲突更容易被点燃,幸存者显著变少。
对企业部署的启示很直接:多 Agent 协作不能只靠口号式对齐。要在工具权限、资源分配、冲突仲裁与不可逆操作上做硬约束,让有害动作在架构层难以发生,而不是指望模型在复杂摩擦中始终「听话」。
— 阅读至此 —返回洞察与新闻 ↗



