跳至问答内容

智能体能力

智能体会不会擅自修改数据或替人做决定?

可以把智能体限制为只读、生成草稿或提交待审核任务,并为高影响动作增加人工确认。具体限制应由系统权限和流程共同执行。

建议按风险分级:资料检索可自动完成,修改订单、退款、批量发送消息等动作需要授权和确认。关键操作应保留记录。

模型提示词不能替代后端权限控制。交付时应验收错误输入、越权调用和外部资料中的恶意指令等场景。

资料核对 千青子科技
浏览同主题问题 ↗

继续了解

全部常见问题 ↗