安全

守护闭环

自主系统需要的不仅是边界防护,更需要策略、可追溯性、验证与故障隔离

安全模型

最小权限

智能体与引擎仅访问任务所需的数据和工具。权限按请求授予并随任务到期失效,使单个被攻破的步骤无法触及更广的系统。

访问

可重放轨迹

关键操作会生成可审查、可回放的推理与执行记录。每个决策都能被逐步重建,把调试与审计变成阅读历史,而非凭空猜测。

审计

策略闸门

高风险操作在执行前受策略、阈值、审批与回滚路径的约束。限制在执行时强制生效,而非仅作建议,使不安全的操作被阻断,而非只是被记录。

管控

智能系统的威胁模型

AI 系统带来全新的故障模式:提示注入、工具滥用、意外数据泄露、幻觉操作、上下文过期,以及无界自主。

上下文攻击

不可信输入试图操纵模型行为或工具访问。

工具风险

权限过大的智能体可能把微小的推理错误演变为现实世界中的操作。

供应链

模型、工具、软件包与连接器必须经过版本管理、审计与监控。

每个操作都应有边界

优秀的自主基础设施让允许的操作清晰明确,让不安全的操作难以发生。

让智能更近一步。