他们跳过的部分
没人愿意负责的问题
框架能帮你构建一个智能体。它们帮不了的,是智能体一接触真实世界就变得关键的那部分:为其他人运行它,花他们的钱,接触他们的数据,执行有后果的操作,同时不在客户之间泄露数据,也不做出无法撤销的错误操作。
四条战线
租户体系
一个客户的智能体无法访问另一个客户的数据,即使通过共享工具也不行。
自主
让智能体行动,而不只是聊天,包括主动自行行动的智能体,同时有办法阻止它做出灾难性的事。
治理
每个有后果的操作都要通过授权关口。涉及资金和预订的操作始终等待人工处理;其他操作只有在助手的固定策略允许时才会执行,否则等待。
经济模型
每个租户的支出都有上限,价值可以在租户之间原子性地转移:计量器既是节流阀,也是结算层,而不只是账单。
一到六
它解决的难题
01 经得起组合的隔离
租户 A 拥有的工具被租户 B 调用时,在B 的作用域下运行,绝不会在 A 的作用域下运行。已证明:A 无法读取 B,即使通过不属于 A 的工具也不行。
02 安全地执行有后果的操作
能力边界、审批队列(先授权后执行)、紧急停止开关、只有在获得信任后才逐步过渡到自主运行的软启动,以及一套危机协议,接入到每一个入口点。
03 组合而不混用信任级别
内部 = 进程内注册表(快速,按租户限定作用域)。外部 = MCP,双向,走有 SSRF 防护的传输层。MCP 从不作为内部总线。
04 可证明有效的输出
质量关卡:生成 → 验证 → 修复 → 交付。模型提出方案;后端强制执行 schema。
05 平台,而非产品
新增一个垂直领域意味着组合已有的部分,而不是重建。互不相关的常驻代理共用同一根主干,纯净性 lint 在每次提交时都会证明这一点。
06 经济机制作为安全原语
额度以原子方式扣减;被转向危机资源的对话轮次会退款。你不会向处于困境中的人收费。同一个原语也在租户之间转移价值:一次定价的跨租户调用会在一个原子、防透支的步骤中向调用方扣费并向提供方付款。
发送一条消息时会发生什么。
首页笔记本中的每个回答都会显示它通过了哪些检查。每一项都是一个保证,并且每一项在失败时都以安全方式失败。
SET LOCAL app.current_tenant 为本轮对话绑定 RLS无租户上下文 ⇒ 零行可以直接读懂的安全属性,而不是需要你去信任的策略,UPDATE … SET credits = credits - :n WHERE credits >= :n,一个带咨询锁的 book_if_free。现场看其中两个成立 →
可以问:当 AI 能执行操作时会出什么问题,以及 PANTHEON 如何应对。
- 当 AI 能执行操作时会出什么问题?
- 什么能阻止它泄露数据?
- 哪些事仍需要人来处理?