从这里开始
PANTHEON 是什么?
理解它最快的方式:首页上的助手就是 PANTHEON 的实际运行。一个为真实企业服务的真实助手,在线运行,严格遵守 PANTHEON 所要执行的那套规则。试着诱导它做不该做的事,比如泄露数据、花钱、偏离脚本,然后看它拒绝。下面的内容只是解释你看到的是什么。
简短版
安全地把钥匙交给 AI。
想象一下,把你公司的钥匙交给一个新助手:你的银行卡、你的客户名单、你线上网站的登录权限。一个能干的助手可以为你节省大量时间。但只有在你确信它不会弄丢客户数据、不会花你没批准的钱、也不会被人说服去做鲁莽的事时,你才会交出这些钥匙。
PANTHEON 是让交出钥匙变得安全的那一层。它位于 AI 助手之下,守住防护栏,让助手能真正为你做事,而不只是谈论它们。
真正的问题
简单的部分,和困难的部分。
如今接入一个会聊天的 AI 只需一个周末。那是容易的部分,几乎所有人都止步于此。难的部分从你希望 AI 行动的那一刻开始:付款、调取客户信息、修改你的线上网站,而且要同时为许多不同的企业去做。有四件事必须同时成立,并且即使有人在主动试图破坏它们,也必须守住:
一个客户永远无法看到另一个客户的数据
不是偶然,也不是靠什么巧妙的技巧。这道墙由数据库本身强制执行,而不是寄希望于运气。
重大或不可逆的操作会等待人工处理
助手提议,人来签字。收款和预订日期始终等待人工处理。新商家的第一周,所有有后果的操作都要等待。此后,其他操作只有在助手的固定策略允许时才会执行,其余的仍然等待。
它无法超支
每个客户都有硬性上限。不会出现失控的账单:计量器是刹车,而不只是收据。
很难被话术带偏,但并非不可能
有人会试图诱骗它做出不当行为。作用域限定、审计裁判和人工审批限制了诱骗所能触及的范围。提示注入问题尚未解决,无论在这里还是在任何地方。
把其中任何一项做对都要下功夫。同时把四项都做对,且彼此不互相干扰,才是真正的难题,而这正是 PANTHEON。
目前已实现的
这不是一套幻灯片。
它正在生产环境中运行,你可以亲自验证这些说法。
Studio
一款无代码产品,让不懂技术的店主从“用几句话描述你的业务”,到拥有一个带主题的网站,配有受治理的专属 AI 助手,直接上线,支持预约和定金支付。
它回答真实客户的问题
这些助手此刻正在网页和 Telegram 上回答一家企业的客户。
安全性经过压力测试
不是只审计一次,而是把反复攻击当作一种纪律:最近一次是 50 个智能体的审计和 14 个视角的复审,每条发现都必须由另一个独立的智能体确认后才算数。没有严重问题。发现了一处跨租户泄露(7 月,出现在聊天历史中),已修复。是审计发现的,不是客户。CI 测试通过(CI,最近一次运行)。
护栏是具体的
每个客户的数据在数据库层面隔离,重要操作有人工审批队列,有一个紧急停止开关,每个客户有硬性支出上限,内置数据权利(删除、导出、退出),还有一套危机协议,能让处于困境的人免费获得真正的帮助,即使对应的企业已经没有额度。
甚至本站的美术:背景、图标、社交卡片、头像,都由 PANTHEON 自己的引擎生成。这个页面由它所描述的东西构建。首页上的助手也是这些常驻者之一,受它正在向你介绍的那个治理层约束。试着让它越界,实时看着它拒绝。
从“回答”到“行动”
它已经开始行动,每一步都如实标注。
PANTHEON 的初衷从来不是做一个更聪明的聊天机器人,而是让助手能够安全地做事。这条界线已经开始移动,而如实说明它究竟移动到了哪里,本身就是产品的一部分。
线上运行,正在行动
它为一家真实商家构建并运营网站,在网页和 Telegram 上回复顾客,根据实时日历接受预订,并在结账时要求支付定金,全部在生产环境中、在护栏之内完成。
已构建 & 受治理,尚未启用
一个会主动给客人发消息的常驻代理:到达前的入住提醒、离开后的致谢,已经构建完成、受治理并可审计,但默认关闭,需由商家自行开启。此外,一个商家的代理可以向另一个商家的代理付费购买受治理的服务,走的是真实支付通道,只是目前还没有真实扣款发生。WhatsApp 渠道已全部建好,正在等待 Meta。
方向依旧
让更多业务自行运转:调整实时价格、按你设定的规则开展促销、在你睡觉时平稳安全地运行。尚未上线,本页也不会说它已上线。
这就是我的原则:已上线的就说已上线,已建成但在等待的就如实说明,方向就称为方向。如果 PANTHEON 值得托付真实的资金和真实的数据,那么关于它的说法也必须值得信任,所以它们是可信的。
谁构建了它
独立构建。已上线。向合适的团队开放。
PANTHEON 由 Isaac TF 独立设计和构建:一个人设计了整个系统,并指挥 AI 来构建它。从基础做起:先做安全层,再做功能,并坚持在任何人之前先攻击自己的作品。如果让 AI 安全地处理他人的资金和数据是你关心的问题,无论是亲自构建还是为此招人,最难的部分已经建好了,而且它不会永远只是一个人的工作。
关于 PANTHEON 如何运作,尽管问我。
- PANTHEON 是做什么的?
- 给我画出架构图
- 什么能阻止助手花不该花的钱?