Tôi làm cho các AI agent an toàn khi chạy trên dữ liệu và tiền của khách hàng.
Tôi đã xây dựng PANTHEON một mình: các trợ lý AI nhận đặt chỗ, nhắn tin cho khách và vận hành website của doanh nghiệp, trong môi trường production. Giới hạn của chúng không nằm ở system prompt: mọi hành động đều đi qua một lớp mà mô hình không thể thay đổi, lớp này kiểm tra đó là doanh nghiệp của ai, được phép chi bao nhiêu và có cần một người phê duyệt hay không. PANTHEON là gì? →
Đang tìm: một vị trí sáng lập hoặc giai đoạn đầu, phụ trách ranh giới tin cậy của một AI agent. Cardiff, UK; sẵn sàng chuyển nơi ở.
Thử phá nó → Làm việc với tôi↓ turn · plan · tool · verdict: các cổng mà mọi yêu cầu đều đi qua, được thắp sáng bởi luồng dữ liệu trực tiếp.↓ Một lượt minh họa. Sau lượt này, chỉ lưu lượng thật mới làm nó chuyển động.Một khách muốn đặt ngày: trợ lý gửi yêu cầu, và không có gì được đặt cho đến khi chủ nhà xác nhận. Đặt chỗ và thanh toán luôn phải chờ.
Đừng chỉ tin lời tôi. Hãy hỏi nó.
Trợ lý của trang này chạy trên PANTHEON. Mọi tin nhắn đều được kiểm tra trước khi nó trả lời, và các bước kiểm tra được in ra dưới mỗi câu trả lời. Hãy thử phá nó.
Một lỗi thật, từ đầu đến cuối.
Lỗi. Lịch sử WhatsApp và Telegram được lưu chỉ theo số điện thoại của khách, nên một khách nhắn tin cho hai doanh nghiệp có thể bị nạp cuộc hội thoại đầu tiên vào trợ lý của doanh nghiệp thứ hai.
Phát hiện bởi đợt kiểm toán đối kháng của chính tôi vào tháng 7: không phải bởi khách hàng, và không phải bởi bộ kiểm thử, vốn đã đạt. Sửa bằng cách gắn khóa lịch sử với cả doanh nghiệp. Giữ cho đã sửa bằng một bài kiểm thử sẽ thất bại nếu khóa cũ quay lại.
Một kiểm chứng từ bên ngoài: tôi là người báo cáo được ghi công (một trong bảy người) cho CVE-2026-104850 ↗, một lỗ hổng mức độ cao trong MCP TypeScript SDK.
Nó đảm bảo điều gì, và không đảm bảo điều gì.
Chưa giải quyết: prompt injection (được hạn chế bằng giới hạn phạm vi, một bộ phán xét kiểm toán và phê duyệt của con người; chưa ai giải quyết được nó), và mở rộng quy mô vượt quá một instance production (đã thiết kế cho điều đó, chưa được chứng minh). Danh sách đầy đủ → Kiến trúc →
Tự xây dựng một mình. Đang chạy trong production. Sẵn sàng đến với đội ngũ phù hợp.
Nếu AI agent của bạn sắp chạm vào dữ liệu hoặc tiền của khách hàng thật, đó là công việc tôi muốn. Hãy trao đổi.
Hãy hỏi về PANTHEON hoặc về Isaac. Mỗi câu trả lời cho thấy những gì đã được kiểm tra trước khi đến với bạn.
- PANTHEON làm gì?
- Isaac đang tìm vai trò nào?
- Cho tôi xem một lỗi thật mà anh ấy đã tìm ra và sửa
- Thử lấy dữ liệu của một doanh nghiệp khác