phần họ bỏ qua
Vấn đề không ai muốn nhận trách nhiệm
Các framework giúp bạn xây dựng một agent. Điều chúng không giúp được là phần quan trọng ngay khi agent chạm vào thế giới thực: vận hành nó cho người khác, tiêu tiền của họ, chạm vào dữ liệu của họ, thực hiện các hành động có hệ quả, mà không làm rò rỉ dữ liệu giữa các khách hàng hay làm sai điều gì đó không thể hoàn tác.
bốn mặt trận
Phân tách tenant
Agent của một khách hàng không thể chạm tới dữ liệu của khách hàng khác, kể cả qua một công cụ dùng chung.
Tự chủ
Để một agent hành động, không chỉ trò chuyện, kể cả agent tự chủ động hành động, kèm theo cách ngăn nó làm điều gì đó thảm khốc.
Quản trị
Mọi hành động hệ trọng đều phải qua một cổng ủy quyền. Tiền và lượt đặt luôn phải chờ một người duyệt; mọi thứ khác chỉ chạy nếu chính sách cố định của trợ lý cho phép, nếu không thì phải chờ.
Kinh tế
Chi tiêu của mỗi tenant bị giới hạn, và giá trị có thể chuyển giữa các tenant một cách nguyên tử: bộ đo là một van tiết lưu và một lớp thanh toán bù trừ, không chỉ là hóa đơn.
từ một đến sáu
Những bài toán khó nó giải quyết
01 Cô lập vẫn đứng vững khi kết hợp
Một công cụ thuộc tenant A, được tenant B gọi, chạy dưới scope của B, không bao giờ của A. Đã chứng minh: A không thể đọc B, kể cả thông qua một công cụ mà A không sở hữu.
02 Hành động có hệ quả, một cách an toàn
Capability envelope, một hàng đợi phê duyệt (authorize-then-act), một kill switch, một chế độ soft-launch chỉ chuyển sang tự chủ khi đã được tin cậy, và một quy trình khủng hoảng, được gắn vào mọi điểm vào.
03 Kết hợp mà không trộn lẫn các mức tin cậy
Nội bộ = registry trong tiến trình (nhanh, giới hạn theo tenant). Bên ngoài = MCP, cả hai chiều, qua một transport có bảo vệ chống SSRF. MCP không bao giờ là bus nội bộ.
04 Đầu ra được chứng minh là hoạt động
Một cổng chất lượng: tạo → xác minh → sửa → phát hành. Mô hình đề xuất; backend thực thi schema.
05 Nền tảng, không phải sản phẩm
Một lĩnh vực mới nghĩa là kết hợp những gì đã có, không phải xây lại. Các resident không liên quan đến nhau chạy trên cùng một xương sống, và bộ lint kiểm tra tính thuần chứng minh điều đó ở mỗi commit.
06 Kinh tế như một primitive an toàn
Credit được trừ một cách nguyên tử; một lượt bị chuyển hướng sang tài nguyên hỗ trợ khủng hoảng sẽ được hoàn lại. Bạn không tính phí một người đang gặp khó khăn. Cùng thành phần cơ bản đó chuyển giá trị giữa các tenant: một lời gọi liên tenant có tính phí sẽ trừ tiền bên gọi và trả cho bên cung cấp trong một bước nguyên tử, không thể chi vượt số dư.
Điều gì xảy ra khi bạn gửi một tin nhắn.
Mỗi câu trả lời trong sổ tay trên trang chủ đều in ra các bước kiểm tra mà nó đã vượt qua. Mỗi bước là một bảo đảm, và mỗi bước khi lỗi đều chuyển về trạng thái an toàn.
SET LOCAL app.current_tenant gắn RLS cho lượt đókhông có ngữ cảnh tenant ⇒ 0 hàngNhững thuộc tính an toàn bạn có thể đọc được, không phải chính sách bạn phải tin, UPDATE … SET credits = credits - :n WHERE credits >= :n, một book_if_free dùng advisory lock. Xem hai trong số đó đứng vững, trực tiếp →
hãy trò chuyện
Không ai muốn nhận bài toán này. Tôi đã nhận.
Nếu phân tách tenant, quản trị và đo lường là những gì đứng giữa agent của bạn và production, thì phần đó đã được xây xong. Hãy trao đổi.
Hãy hỏi điều gì có thể sai khi một AI có thể hành động, và PANTHEON làm gì với điều đó.
- Điều gì có thể sai khi một AI có thể hành động?
- Điều gì ngăn nó làm rò rỉ dữ liệu?
- Điều gì vẫn cần đến con người?