część, którą pomijają
Problem, którego nikt nie chce wziąć na siebie
Frameworki pomagają zbudować jakiegoś agenta. Nie pomagają natomiast w tym, co ma znaczenie w chwili, gdy agent styka się z prawdziwym światem: w uruchamianiu go dla innych ludzi, wydawaniu ich pieniędzy, dotykaniu ich danych, podejmowaniu działań o realnych skutkach, bez wycieku danych między klientami i bez zrobienia czegoś złego, czego nie da się cofnąć.
cztery fronty
Wielodostępność
Agent jednego klienta nie ma dostępu do danych innego, nawet przez współdzielone narzędzie.
Autonomia
Pozwolenie agentowi działać, a nie tylko rozmawiać, także takiemu, który działa z własnej inicjatywy, z możliwością powstrzymania go przed czymś katastrofalnym.
Zarządzanie
Każde istotne działanie przechodzi przez bramkę autoryzacji. Pieniądze i rezerwacje zawsze czekają na człowieka. Wszystko inne wykonuje się tylko wtedy, gdy pozwala na to stała polityka asystenta, a w przeciwnym razie czeka.
Ekonomia
Wydatki każdego najemcy są ograniczone, a wartość może przepływać atomowo między najemcami: licznik to ogranicznik i warstwa rozliczeń, a nie tylko rachunek.
od jednego do sześciu
Trudne problemy, które rozwiązuje
01 Izolacja, która przetrwa kompozycję
Narzędzie należące do tenanta A, wywołane przez tenanta B, działa w zakresie B, nigdy A. Udowodnione: A nie może odczytać danych B, nawet przez narzędzie, którego A nie jest właścicielem.
02 Działania o realnych skutkach, bezpiecznie
Koperty uprawnień, kolejka zatwierdzeń (najpierw autoryzacja, potem działanie), wyłącznik awaryjny, miękkie uruchomienie, które przechodzi do autonomii dopiero po zdobyciu zaufania, oraz protokół kryzysowy, podpięte w każdym punkcie wejścia.
03 Kompozycja bez mieszania poziomów zaufania
Wewnętrznie = rejestr w procesie (szybki, ograniczony do tenanta). Zewnętrznie = MCP, w obu kierunkach, przez transport chroniony przed SSRF. MCP nigdy nie jest wewnętrzną magistralą.
04 Wynik, który dowodliwie działa
Bramka jakości: generuj → weryfikuj → naprawiaj → wdrażaj. Model proponuje; backend egzekwuje schemat.
05 Platforma, nie produkt
Nowa branża oznacza składanie tego, co już istnieje, a nie budowanie od nowa. Niepowiązani rezydenci działają na jednym kręgosłupie, a lint czystości dowodzi tego przy każdym commicie.
06 Ekonomia jako prymityw bezpieczeństwa
Kredyty są odejmowane atomowo; tura przekierowana do zasobów kryzysowych jest zwracana. Nie obciąża się kogoś w potrzebie. Ten sam prymityw przenosi wartość między tenantami: płatne wywołanie między tenantami obciąża wywołującego i płaci dostawcy w jednym atomowym kroku odpornym na debet.
Co się dzieje, gdy wysyłasz wiadomość.
Każda odpowiedź w notatniku na stronie głównej wypisuje kontrole, które przeszła. Każda z nich jest gwarancją i każda w razie błędu przechodzi w stan bezpieczny.
SET LOCAL app.current_tenant wiąże RLS na czas turybrak kontekstu najemcy ⇒ zero wierszyWłaściwości bezpieczeństwa, które możesz przeczytać, a nie zasady, którym musisz zaufać, UPDATE … SET credits = credits - :n WHERE credits >= :n, book_if_free z blokadą doradczą. Zobacz na żywo, jak dwie z nich się utrzymują →
porozmawiajmy
Nikt nie chce brać na siebie tego problemu. Ja wziąłem.
Jeśli to wielodostępność, nadzór i pomiar zużycia stoją między Twoimi agentami a produkcją, ta część jest już zbudowana. Porozmawiajmy.
Zapytaj, co idzie nie tak, gdy AI może działać, i co PANTHEON z tym robi.
- Co idzie nie tak, gdy AI może działać?
- Co powstrzymuje wyciek danych?
- Co nadal wymaga człowieka?