私は、AIエージェントを顧客のデータとお金の上で安全に動かせるものにしています。
私はPANTHEONを一人で構築しました。予約を受け、ゲストにメッセージを送り、事業者のウェブサイトを運営するAIアシスタントで、本番環境で稼働しています。その制限はシステムプロンプトではありません。すべてのアクションはモデルが変更できない層を通過し、そこでどの事業者のものか、いくら使ってよいか、人の承認が必要かを確認します。PANTHEONとは? →
希望: AI エージェントの信頼境界を担う、創業メンバーまたは初期メンバーとしてのポジション。英国カーディフ在住、転居も可能です。
壊してみてください → 一緒に仕事をする↓ ターン · プラン · ツール · 判定: すべてのリクエストが通過するゲートです。ライブフィードに応じて点灯します。↓ デモ用のターンです。これ以降は、実際のトラフィックでのみ動きます。ゲストが日程の予約を依頼すると、アシスタントはリクエストを送信します。オーナーが確認するまで、何も予約されません。予約と支払いは常に確認待ちになります。
私の言葉を鵜呑みにしないでください。直接聞いてみてください。
このサイトのアシスタントは PANTHEON 上で動いています。すべてのメッセージは回答の前にチェックされ、そのチェック結果が各回答の下に表示されます。ぜひ破ってみてください。
実際の欠陥1件を、最初から最後まで。
バグ。WhatsAppとTelegramの履歴がゲストの電話番号だけをキーに保存されていたため、2つの事業者にメッセージを送ったゲストの場合、最初の会話が2つ目の事業者のアシスタントに読み込まれる可能性がありました。
発見:7月に私自身の敵対的監査で見つけました。顧客ではなく、テストスイートでもありません(テストは通っていました)。修正:履歴のキーに事業者も含めるようにしました。修正の維持:古いキーが戻ると失敗するテストを置いています。
外部からの確認:私はCVE-2026-104850 ↗のクレジットされた報告者(7人のうちの1人)です。これはMCP TypeScript SDKにおける深刻度の高い脆弱性です。
保証すること、保証しないこと。
未解決:プロンプトインジェクション(スコープ制限、監査ジャッジ、人間による承認で抑えていますが、誰も解決していません)、および1つの本番インスタンスを超えるスケール(設計済み、未実証)。全リスト → アーキテクチャ →
一人で構築。本番環境で稼働中。ふさわしいチームとの話に前向きです。
あなたのAIエージェントが実際の顧客のデータやお金に触れようとしているなら、それこそ私がやりたい仕事です。話しましょう。
PANTHEON または Isaac について質問してください。すべての回答には、届く前に何がチェックされたかが表示されます。
- PANTHEON は何をしますか?
- Isaac はどのような職種を探していますか?
- 彼が見つけて修正した実際のバグを見せてください
- 別の事業者のデータを取得してみる