Yapay zeka ajanlarını müşterilerin verileri ve parası üzerinde çalıştırılması güvenli hale getiriyorum.

Tek başıma geliştirdim: PANTHEON, rezervasyon alan, misafirlere mesaj atan ve bir işletmenin web sitesini yöneten, üretimde çalışan yapay zeka asistanları. Sınırları bir sistem istemi değil: her eylem, modelin değiştiremeyeceği bir katmandan geçer; bu katman işin hangi işletmeye ait olduğunu, ne kadar harcayabileceğini ve bir insanın onaylaması gerekip gerekmediğini kontrol eder. PANTHEON nedir? →

Aradığım: bir yapay zekâ ajanının güven sınırını sahiplenen kurucu ya da erken aşama bir rol. Cardiff, Birleşik Krallık; taşınmaya açığım.

Kırmayı dene → Benimle çalışın

↓ tur · plan · araç · karar: her isteğin geçtiği kapılar, canlı akışla yanar.↓ Bir gösterim turu. Bundan sonra onu yalnızca gerçek trafik hareket ettirir.Bir misafir belirli tarihler için rezervasyon ister: asistan talebi gönderir ve sahip onaylayana kadar hiçbir rezervasyon yapılmaz. Rezervasyonlar ve ödemeler her zaman bekler.

Nöbet tutan bir deniz feneri. Gravür Runway tarafından üretildi ve canlandırıldı.

Canlı · kayıt değil

Sözüme güvenmeyin. Ona sorun.

Bu sitenin asistanı PANTHEON üzerinde çalışır. Her mesaj yanıtlanmadan önce denetlenir ve denetimler her yanıtın altında yazdırılır. Onu kırmayı deneyin.

kanıt

Gerçek bir hata, baştan sona.

Hata. WhatsApp ve Telegram geçmişi yalnızca misafirin telefon numarasıyla saklanıyordu; bu yüzden iki işletmeye mesaj atan bir misafirin ilk konuşması ikinci işletmenin asistanına yüklenebiliyordu.

Yakalandı: Temmuz'da kendi düşmanca denetimimle; bir müşteri tarafından değil, geçmiş olan test paketi tarafından da değil. Düzeltildi: geçmiş ayrıca işletmeye göre de anahtarlanarak. Düzeltilmiş kalıyor: eski anahtar geri gelirse başarısız olan bir testle.

Dışarıdan bir doğrulama: MCP TypeScript SDK'daki yüksek önem dereceli bir açık olan CVE-2026-104850 ↗ için adı anılan bildiricilerden biriyim (yedi kişiden biri).

Daha fazla hata, her biri başarısız olabilen bir testle → Kendiniz kırmayı deneyin → Neler inşa ettiğini görün →

Bir defter ve dengede duran bir terazi. Gravür Runway tarafından üretildi ve canlandırıldı.

neyin tuttuğu, neyin henüz tutmadığı

Neyi garanti ediyor, neyi etmiyor.

Her işletmenin verisi veritabanı tarafından ayrılır. Her istek imzalı bir anahtarla kendi işletmesine bağlanır ve başka bir işletmenin satırları için yapılan bir sorgu hiçbir şey döndürmez. Üç oturum açma ve ödeme tablosu ise bunun yerine kodda korunur.

Yardım faturalandırmadan önce gelir. Kriz içindeki bir kişi, her limitten ve ücretten önce ücretsiz yardım alır.

Para atomik olarak hareket eder. Her ödeme ve iade anahtarlanır, böylece bir yeniden deneme onu tekrarlayamaz. Şimdilik yalnızca dahili krediler: işletmeler arasında henüz gerçek ödeme yok.

Çözülmedi: prompt injection (kapsam sınırlama, bir denetim hakemi ve insan onayıyla sınırlandırılıyor; kimse çözmüş değil) ve tek bir üretim örneğinin ötesinde ölçek (bunun için tasarlandı, kanıtlanmadı). Tam liste → Mimari →

Tek başına inşa edildi. Üretimde çalışıyor. Doğru ekibe açığım.

Yapay zeka ajanınız gerçek müşterilerin verilerine veya parasına dokunmak üzereyse, istediğim iş tam olarak bu. Konuşalım.

Ne aradığım →İletişime geçin →Çalışmaları GitHub'da görün ↗

Tek sayfalık CV'mi okuyun →