میں AI ایجنٹس کو صارفین کے ڈیٹا اور پیسے پر چلانے کے لیے محفوظ بناتا ہوں۔

میں نے PANTHEON اکیلے بنایا: AI اسسٹنٹس جو بکنگ لیتے ہیں، مہمانوں کو پیغام بھیجتے ہیں اور کسی کاروبار کی ویب سائٹ چلاتے ہیں، production میں۔ ان کی حدود کوئی system prompt نہیں: ہر عمل ایک ایسی تہہ سے گزرتا ہے جسے ماڈل بدل نہیں سکتا، جو جانچتی ہے کہ کاروبار کس کا ہے، وہ کتنا خرچ کر سکتا ہے اور آیا کسی شخص کی منظوری ضروری ہے۔ PANTHEON کیا ہے؟ →

تلاش: کسی AI ایجنٹ کی ٹرسٹ باؤنڈری کی ذمہ داری والا کوئی بانی یا ابتدائی کردار۔ Cardiff، UK؛ منتقل ہونے کے لیے تیار۔

اسے توڑنے کی کوشش کریں → میرے ساتھ کام کریں

↓ باری · منصوبہ · ٹول · فیصلہ: وہ دروازے جن سے ہر درخواست گزرتی ہے، لائیو فیڈ سے روشن۔↓ ایک نمائشی باری۔ اس کے بعد صرف حقیقی ٹریفک ہی اسے حرکت دیتی ہے۔ایک مہمان تاریخیں بک کرنے کو کہتا ہے: اسسٹنٹ درخواست بھیجتا ہے، اور جب تک مالک تصدیق نہ کرے کچھ بھی بک نہیں ہوتا۔ بکنگ اور ادائیگیاں ہمیشہ انتظار کرتی ہیں۔

پہرہ دیتا ہوا ایک لائٹ ہاؤس۔ کندہ کاری Runway نے تیار اور متحرک کی۔

لائیو · ریکارڈنگ نہیں

میری بات پر یقین نہ کریں۔ اس سے پوچھیں۔

اس سائٹ کا اسسٹنٹ PANTHEON پر چلتا ہے۔ جواب دینے سے پہلے ہر پیغام کی جانچ کی جاتی ہے، اور یہ جانچیں ہر جواب کے نیچے پرنٹ ہوتی ہیں۔ اسے توڑنے کی کوشش کریں۔

ثبوت

ایک حقیقی نقص، شروع سے آخر تک۔

بگ۔ WhatsApp اور Telegram کی ہسٹری صرف مہمان کے فون نمبر کے تحت محفوظ کی جاتی تھی، اس لیے جو مہمان دو کاروباروں کو پیغام بھیجتا، اس کی پہلی گفتگو دوسرے کاروبار کے اسسٹنٹ میں لوڈ ہو سکتی تھی۔

پکڑا گیا جولائی میں میرے اپنے adversarial آڈٹ سے: کسی صارف نے نہیں، اور نہ ٹیسٹ سویٹ نے، جو پاس ہو چکا تھا۔ ٹھیک کیا گیا ہسٹری کو کاروبار کے ساتھ بھی key کر کے۔ ٹھیک رکھا گیا ایک ٹیسٹ کے ذریعے جو پرانی key واپس آنے پر fail ہو جاتا ہے۔

ایک بیرونی جانچ: میں MCP TypeScript SDK کی ایک high-severity خامی CVE-2026-104850 ↗ کا credited رپورٹر ہوں (سات میں سے ایک)۔

مزید نقائص، ہر ایک کے ساتھ ایک ٹیسٹ جو fail ہو سکتا ہے → خود اس کا بریک ٹیسٹ کریں → دیکھیں یہ کیا بناتا ہے →

ایک کھاتہ اور ایک ترازو جو برابر آ کر ٹھہرتا ہے۔ کندہ کاری Runway نے تیار اور متحرک کی۔

کیا قائم ہے، اور کیا ابھی نہیں

یہ کس چیز کی ضمانت دیتا ہے، اور کس کی نہیں۔

ہر کاروبار کا ڈیٹا ڈیٹابیس کے ذریعے الگ رکھا جاتا ہے۔ ہر درخواست ایک دستخط شدہ key کے ذریعے اپنے کاروبار سے منسلک ہوتی ہے، اور کسی دوسرے کاروبار کی rows کے لیے query کچھ واپس نہیں کرتی۔ سائن اِن اور ادائیگی کی تین ٹیبلز کی حفاظت اس کے بجائے کوڈ میں کی جاتی ہے۔

بلنگ سے پہلے مدد۔ بحران میں مبتلا شخص کو ہر حد اور ہر چارج سے پہلے مفت مدد ملتی ہے۔

پیسے کی منتقلی atomic ہوتی ہے۔ ہر چارج اور ریفنڈ کی ایک key ہوتی ہے، اس لیے retry اسے دہرا نہیں سکتا۔ فی الحال صرف اندرونی کریڈٹس: کاروباروں کے درمیان ابھی کوئی حقیقی چارج نہیں۔

حل نہیں ہوا: prompt injection (scoping، ایک audit judge اور انسانی منظوری سے محدود؛ اسے کسی نے حل نہیں کیا)، اور ایک production instance سے آگے scale (اس کے لیے ڈیزائن کیا گیا، ثابت نہیں)۔ پوری فہرست → آرکیٹیکچر →

اکیلے بنایا۔ پروڈکشن میں چل رہا ہے۔ صحیح ٹیم کے لیے دستیاب۔

اگر آپ کا AI ایجنٹ حقیقی صارفین کے ڈیٹا یا پیسے کو چھونے والا ہے، تو یہی وہ کام ہے جو میں چاہتا ہوں۔ آئیے بات کریں۔

میں کیا تلاش کر رہا ہوں →رابطہ کریں →GitHub پر کام دیکھیں ↗

میرا ایک صفحے کا CV پڑھیں →