Mhandisi anayefanya wakala wako wa AI uwe salama kuendeshwa kwenye data na pesa za wateja

Ninasanifu mifumo na kuelekeza AI kuijenga. PANTHEON ni mmoja wao: wa wapangaji wengi, unaosimamiwa, unaopimwa matumizi, uko katika uzalishaji, umejengwa na mtu mmoja.

Nilibuni PANTHEON, utengaji wa wapangaji wengi, utawala, upimaji wa matumizi, usalama wa mawakala, kuanzia kanuni za msingi, kisha nikaelekeza AI kujenga yote: peke yangu, hadi uzalishaji, ikiendesha data za biashara halisi. Ninacholeta ni fikra za kimfumo za kuubuni, na nidhamu ya kuifanya mashine ithibitishe kuwa unafanya kazi.

Nitumie barua pepe → Tazama uthibitisho ↓

Isaac Teague Frayling · Cardiff, Uingereza · raia wa Uingereza · niko tayari kuhamia popote duniani (udhamini wa viza unahitajika nje ya Uingereza & Ireland) · CV ya ukurasa mmoja →

↑ Sanaa kuu, favicon, avatar na kadi ya mitandao ya kijamii kwenye ukurasa huu vyote vilitengenezwa na mfumo niliouunda. Kazi ilitengeneza jalada lake lenyewe.

Utambuzi wa nje. Mripoti aliyetambuliwa (mmoja kati ya saba) wa CVE-2026-104850 (GHSA-6qxp-vccf-f47h), tahadhari ya usalama ya ukali wa juu (CVSS 7.5) katika MCP TypeScript SDK: mteja wake wa OAuth angeweza kutuma vitambulisho vilivyohifadhiwa kwa seva iliyochaguliwa na seva ya MCP; imerekebishwa katika 1.31.0 na 2.2.0. Si uthibitisho wa PANTHEON; ni ukaguzi ambao mtu mwingine aliufanya kwenye kazi yangu.

usichukue neno langu tu

Kila dai hapa linaunganishwa na ukaguzi unaoweza kuuendesha.

Hakuna slaidi, hakuna "niamini tu." Mfumo uko hai, nenda ukauvunje, kisha code iliyo nyuma yake ikaguliwe chini ya NDA. Nilichotoa ni halisi na kinaendeshwa, iwe niliandika herufi yake hata moja au la.

Jaribu kumvunja msaidizi hai ↗ · Vunja utengaji wa wapangaji mwenyewe → · Tuma ujumbe kwa bot kwenye Telegram ↗ · Tazama inachojenga kwa biashara halisi → · Soma ukaguzi hasimu →

thamani

Ninacholeta hasa.

Fikra za kimfumo zinazoshikilia chini ya shambulio

Nilibuni utengano madhubuti wa wapangaji wengi juu ya usalama wa ngazi ya safu wa Postgres, wenye majukumu mawili, unaofunga unaposhindwa, ambao hakuna ukaguzi uliopenya kwenye hifadhidata. Uvujaji mmoja uligunduliwa nje yake (historia ya gumzo, Julai) na kurekebishwa. Sikuandika SQL. Nilibuni mfumo: njia za kushindwa, eneo la athari, na kuongoza ujenzi hadi ulipohimili.

Ninabuni AI inayotawaliwa, si gundi ya prompt

Mzunguko wa wakala unaosimamiwa, perceive → knowledge → tools → judge → meter, pamoja na mipaka ya ulinzi, itifaki ya dharura, upimaji usioruhusu kupita kiasi kilichopo na vizuizi vya idhini ya binadamu, ni muundo wangu. Fikra za control-plane ni zangu, AI iliandika msimbo kulingana na maelekezo yangu.

Kutoka wazo hadi uzalishaji, kwa kuelekeza AI

Substrate, Studio isiyohitaji code, sanaa ya kizalishaji iliyobuniwa maalum, chaneli ya Telegram iliyo hai (WhatsApp imejengwa, inasubiri idhini ya Meta), upimaji wa matumizi, uthibitishaji, domain maalum. Yote ni wazo langu, yote imejengwa kwa kuelekeza AI, kuanzia Postgres hadi pikseli, imetolewa na inaendeshwa, peke yangu.

Ninailazimisha mashine ithibitishe kazi yake

Kila badiliko lazima lipite mpaka wa usafi unaotekelezwa katika CI, majaribio kwa idadi ya mwendo wa hivi karibuni wa CI, na ukaguzi wa kishambulizi unaorudiwa ambapo kila ugunduzi ulipingwa kabla haujahesabiwa. Kuielekeza AI vizuri kunamaanisha kukataa kuiamini, huo ndio ujuzi halisi.

Busara, si matokeo tu

Ninasafirisha toleo la kweli: kila namba kwenye ukurasa wa ukaguzi ina tahadhari yake, tovuti inasema waziwazi kile ambacho hakijatatuliwa bado, na usalama: ujumbe wa dharura unafika kwa msaada hata salio likiwa sifuri, unashinda kipimo. Ningependa kuaminiwa kuliko kuvutia.

Ninasonga haraka bila kuvunja dhamana

Kila uwezo mpya unadumisha kanuni zilezile zisizobadilika: kifaa cha majaribio cha golden-file kinathibitisha kwamba mabadiliko ni salama kwa kila byte, daftari la marekebisho linafanya kila badiliko liweze kutenduliwa, na chochote kinachoongeza eneo jipya hupitia ukaguzi wa usalama wa kishambulizi kabla ya kusambazwa. Ninasonga haraka bila kuiruhusu mashine kukata kona.

mbinu

Jinsi ninavyojenga: toleo la kweli.

Ninaamua mfumo lazima uhakikishe nini, kisha nauufanya uthibitishe hilo. Ninasanifu mfumo na kuelekeza AI kuujenga, na PANTHEON ndicho kinachotokana na hilo. Ninasoma, kutathmini na kutatua hitilafu katika kila kitu ambacho mashine inazalisha; siandiki utekelezaji kuanzia faili tupu. Huu ndio muundo wake:

Ninachofanya

Buni mfumo kuanzia kanuni za msingi → ugawanye katika vipande ambavyo AI inaweza kujenga → iongoze AI kujenga kila kimoja → shambulia matokeo hadi yastahimili → yatoe na uyaendeshe katika uzalishaji. Huo ndio mzunguko, mwanzo hadi mwisho.

Dhana ninazozijua kikamilifu

Utengaji wa wapangaji wengi & mipaka ya uaminifu · ngazi za utawala & binadamu katika mzunguko · upimaji wa atomiki & udhibiti wa kasi · mizunguko ya mawakala, zana & kinga · ulinzi dhidi ya prompt injection · kufikiri kuhusu njia za kushindwa & ukubwa wa madhara. Nilibuni haya yote. Nazungumza tu kuyahusu kwa lugha rahisi, si kwa istilahi ngumu.

Mifumo niliyoizindua (na ninayoielewa kuanzia mwanzo hadi mwisho)

Postgres yenye usalama wa kiwango cha safu (row-level security) · huduma za FastAPI · mzunguko wa wakala unaotawaliwa · MCP, pande zote mbili · sehemu za mbele za React · usambazaji wa Docker / nginx. Niliongoza ujenzi na ninajua jinsi kila kipande kinavyofanya kazi.

Jinsi ninavyoihakikisha AI inasema kweli

Mipaka ya usafi ya CI · majaribio ya snapshot ya faili za marejeo (golden-file) · majaribio kwa idadi ya mwendo wa hivi karibuni wa CI yanapita (mwendo wa hivi karibuni wa CI) · ukaguzi wa kishambulizi unaorudiwa: ukaguzi wa mawakala 50 na ukaguzi upya wa mitazamo 14, wa hivi karibuni, ambapo kila ugunduzi hupingwa kabla haujahesabiwa. Silika ya kutoliamini jibu la kwanza la mashine ndiyo kazi yote.

Ushahidi, pamoja na tahadhari yake tayari imeambatishwa.

Ningependa uamini sehemu zilizo halisi kuliko kuvutiwa na sehemu zisizo halisi.

1akili, bila timu* nimebuni + kuongoza peke yangu

CImajaribio yanapita* uendeshaji wa hivi karibuni wa CI, si uthibitisho rasmi

6 → 0ukaguzi · sifuri za critical zilizosalia* nimeendesha mwenyewe, si wahusika wa tatu

haikatika production, wapangaji halisi* instance moja. Bado sijalazimika kuipanua

2 → 1biashara, uti mmoja wa mgongo* jukwaa, si onyesho, imethibitishwa na lint

uamuzi niliokosea

Mfano mmoja, pamoja na kosa langu mwenyewe.

Wiki mbili zilizopita niliamua kukagua ujumbe wa Kiingereza kwa maneno ya dharura kwa kutumia orodha ya misemo isiyobadilika pekee, ili kuepusha ujumbe mwingi simu ya ziada ya AI. Ukaguzi wa tarehe 25 Septemba ulionyesha kuwa orodha hiyo ilikosa "I don't want to live anymore" na misemo mingine mitatu ya kawaida. Nilibatilisha uamuzi huo siku hiyo hiyo: maneno ya dharura sasa yanaenda kwenye ukaguzi wa AI, yote manne ni majaribio yaliyoshindwa kwenye msimbo wa zamani, na ujumbe wa kawaida unaolipia simu ya ziada ulishuka kutoka 4 kati ya 32 hadi 1. Uokoaji huo ulikuwa sahihi kwa ukaguzi mwingi na si sahihi kwa ule mmoja ambapo kukosa kunajalisha zaidi.

makubaliano ya kweli

Unachopata, na usichopata.

Msanifu + mwelekezi

Ninamiliki fikra za kimfumo na utoaji kupitia AI, nikiamua nini cha kujenga, nikibuni jinsi kinavyoshikilia, na kukisukuma hadi kitolewe. Niunganishe na wahandisi wanaomiliki ufundi wa kiwango cha mstari ambao mimi sina, na unapata nusu zote mbili zikiwa zimeshughulikiwa.

Nidhamu ambayo AI haina yenyewe

Kila mabadiliko yenye umuhimu hupitiwa kwa mtazamo wa kishambulizi; siamini kamwe jibu la kwanza la mashine. Mambo mawili yaliyotokana na silika hiyo: uvujaji wa Julai kati ya wapangaji, uliopatikana na ukaguzi wangu mwenyewe na sasa ni jaribio la regression, na tahadhari ya MCP SDK iliyo hapo juu, iliyopatikana katika msimbo wa mtu mwingine.

ombi

Ninachotafuta.

Jukumu moja: mtu anayemiliki mpaka wa uaminifu wa wakala wako wa AI. Utengaji wa wapangaji, idhini, upimaji wa matumizi, zana inayomwamini anayeiita: ninachora mahali inapoweza kushindwa, ninajenga hakikisho ndani yake, na ninatoa jaribio linalolithibitisha. Mwajiriwa mwanzilishi au wa mapema katika kampuni changa yenye wakala anayegusa wateja halisi, au inayokaribia kuwa nao. Niko tayari kuhamia popote duniani kwa nafasi inayofaa, na ninajali tatizo na watu kuliko cheo.

Kwa nini kazi ya kuajiriwa, si kampuni changa yangu mwenyewe?

Swali la haki. Ningeweza kutafuta mtaji kwa PANTHEON, lakini najua hasa kinachokosekana, na si ujenzi. Ni usambazaji: mtandao na ufikiaji wa kuiweka mbele ya biashara ilizojengwa kwa ajili yake, ambavyo sina na sitajifanya ninavyo. Ningependa kuileta kwa timu ambayo tayari ina ufikiaji huo kuliko kutumia miaka kuwa mwanzilishi ambaye mimi si. Kuijenga peke yangu kulithibitisha kwamba naweza kubuni na kutoa kitu kizima. Kuipeleka sokoni peke yangu hakukuwa mpango kamwe, PANTHEON inabaki hai kama ushahidi, si kama mradi wa pembeni unaogawa umakini wangu.

siku ya kwanza

Nielekeze kwenye tatizo, hiki ndicho ningefanya kwanza.

Si "jifunze kazi kwa robo mwaka." Mbinu iliyojenga PANTHEON, ikielekezwa kwenye bidhaa yako:

Chora mpaka wa uaminifu

Tafuta kingo za upangaji / uidhinishaji / eneo la athari na ujue jinsi kila moja inavyoshindwa, kabla ya chochote kujengwa. Huwezi kutawala usichokichora, na kukichora ndicho ninachofanya.

Tafuta mahali usalama umebandikwa juu tu

Tafuta usalama ulioongezwa baadaye: mita inayoruhusu kuzidi salio, kitendo kisicho na lango, zana inayomwamini anayeiita, na uibuni upya ili dhamana ijengwe ndani, si kubandikwa juu.

Elekeza ujenzi, kisha uuthibitishe

Andika vipimo vyake, elekeza AI iijenge, na uisafirishe pamoja na ukaguzi unaoithibitisha: jaribio, snapshot, invariant, ili mtu anayefuata aweze kwenda haraka bila kulazimika kuithibitisha yote upya.

Tuzungumze.

Niambie jukumu na unachojenga. Ninasoma kila barua pepe na kujibu ndani ya siku chache, kisha simu, maonyesho ya moja kwa moja ya mfumo, na msimbo kukaguliwa chini ya NDA.

isaac@pantheonlabs.co.uk →

Unapendelea kuchokoza kabla ya kuandika? Vunja msaidizi, shambulia utengano, au tuma ujumbe kwa bot, yote yako hai.

Sina LinkedIn. Mfumo mkuu ni wa faragha: mfumo unaofanya kazi ndio jalada la kazi, lakini vipengele sita vimechapishwa kwenye PyPI na npm, rekodi ya kasoro ni ya umma, mbinu inaweza kurudiwa, na mimi ni mmoja wa waripoti saba waliotambuliwa kwenye tahadhari ya usalama ya MCP SDK ya ukali wa juu. Tazama / pakua CV yangu →