This is a viewer only at the moment see the article on how this works.
To update the preview hit Ctrl-Alt-R (or ⌘-Alt-R on Mac) or Enter to refresh. The Save icon lets you save the markdown file to disk
This is a preview from the server running through my markdig pipeline
व्यवहारिक आference: कैसे मैं चिंता करना बंद करने और संभाव्यवादी प्रणालियों को प्यार करने के लिए सीखा
Friday, 13 March 2026
अधिकतर सॉफ्टवेयर अभी भी यह मानते हैं कि विश्व इसे शुद्ध इनपुट और स्थिर नियम सौंप देगा उत्पादन में आमतौर पर कोई भी नहीं होता
यह पोस्ट एक थोड़े चीजों के पीछे के माध्यम से है मैं बना रहा हूँ डीआईएसई, अवरोधित अस्पष्टता, सीएफएमओएम, कम RAG, स्टिलियोफ्लो, एआई इंजीनियरिंग के दस आदेश, और स्टाइलोबोट.
मैं एक महान सिद्धांत के साथ शुरू करके यहाँ नहीं आया।
इस तरह के पर्याप्त प्रणालियों का निर्माण करने के बाद मैं उन पर अलग-अलग चालों के रूप में सोचने को बंद कर दिया और उसी वास्तुकला को नीचे देखना शुरू किया
- कमजोर संकेत एकत्रित करना
- अनिश्चितता स्पष्ट रखें
- समय के साथ साक्ष्य जमा करना
- निर्णायक नीति को अंतिम कार्रवाई का स्वामित्व देना चाहिए
कि मैं एक के द्वारा क्या मतलब का मूल है व्यवहारिक निष्कर्ष प्रणाली.
यह भी स्पष्ट करता है कि क्यों ये वास्तुकला कोड LLMs के साथ अच्छी तरह काम करते हैं
इस श्रृंखला में पहले
- DiSE के साथ खाना पकाना
- संबन्धित अस्पष्टता: एक संभाव्य घटकों के लिए नियंत्रण प्रणाली पैटर्न
- एजेंट चैटर पर संबन्धित अस्पष्ट MoM: संकेत संविदाएं
- प्रतिबंधित अस्पष्ट संदर्भ खींचना
- Reduced RAG: Stop Stuffing Context Windows and Start Extracting Signals
- स्टिलियोफ्लो: संकीर्ण अस्पष्ट सिग्नल-प्रचालित कार्यप्रवाह
- एआई इंजीनियरिंग के दस आदेश
- स्टिलियोबोट भाग 2: हस्ताक्षर पाइपलाइन और वास्तुकला
समस्या: गतिशील वातावरण, आंशिक साक्ष्य
अधिकतर उत्पादन प्रणालियां अभी भी दो खराब डिफ़ॉल्टों में से एक के लिए पहुँचती हैं
- अधिक नियम जोड़ें
- एक बड़ा मॉडल जोड़ें
दोनों कुछ समय तक काम कर सकते हैं
क्या कई वास्तविक प्रणालियों वास्तव में है यह है
flowchart LR
A[Messy Input] --> B[Partial Signals]
B --> C[Conflicting Evidence]
C --> D[Uncertain Interpretation]
D --> E[Need to Act Anyway]
style A stroke:#ef4444,stroke-width:2px
style E stroke:#22c55e,stroke-width:2px
उदाहरण
- बोट पता लगाना
- दस्तावेज निकालना
- सिफारिश प्रणाली
- श्रोता वर्गीकरण
- धोखाधड़ी अंकन
- अनुकूलित कार्यप्रवाह रूटिंग
इन डोमेनों में आप शायद ही एक निर्णायक तथ्य प्राप्त कर सकते हैं
यही कारण है कि मैं संकेतों के लिए वापस लौटता हूँ
यदि आप एक प्रणाली को सुधारना चाहते हैं, तो आपको यह देखने की जरूरत है कि वह क्या देख रहा है।
चयन दबाव के तहत DiSE: वास्तुकला
महत्वपूर्ण कदम डीआईएसई नहीं था "एक LLM परिवर्तन कोड लेता है यह था
वास्तुकला को ऐसी वस्तु के रूप में देखना जो चयनात्मक दबाव के तहत उत्पन्न हो सकती है
DiSE सॉफ्टवेयर को "buildM SK1 ship, patchMSC3 से "perceiveMST5 evaluateMS, mutate
flowchart LR
subgraph Traditional["Traditional Software"]
T1[Build] --> T2[Ship] --> T3[Patch]
end
subgraph DiSE["DiSE"]
D1[Perceive] --> D2[Evaluate]
D2 --> D3[Mutate]
D3 --> D4[Select]
D4 --> D1
end
style Traditional stroke:#ef4444,stroke-width:2px
style DiSE stroke:#22c55e,stroke-width:2px
यह महत्वपूर्ण है क्योंकि कई प्रणालियों में आप पहले से नहीं जानते हैं
- जो डिटेक्टर महत्वपूर्ण होंगे
- जो साक्ष्यों के संयोजनों को बनाए रखेंगे
- जो थ्रेसहोल्ड्स वास्तविक ट्रैफिक में जीवित रहते हैं
- जो कि महंगे अवयव चलाने के लिए योग्य हैं
तो सिस्टम को खोजने के लिए जगह की जरूरत है
लेकिन केवल खोज ही काफी नहीं है
सीमित अस्पष्टता: दीवार बनाए रखें
अवरोधित अस्पष्टता नियंत्रण परत है जो पूरी बात mush में बदलने को रोकता है
नियम सरल है
संभाव्यात्मक घटक प्रस्तावित कर सकते हैं
flowchart TB
I[Input] --> S[Deterministic Substrate]
S --> P[Fuzzy Proposer]
P --> C{Constrainer}
C -->|Pass| O[Output]
C -->|Partial| R[Rewrite / Hedge]
C -->|Fail| F[Fallback]
S -.evidence.-> C
style S stroke:#22c55e,stroke-width:3px
style P stroke:#f59e0b,stroke-width:3px
style C stroke:#ef4444,stroke-width:3px
डीआईएसई का कहना है, “"”explore“."”Constrained Fuzziness कहता है, ”"”inside these boundaries”."
इन सीमाओं के बिना संभाव्यतावादी प्रणालियां हमेशा क्या करते हैं
- अधिभार
- उछलना
- प्रवाहित आउटपुट के पीछे अनिश्चितता छुपाएँ
- वे कभी भी स्वामित्व में नहीं होना चाहिए स्थानों पर बोझ बनना
इसीलिए एआई इंजीनियरिंग के दस आदेश विषय. "LLMs को राज्य का स्वामित्व नहीं होना चाहिए।
सभी जगह एक ही नमूना दिखाई देता है
- RAG, में मॉडल संश्लेषण करता है लेकिन भंडारण या फिल्टरिंग का स्वामित्व नहीं
- छवि पाइपलाइनों में ',' दृश्य मॉडलों में captions प्रस्तावित होते हैं लेकिन संगणित तथ्य उन्हें प्रतिबंधित करते हैं
- बॉट डिटेक्शन में,\ डिटेक्टर साक्ष्य जारी करते हैं लेकिन नीति अपना कार्य करता है
- कार्यप्रवाहों में , अवयव संकेत उत्सर्जित करते हैं लेकिन वाद्य मंडल को वृद्धि और side effects का स्वामित्व होता है
flowchart LR
A[DiSE<br/>Search and Selection] --> B[Constrained Fuzziness<br/>Bounded Proposal]
B --> C[Behavioural Inference<br/>Evidence Over Time]
style A stroke:#3b82f6,stroke-width:2px
style B stroke:#f59e0b,stroke-width:2px
style C stroke:#22c55e,stroke-width:2px
इन दो विचारों को एक साथ रखिए और आप एक व्यावहारिक पैटर्न प्राप्त कर सकते हैं
संकेतों: वास्तविक प्राथमिक
यह है जहाँ कम RAG, स्टिलियोफ्लो, और संकेत-संविदा में काम सीएफएमओएम सभी लाइन अप
एक बार जब आप pretending कि एक मॉडल या एक नियम इंजन सब कुछ करने के लिए होना चाहिए-, एक उपयोगी डिजाइन मूलभूत हो जाता है संकेत.
एक अच्छा संकेत है
- गणना करने के लिए सस्ते
- रचनात्मक
- पर्याप्त मात्रा में विशिष्ट
- लेखापरीक्षा योग्य
- अनिश्चितता के अधीन उपयोगी
सबसे महत्वपूर्ण यह है कि एक संकेत संकुचित व्यवहार है।
flowchart LR
R[Raw Reality] --> X[Extraction]
X --> S1[Signal]
X --> S2[Evidence Pointer]
X --> S3[Confidence]
S1 --> A[Accumulation]
S2 --> A
S3 --> A
A --> I[Inference]
style R stroke:#64748b,stroke-width:2px
style A stroke:#3b82f6,stroke-width:2px
style I stroke:#22c55e,stroke-width:2px
भिन्न डोमेन भिन्न संकेत उत्सर्जित करते हैं
- bot detection: timing entropy
- दस्तावेज निकालना: क्षेत्र समीपता, ओसीआर विश्वसनीयता
- सिफारिश प्रणालियां: सत्र ड्रिफ्ट, आवास नमूनेM SK2 पुनरावृत्ति स्तब्धता
- कार्यप्रणाली प्रणालियां: रिट्रीज़, लांसी स्पाइक
संकेत आपको " से खिसकाने देता है, मॉडल सोचता है कि
यह पीछे की चाल है कम RAG: बड़े संदर्भ विंडो को stuffing के बजाय सिग्नल बाहर निकालें यह भी खिसकना है स्टिलियोफ्लोउत्सर्जित तथ्यों के चारों ओर समन्वय
एक बार संकेत स्पष्ट होते हैं, आप बेहतर इंजीनियरिंग सवाल पूछ सकते है
- जो संकेत वास्तव में निर्णयों को चलाता है
- कौन सा ध्वनियुक्त है
- हम कहां जल्दी बढ़ रहे हैं?
- जो थ्रेसहोल्ड बहुत संपरक हैं
- क्या नमूने गलत सकारात्मकों के साथ मेल खाते हैं
- एक नया डिटेक्टर कहाँ है
यह एक विशेषता भेजने और मशीन ट्यूनिंग के बीच अंतर है
व्यवहारिक अंतरतंत्र
पारंपरिक प्रणालियां प्रायः इस तरह दिखती हैं
Rules -> Decisions
व्यवहार आकलन प्रणालियां अधिक इस तरह दिखती हैं
Signals -> Evidence accumulation -> Behaviour inference -> Deterministic action
flowchart TD
subgraph Old["Old Shape"]
O1[Rules] --> O2[Decision]
end
subgraph New["Behavioural Inference Shape"]
N1[Signals]
N2[Evidence Accumulation]
N3[Inference]
N4[Policy Action]
N1 --> N2 --> N3 --> N4
end
style Old stroke:#ef4444,stroke-width:2px
style New stroke:#22c55e,stroke-width:2px
इन प्रणालियों से क्या निष्कर्ष निकलता है
- अभिप्राय
- असामान्यता
- श्रेणी
- ढांचा
- समन्वय
- उछलना
आमतौर पर एक ही पूर्ण तथ्य प्राप्त करने के बिना
व्यवहार को पहचान से अधिक आसानी से अनुमान लगाया जा सकता है।
यह मार्ग तय करने के लिए पर्याप्त है
यह भी इन प्रणालियों को कोड LLMs के लिए अच्छा फिट करता है
- स्पष्ट सीमाएँ
- दृश्यात्मक अवस्था संक्रमण
- मापनीय आउटपुट
- स्थानीय ट्युनिंग सतह
- बार-बार मूल्यांकन लूप
एक व्यवहारिक निष्कर्ष प्रणाली इन चीजों को स्वाभाविक रूप से प्रकट करती है
व्यवहारिक अंतर्वर्तन प्रणाली के रूप में स्टाइलोबोट
स्टिलोबोट भाग 2 शायद अभी तक सबसे स्पष्ट ठोस उदाहरण है
स्टेलोबोट केवल एक डिटेक्टरों का ढेर नहीं है
flowchart LR
R[Request] --> D[Detector Signals]
D --> E[Evidence Aggregation]
E --> T[Signature + Temporal Context]
T --> I[Behaviour Inference]
I --> P[Probability + Confidence + Risk]
P --> A[Policy Action]
A --> F[Response Feedback]
F --> D
style D stroke:#3b82f6,stroke-width:2px
style T stroke:#8b5cf6,stroke-width:2px
style P stroke:#f59e0b,stroke-width:2px
style A stroke:#22c55e,stroke-width:2px
इस पाइपलाइन में कुछ बातें पहले के काम से ही आती हैं
1. डिटेक्टर परत DiSE के रूप में है
कोई एकल डिटेक्टर पर्याप्त नहीं माना जाता है
यह पूर्ण स्वायत्त विकास नहीं है, लेकिन यह एक ही आंतरिकता है।
2. नीति सतह संकीर्ण अस्पष्टता है
स्टीलोबोट संभाव्यता और विश्वास को अलग रखता है, लेकिन क्रिया निर्णायक है
AllowThrottleChallengeBlock
प्रमाण अस्पष्ट हो सकता है
3. हस्ताक्षर मॉडल व्यवहारिक स्मृति बनाता है
एक विज़िटर को एक आईपी या एक उपयोगकर्ता में कम करने के बजाय
यह अब सरल वर्गीकरण नहीं है
4. हस्तक्षेप और प्रवर्तन अलग हैं
कम विश्वास के साथ उच्च संभाव्यता का उतना ही प्रतिक्रिया उत्प्रेरित नहीं होना चाहिए जितना कि उच्च विश्वसनीयता के साथ अधिक संभावितता
प्रणाली अस्पष्टता को तब तक बनाए रखती है जब तक कि उसके पास मजबूत कार्रवाई के लिए पर्याप्त साक्ष्य न हो
5. अवलोकनशीलता इसे ट्यून करने योग्य बनाती है
स्टिलोबोट का डिजाइन इस प्रकार है कि आप निर्णय मार्ग के लगभग हर महत्वपूर्ण भाग की जांच कर सकते हैं
- जो डिटेक्टरों ने चलाया था
- जो संकेतों को जारी किया गया था
- क्या साक्ष्य एकत्रित किया गया
- क्या हस्ताक्षर विशेषताएँ मिला
- क्यों विश्वास बढ़ गया
- जहाँ आरंभिक निकास हुआ था
- जिस नीति सीमा ने कार्रवाई आरंभ की
यह एक ब्लैक बॉक्स के बजाय एक ट्यूनबल इंजन बनाता है
flowchart TD
S1[Observable Signals] --> S2[Compare Outcomes]
S2 --> S3[Tune Thresholds / Weights / Waves]
S3 --> S4[Re-run on Traffic]
S4 --> S5[Observe Drift / Improvement]
S5 --> S1
style S1 stroke:#3b82f6,stroke-width:2px
style S3 stroke:#f59e0b,stroke-width:2px
style S5 stroke:#22c55e,stroke-width:2px
यह लूप बिल्कुल वहीं है जहां कोड एलएलएम्स मदद करते हैं
- डिटेक्टर जोड़ें या परिष्कृत करें
- संकेत जांच सिफारिश करें
- ध्वनि थ्रेसहोल्ड
- पुनर्संरचना तरंग आदेश
- गलत सकारात्मक और गलतियों के चारों ओर निदान बनाना
यह सिर्फ इसलिए काम करता है क्योंकि वास्तुकला पहले से ही ट्युनिंग को समर्थन देने के लिए पर्याप्त रूप से देखने योग्य है
कोड एलएलएम्स का महत्व क्यों है
उपयोगी परिवर्तन नहीं है "LLMs अब सॉफ्टवेयर लिख सकते हैं
क्या बात है कि कोड एलएलएम्स खोज को सस्ता बनाता है
आरएजी मई में प्रकाशित किया गया।. पुनःप्राप्ति,, अंतःस्थापित खोज,MSC2 संकेत निष्कर्षण,, और साक्ष्य पैकेज नए विचार नहीं हैं।
कोड एलएलएम उस लूप के अर्थशास्त्र को बदल गया
वे आपको प्रारूप में मदद करते हैं
- डिटेक्टर
- परिवर्तित करता है
- संविदा
- मूल्यांकनकर्ता
- श्रेणीकरण योजनाएं
- संश्लेषित परीक्षण
- निदान दृश्य
- ट्यूनिंग हार्नेस
flowchart LR
A[Human Hypothesis] --> B[Code LLM Acceleration]
B --> C[More Candidate Signals]
C --> D[More Evaluation]
D --> E[Better Selection Pressure]
E --> F[Stronger Inference System]
style B stroke:#8b5cf6,stroke-width:2px
style F stroke:#22c55e,stroke-width:2px
LLM को रणनीतिक रूप से उपयोगी होने के लिए निर्णयकर्ता बनने की जरूरत नहीं है।
लेकिन पहले के नियम अभी भी लागू होते हैं
- एलएलएम का स्वामित्व नहीं है
- एलएलएम के पास गौण प्रभाव नहीं हैं
- एलएलएम सत्य को फिर से परिभाषित नहीं करता है
- निर्णायक आधार आधार आधार बना रहता है
तो हाँ, कोड एलएलएम महत्वपूर्ण है. वे इसलिए महत्वपूर्ण हैं क्योंकि वे खोज और अनुकुलन में तेजी लाते हैं. वे स्थापत्य की आवश्यकता को हटाने के लिए नहीं
अन्य प्रणालियों के माध्यम से -लाइन
वही आकार दिखाई देता है
कम RAG
में कम RAGYou extract deterministic signals at ingestion
नहीं " मॉडल को सब कुछ दें और आशा करें
सुस्पष्टRAG
जहाँ स्टेलोबोट समय के साथ अनुरोधों से व्यवहार का निष्कर्ष निकालता है lucidRAG बहुमोडल साक्ष्य से अर्थ निकालता है: दस्तावेज संरचना, ओसीआर विश्वसनीयता
भिन्न substrate. Same shape.
flowchart LR
subgraph Stylobot["Stylobot"]
SB1[Request Signals]
SB2[Temporal Evidence]
SB3[Behaviour Inference]
SB4[Policy Action]
SB1 --> SB2 --> SB3 --> SB4
end
subgraph LucidRAG["lucidRAG"]
LR1[Content Signals]
LR2[Evidence + Retrieval]
LR3[Meaning Inference]
LR4[Bounded Synthesis]
LR1 --> LR2 --> LR3 --> LR4
end
style Stylobot stroke:#3b82f6,stroke-width:2px
style LucidRAG stroke:#22c55e,stroke-width:2px
न तो वास्तव में एक "app." दोनों भिन्न इनपुटों पर काम कर रहे निष्कर्ष इंजन हैं
सीएफएमओएम
में प्रतिबंधित अस्पष्ट मोएमबहुसंभाव्यात्मक घटक प्रस्तावित कर सकते हैं, लेकिन वे टाइप किए गए संकेतों के माध्यम से संचार करते हैं और निर्णायक तर्क decides what survives
कि बिना नियंत्रण छोड़ने के बहु-”-” मॉडल समन्वय
संदर्भ खींचना
में प्रतिबंधित अस्पष्ट संदर्भ खींचनातंत्र सीमाबद्ध स्मृति रखता है और संदर्भ के भागों को सुरक्षित करता है जो बाद में व्याख्या के लिए काफी लंबे समय तक महत्वपूर्ण हैं
संदर्भ खींचने से बिना बाइंड किए मेमोरी का विकास करने के समय उपलब्ध होता है
स्टिलियोफ्लो
में स्टिलियोफ्लोघटक एक-दूसरे को प्रत्यक्ष रूप से नहीं बुलाते
यह कार्यप्रणाली अवसंरचना पर लागू व्यवहारिक निष्कर्ष है
व्यवहार आकलन प्रणालियां""से बेहतर छत हैअभिकर्ता प्रणालियाँ" या "LLM अनुप्रयोगों." यह विपणन wrapper के बजाय वास्तुकला का वर्णन करता है
डिजाइन नियम
अगर मैं पूरे वंश को कुछ नियमों में संकुचित करना था
- fluent आउटपुट को सिस्टम ज्ञान के साथ भ्रमित न करें
- पहले से संकेत निकालें
- अनिश्चितता को आराम से अधिक समय तक सुरक्षित रखें
- क्रिया निर्णायक बनाए रखें जब भी अनुमान संभाव्यात्मक है
- साक्ष्य संकेतक भंडारित करें
- अवयवों को प्रस्तावित करें
- समय को सच का हिस्सा मानें
- डिजाइन स्थान को खोजने के लिए एलएलएम का उपयोग करें
- कुछ बनाओ जिसे आप एक इंजन के रूप में ट्यून कर सकते हैं
इन नियमों का सांविधिक संस्करण है एआई इंजीनियरिंग के दस आदेश. यह लेख वास्तुकला संस्करण है
flowchart LR
A[Ten Commandments] --> B[Architectural Constraints]
B --> C[Behavioural Inference Systems]
C --> D[Tuneable Engines]
style A stroke:#8b5cf6,stroke-width:2px
style B stroke:#ef4444,stroke-width:2px
style C stroke:#22c55e,stroke-width:2px
style D stroke:#3b82f6,stroke-width:2px
mindmap
root((Behavioural Inference))
DiSE
Search
Mutation
Selection
Constrained Fuzziness
Substrate
Proposer
Constrainer
Signals
Evidence
Confidence
Provenance
Time
Memory
Drift
Temporal Context
Action
Policy
Thresholds
Deterministic Boundaries
यह क्यों महत्वपूर्ण है
उत्पादन से बचने वाले एआई प्रणालियां आमतौर पर विशाल स्वचालित ब्लाब नहीं हैं वे भी नियमों के अंतहीन ढेर नहीं हैं
वे ऐसी प्रणालियां हैं कि
- संकीर्ण संकेत एकत्रित करना
- समय के साथ साक्ष्य जमा करना
- अस्पष्टता को ईमानदारी से बनाए रखना
- निर्णायक नियंत्रण सतहों को प्रदर्शित करें
- विकसित होने के लिए पर्याप्त निरीक्षण योग्य रहना
यह एक बेहतर इंजीनियरिंग कहानी है " माडल स्मार्ट हो गया था ."
मॉडलों में सुधार होगा. Fine. वास्तुकला अभी भी यह तय करता है कि क्या एक प्रणाली त्रुटिमोचन योग्य है।
व्यवहार आकलन प्रणालियां इन बाधाओं को गंभीरता से लेते हैं
समापन विचार
पीछे की दृष्टि में यह वंशावली स्पष्ट दिखाई देती है
flowchart LR
D[DiSE<br/>Explore and Select] --> CF[Constrained Fuzziness<br/>Bound the Uncertain]
CF --> BI[Behavioural Inference Systems<br/>Infer from Weak Signals]
BI --> ST[Stylobot / Reduced RAG / StyloFlow<br/>Working Architectures]
style D stroke:#3b82f6,stroke-width:2px
style CF stroke:#f59e0b,stroke-width:2px
style BI stroke:#22c55e,stroke-width:2px
style ST stroke:#8b5cf6,stroke-width:2px
डिएसई ने मुझे वास्तुकला खोज के बारे में सोचने का एक तरीका दिया अवरोधित अस्पष्टता ने मुझे एक तरीका दिया कि संभाव्यात्मक घटकों को स्पष्ट सीमाओं के भीतर रखने का व्यवहारिक आकलन प्रणालियों को आप तब प्राप्त करते हैं जब उन विचारों को उत्पादन से बचने के लिए बाध्य किया जाता है
Stylobot सिर्फ मौजूदा उदाहरण है
एक बार जब आप निर्णयात्मक कार्य सतहों के साथ प्रमाण संचयक के रूप में सिस्टम को देखना शुरू करते हैं, तो बहुत से आधुनिक सॉफ्टवेयर लगना बंद कर देता है जैसे "AI विशेषताएँ