# Beschränkte Fuzziness-Ein Steuerungssystemmuster für probabilistische Komponenten ## Das Muster, das aufkam Es begann mit meinem Blog. [Übersetzungswerkzeug](/blog/fire-and-dont-quite-forget-ephemeral-execution)Der Cache hielt nur Aufgaben pro Benutzer...... mit ..6-hour absolutem und .1-hour gleitendem Ablauf....... sechste Aufgabe.. Die meisten Entwickler würden diese als Einschränkungen sehen, um herum zu arbeiten... aber der Cache wurde *Selbstreinigung* und *self---Spezialisierung*Es behielt, was Benutzer brauchten und vergaßen, was sie taten, '. *wurde* das System-.- Ich extrahierte das Primitive in [Meistlylucid, ., kurzlebig](https://github.com/scottgal/mostlylucid.atoms)Die gleiche Idee wurde verallgemeinert. Das Muster zeigte sich immer wieder in [DiSE](/blog/dise-architecture-overview)Die LLM schlägt vor, die Tests zu beschränken. [Bot-Erkennung](/blog/learning-lrus-when-capacity-makes-systems-better)Heuristische Detektoren score-Anfragen – ,, aber politische Schwellenwerte erzwingen das endgültige Urteil – ., In der Kundenintelligenz generieren LLMs Verhaltenssegmente – MKK4, aber berechnete Metriken beschränken, was sie behaupten können – MSC5 Vier Systeme – gleiche Form – . Die Beschränkung ist immer der Lehrer –. Eine Beschränkung verwandelt Ambiguität in eine erzwungene Wahl.: keep or evict, , akzeptieren oder degradieren , , eskalieren oder stoppen. , Manchmal ist die Einschränkung *Einnahmen* Manchmal kostet es ' *Epistemie* (-Beweis – Invarianten – Die gleiche Rolle – Dieselbe Aufgabe – Die Auswahl durchsetzen und unverdiente Sicherheit verhindern ```mermaid flowchart LR subgraph Constraint["The Constraint (Primitive)"] C1[Constrained Size] C2[Sliding Expiration] end subgraph Emergence["Emergent Behavior"] E1[Selective Forgetting] E2[Focus on Relevance] E3[Self-Optimization] end C1 --> E1 C2 --> E1 E1 --> E2 E2 --> E3 style Constraint stroke:#ef4444,stroke-width:2px style Emergence stroke:#22c55e,stroke-width:2px ``` Dies ist die Kerneinsicht der [Serie Semantische Intelligenz](/blog/semantidintelligence-part1) und [DiSE - Synthetische Evolution](/blog/dise-architecture-overview): **Einschränkungen don-' limitieren die Intelligenz *nützliches Verhalten schaffen* in Systemen, die ansonsten driften** Der LRU-Cache unter Druck Das LLM wird durch berechnete Fakten eingeschränkt Das heuristische Modell, das durch politische Schwellen begrenzt ist . . . . Jede Beschränkung zwingt das System zu Entscheidungen zu treffen . |-System - Eingeschränktes Verhalten - (-Primitives Verhalten |--------|----------------------|-------------------| LRU-Cache - Größenbegrenzung - Gleitende Verfallsdauer - Vergesst irrelevante Muster - Erinnerung an nützliche Muster LLM-Summarizer | muss Quellstücke anführen, die nicht halluziniert sind. |-Bot Detector - Politische Schwellenwerte - (0.3/0.95) - Eskaliert nur, wenn es wirklich unsicher ist. Berechnete Farbpalette Berechnen von Farben Beschreiben von Farben Erfinden von Farben, die nicht vorhanden sind Gleiches Muster: Verschiedene Domänen: Die Beschränkung ist der Lehrer: --- > **TL-;-DR**- Lassen Sie probabilistische Modelle *vorschlagen*Deterministische Systeme lassen *entscheiden*Berechnen von Fakten, die Sie verifizieren können.,. Lassen Sie KI sie interpretieren.MSC2. Dann bestätigen Sie jeden Anspruch gegen die Tatsachen. --- ### Musterkarte | | | |---|---| | **Absichtserklärung** Verwenden Sie probabilistische Komponenten sicher in Systemen mit echten Garantien | **Kräfte** Hochwertige -'Varianz-Ausgänge ," leiser Ausfall MS K3" eingeschränkter Computing , Bedarf zum Lernen |" | **Lösung** |-Substrate (-Fakten )-Proposer (-Unsicherheit )-Constrainer (-Validierung +-Rewrite +-Budget)-Ausgang →-Rückfall | **Folgen** Mehr Engineering im Vorfeld; dramatisch sicherere Entwicklung und Operationen . . **Was du bekommst** - Klarere Ausfall-Modi (-degradierte Ausgänge mit Audit-Trails,-nicht geräuschlose Korruption)- - Sicherere Evolution Verwandeln Sie den Antragsteller frei der Constrainer fängt Fehler. - Modell: - agnostische Architektur, ohne Strukturänderungen, ohne ) . **Was es kostet** - Mehr sanitäre upfront- -:-Sie bauen Beweise Extraktion und Metriken, bevor Sie Payoff sehen --- ## Beschränkte Fuzziness Beschränkt bedeutet hier **gebunden**:-Hartgrenzen, die mechanisch durchgesetzt werden und nicht über Aufforderungen verhandelt werden, .-Haushalte, Invarianten und Constrainer, ,-Validierung, +-Rewrite Gates, )-Tore, die physisch Überreachage verhindern, nicht "-some Leitplanken, MSSK9- oder ,"-Best---Effort-Prompting Nach dem Bau von Systemen über sehr unterschiedliche Domänen hinweg hat sich die Datenabfrage der ), durch diese Architektur weiter entwickelt. ```mermaid flowchart TB subgraph Input I[Input Data] end subgraph Truth["Deterministic Substrate (Truth Layer)"] T1[Compute Facts] T2[Extract Evidence] T3[Calculate Metrics] end subgraph Fuzzy["Fuzzy Proposer (Creativity Layer)"] F1[Generate Proposals] F2[Score/Rank] F3[Synthesize Output] end subgraph Constrain["Constrainer (Contract Layer)"] B1{Acceptable?} B2[Rewrite/Hedge] B3[Enforce Limits] end subgraph Output O[Constrained Result] D[Degraded Fallback] end I --> T1 --> T2 --> T3 T3 --> F1 --> F2 --> F3 F3 --> B1 B1 -->|"Full"| B3 --> O B1 -->|"Partial"| B2 --> B3 B1 -->|"None"| D T3 -.->|"Evidence"| B1 style Truth stroke:#22c55e,stroke-width:3px style Fuzzy stroke:#f59e0b,stroke-width:3px style Constrain stroke:#ef4444,stroke-width:3px ``` Die Kern-Insights **lassen probabilistische Komponenten vorschlagen aber nie sie entscheiden lassen.**Verwenden Sie sie für das, was sie sind '... bei der Interpretation von ( gut .,.Ranking...,.Hypothesen-Generation ?). Was macht dieses Muster leistungsstark ist seine Flexibilität, die .... - Ein LLM erzeugt Zusammenfassungen natürlicher Sprache - Ein heuristisches Modell mit gelernten Gewichten, die Bot-Wahrscheinlichkeit bewerten - Ein Visionsmodell, das Bildunterschriften vorschlägt - Ein Ensemble schwacher Klassifikatoren, die über eine Entscheidung abstimmen Die Architektur bleibt gleich, nur die Komponenten ändern sich. ## Das Problem: Uneingeschränkte Systeme versagen still Ohne Einschränkungen ,, , probabilistische Systeme scheitern in einer Art und Weise, die schwer zu erkennen sind und unmöglich zu verhindern , : , ```mermaid flowchart LR subgraph Unconstrained["❌ Unconstrained System"] U1[Input] --> U2[LLM/Model] U2 --> U3[Output] end subgraph Constrained["✓ Constrained System"] B1[Input] --> B2[Compute Facts] B2 --> B3[LLM/Model] B3 --> B4{Validate} B4 -->|Pass| B5[Output] B4 -->|Fail| B6[Fallback] end style Unconstrained stroke:#ef4444,stroke-width:2px style Constrained stroke:#22c55e,stroke-width:2px ``` **Uneingeschränkte Ausfallmodi** - Die LLM beschreibt zuversichtlich Farben, die im Bild vorhanden sind - Zusammenfassungen zitieren Fakten, die nirgendwo im Ausgangsmaterial erscheinen - Bot Detection Scores schwanken wild basierend auf irrelevanten Signalen - Eine gelernte heuristische Drifts als Verkehrsmuster ändern und still blockiert legitime Nutzer - SQL-Abfragen beinhalten UPDATE und DELETE-Anweisungen, wenn Sie nur lesen möchten - Kosten Spirale als Randfälle verbrauchen unbegrenzte Ressourcen Der Instinkt ist es, mehr prompting hinzuzufügen... mehr Beispiele... mehr weiche Leitplanken... mehr Weiche Leitplanke... aber probabilistische Systeme können nicht vertrauenswürdig sein, um weiche Grenzen zu respektieren.... ## Das Gesetz Zehn Gebote Das Muster kristallisierte sich in [Betriebsvorschriften](/blog/tencommandments) die eingeschränkte Fuzziness kodifizieren Befehlsform: Beschränkte Fuzzness-Übersetzung |-------------|------------------------------| | **LLMs dürfen keinen eigenen Staat besitzen** Der Staat lebt im Substrat, nicht der Antragsteller, | **II... LLMs dürfen nicht die alleinige Ursache von Nebenwirkungen sein.** Der Constrainer verpflichtet sich, das LLM zu empfehlen. | **Verwenden Sie LLMs, bei denen die Wahrscheinlichkeit akzeptabel ist** Nicht-Invariant-Skala-Szenarien (MSK) | **Bitten Sie niemals ein LLM, einen abziehbaren Boolean zu entscheiden.** Wenn Sie es berechnen können, dann berechnen Sie es. | **VIII. .. Demotieren Sie die LLM zu Beratern nicht Agent** Antragsteller: nicht Entscheidungsträger: Die Auszahlung **du brauchst keine Grenzmodelle**Eine winzige lokale LLM auf Rohstoff-Hardware wird zu einem Kraftmultiplikator, wenn es die Klassifizierung und Hypothesengeneration macht.,... nicht vorgibt, eine Datenbank oder Staatsmaschine zu sein. Für ein Beispiel dieser Trennung siehe [Verwendung von Nimble aus C-#](/blog/stylomail-using-nimble-from-csharp)Teil des [Serie StyloMail](/blog/stylomail-behavioural-inference-with-jev)Das lokale Entscheidungsmodell beantwortet spezifische Fragen rund um mail.;. Das umgebende System verbindet diese Evidenz mit Verhalten und expliziter Politik. ## Die Verbindung der Steuerungstheorie Das Muster hat tiefe Wurzeln in **Kontrolltheorie**Der Gouverneur, der einen hohen - variance Prozess einschränkt ``` Classical Control: Steam Engine → Governor → Constrained Speed Constrained Fuzziness: LLM/Heuristic → Constrainer → Constrained Output ``` Sie machen den Motor nicht " verstehen " es sollte explodieren . Physisch verhindern Sie es auch mit probabilistischen Systemen nicht : don-' suggested die LLM zu nicht halluzinieren MSC9 rechnerisch verhindern Halluzinationen aus erreichen Ausgabe **Verwandte Arbeiten** für den akademisch geneigten : - Herbert Simon-' [Begrenzung der Rationalität](https://en.wikipedia.org/wiki/Bounded_rationality) Entscheidungsfindung unter Auflagen - "[Eine umfassende Untersuchung der RAG](https://arxiv.org/abs/2410.12837)"---(2024)-----Retrieval - Mitchell-'s-Bedarf für Biases beim Lernen von Verallgemeinerungen"-Begriffe(1980)-Beschluss, warum Einschränkungen helfen zu lernen ## Was ist mit Frontier Models? Der offensichtliche Einwand ,: , " , Sure , , , aber GPT , Claude , 4 , Mimi Ultra wird so gut sein, dass diese Einschränkungen gewonnen ,' ,t Angelegenheit , Vielleicht die Modelle der Frontiers *kann* Papier über viele Risse, die kleinere Systeme entlarvn, die weniger häufig halluzinieren, sie folgen den Anweisungen zuverlässiger, .. Sie behandeln Kantenfälle anmutiger, wenn du einen Prototypen oder ein Werkzeug baust, bei dem gelegentliche Ausfälle akzeptabel sind.,. Ein Grenzmodell mit guter Aufforderung könnte genug sein. Aber häufig ohne " ist nicht " nie." und zuverlässiger als " ist nicht ", garantiert Das [Kleinmodelle Artikel](/blog/small-models-not-budget-option) erforscht dies in der Tiefe, aber die Kerninspektion ist: **Grenzgängermodelle scheitern anders nicht weniger**Ihre Ausfälle sind semantisch anstatt struktureller ,( plausible , - , klingender Unsinn anstelle von ungültigen JSON , die Fehler macht *härter* um zu erkennen, dass es nicht einfacher ist. Noch wichtiger: **promptes Engineering kann die technische Disziplin nicht ersetzen**Wie gut das Modell auch sein mag, diese Probleme bleiben bestehen Probleme mit der Verwendung von | Warum kann man das Problem beheben? |---------|---------------------------| Die Modelle haben keinen persistenten Speicher über Anrufe hinweg. Beispiele können Aktionen empfehlen, aber die Ausführung kann garantieren. Das Modell sagte, so, " ist kein akzeptabler Prüfpfad. Bestimmen Sie den Determinismus.Gleiche Eingabeaufforderung kann verschiedene Ausgänge erzeugen. Kosten im Maßstab Auch wenn ein Grenzmodell zuverlässig den korrekten Ausgang erzeugen konnte, benötigen Sie immer noch das - Validierung zum Fangen des 0.1% - Rückschläge, wenn Validierung fehlschlägt - Loggen, um zu verstehen, was passiert ist - Metrics verfolgen Drift im Laufe der Zeit Dass die Constrainer-Layer-Schicht von .e Sie bauen es sowieso von 'e Der Unterschied ist, ob Sie es bauen *Vorher* die Ausfälle lehren Sie, warum es zählt. *nach*Beschränkte Fuzziness sagt: : bauen zuerst: . Dann wird die Größe des Modells zur Wahl der Bereitstellung, nicht eines Architekturmodells.. Ein Modell mit guten Zwängen übertrifft oft ein Grenzmodell mit schlechten". Änderungen der Modellwahl *wie oft* du triffst den Constrainer, es tut nicht ', entfernen Sie die Notwendigkeit für ihn. ## Umsetzung eingeschränkter Fuzziness ### Definieren Sie Ihre Invarianten Was muss **niemals** Verleumdet werden ```csharp public class SummaryInvariants { public bool ValidateSummary(Summary summary, SourceDocument source) { // No claims without evidence pointers (e.g., "[chunk-3]" must exist in source) if (summary.Claims.Any(c => !source.ChunkIds.Contains(c.EvidenceChunkId))) return false; // No color assertions unless we computed a palette from the image if (summary.ColorClaims.Any() && !source.HasComputedPalette) return false; // No PII in output if (PiiDetector.ContainsPii(summary.Text)) return false; return true; } } ``` Häufige Invarianten sind: - Keine Ansprüche ohne Beweismittel - Keine Farben, außer aus Palettenstatistiken - Keine PII-Emissionen - Kein writes-, , nur lesen ,- ,nur SQL - Keine Identitätszuschreibung, sofern nicht ausdrücklich begründet ### Einstellen von harten Budgets Was muss **immer** eingeschränkt sein ? ```csharp public record ProcessingBudget( int MaxContextTokens = 4000, int MaxModelCalls = 5, TimeSpan MaxLatency = default, // e.g., 30 seconds int MaxVramMb = 2048, decimal MaxCostUsd = 0.10m ) { public ProcessingBudget() : this(MaxLatency: TimeSpan.FromSeconds(30)) { } } ``` Das Budget ist ein Vorschlag ,. , es ist ein Leistungsschalter .. , wenn überschritten , , , das System degradiert anmutig anstatt weiterhin Ressourcen zu brennen , . , ### Erstellen Sie Ihre Gate-Typen Der Constrainer doesns-'.t nur ablehnen *Umschreibungen* Überbewusste Ausgänge in abgesicherte Aussagen auf Basis verfügbarer Evidenz"), oder Streifen ununterstützter Ansprüche vollständig.-Rewriting bewahrt Signal beim Strippen über Vertrauen,-Haltung Systeme nützlich unter Ungewissheit statt spröde.-Dass ' den unverwechselbaren Teil:-Ses nicht Eingangsvalidierung,-S es hält Übliche Constrainer Sie verwenden '-ll über Systeme hinweg **Schemator**JSON-Schema Typvalidierung ```csharp public class SchemaGate { public (bool Valid, T? Result, string? Error) Validate(string json) { try { var result = JsonSerializer.Deserialize(json, _options); return (true, result, null); } catch (JsonException ex) { return (false, default, ex.Message); } } } ``` **Beweistor**Jeder Anspruch muss mit Quellstücken verknüpft werden ```csharp public class EvidenceGate { public Summary EnforceEvidence(Summary proposed, IReadOnlySet sourceChunkIds) { // Keep only claims that reference chunks we actually have var validClaims = proposed.Claims .Where(claim => sourceChunkIds.Contains(claim.EvidenceChunkId)) .ToList(); return proposed with { Claims = validClaims }; } } ``` **Politisches Tor**Sicherheitsvorschriften **Haushaltstor**:-Zeit-/-Compute-/-Tokenkappen **Tor neu schreiben**Umwandeln von Behauptungen in gesicherte Aussagen ### Fehlerbehebung definieren Wenn das Fuzzy-Teil fehlschlägt , , , don ,' , crash , . , Degradieren , : , ```csharp public async Task SummarizeWithFallback(Document doc) { try { var proposed = await _llm.GenerateSummary(doc); var constrained = _constrainer.Enforce(proposed, doc); if (constrained.Claims.Count > 0) return SummaryResult.Success(constrained); // LLM output was entirely invalid. Fall back to extractive return SummaryResult.Degraded( _extractiveSummarizer.Summarize(doc), reason: "LLM claims failed validation"); } catch (BudgetExceededException ex) { // Log for evolution, return deterministic-only _logger.LogWarning(ex, "Budget exceeded for {DocId}", doc.Id); return SummaryResult.Degraded( _extractiveSummarizer.Summarize(doc), reason: ex.Message); } } ``` Die wichtigsten Grundsätze - Degradieren Sie anmutig zu deterministischem Modus - Teilausgabe mit expliziten Unsicherheitsmarkern zurückgeben - Ungültige Vorschläge als Trainingssignale für prompte Evolution protokollieren ## Beispiele für die Welt ### LLM---basierte Systeme |-System-Substrate-Proposer - Constrainer - Substrate |-Substrat |--------|-----------|----------|---------| | **DocSummarizer** BERT-/RAG Klumpenextraktion LLM narrative Synthese |Citationsvalidator (Claims müssen zitieren `[chunk-N]`) | | **Bildunterschrift** Bild-Sharp-Palette/ metrics Bild-| , Florence , / , LLAVA-Bildunterschrift , | , Farbforderungen müssen mit der berechneten Palette übereinstimmen | **DatenZusammenfassung** Keine Einträge ,-Tabellen-Zulassungsliste | | **Medienanalyse** Schlagblatt LLM Beats müssen Zeitstempel zitieren Das Muster ist immer das gleiche.:. Rechnen Sie Fakten, lassen Sie die LLM in jenen Tatsachen interpretieren. ### Bot-Erkennung: Das Beispiel Nicht--.LLM *Dieser Abschnitt ist absichtlich detailliert, weil er das Muster ohne LLM an allen zeigt.* Mein Bot-Detektionssystem[Meistlyluzid, ., BotDetection](https://www.nuget.org/packages/Mostlylucid.BotDetection)Beschränkte Fuzziness ist auf LLM-- basierte Systeme beschränkt. Der Fuzzy Proposer ist eine Sammlung von heuristischen Detektoren mit gelernten Gewichten. **Die drei Schichten** - **Substrat (-Wahrheitsschicht )**Individuelle Detektoren berechnen objektive Signale von HTTP-Anfragen - Benutzer-Agentenanalyse-: `ua.is_bot`, `ua.contains_automation_keyword` - Kopfzeilenanalyse `hdr.accept_language_count`, `hdr.missing_standard_headers` - IP-Analysen `ip.is_datacenter`, `ip.reputation_score` - Verhaltensanalyse `beh.requests_per_minute`, `beh.path_entropy` - **AntragstellerBARCreativity Layer)**Heuristische Modellaggregate Signale über gewichtetes Sigma ```csharp // Each detector emits a contribution, not a verdict DetectionContribution.Bot( source: "UserAgent", category: "BotSignature", confidence: 0.85, reason: "Contains 'Googlebot' signature", weight: 1.0 ); // Aggregation via weighted sigmoid var weightedSum = contributions.Sum(c => c.ConfidenceDelta * c.Weight); var botProbability = 1.0 / (1.0 + Math.Exp(-weightedSum)); ``` - **Constrainer Contract Layer**Politischer Motor setzt harte Schwellenwerte und Aktionen durch ```csharp public record DetectionPolicy( double EarlyExitThreshold = 0.3, // Exit if < 30% = confident human double ImmediateBlockThreshold = 0.95, // Block only if 95%+ certain double AiEscalationThreshold = 0.6 // Escalate if risk unclear ); ``` **Die wichtigsten Insight-Detektoren emittieren Evidence-Evidenz – nicht Urteile** Jeder Detektor trägt zur endgültigen Entscheidung bei, ohne die Entscheidung selbst zu treffen. `DetectionContribution` Aufzeichnungserfassungen - `ConfidenceDelta`Wie sehr drückt sich das in Richtung Bot?(+) oder Mensch.(-) - `Weight`Wie viel Einfluss dieser Detektor hat - `Signals`Die berechneten Fakten - `Reason`Erklärbare Erklärung Diese Trennung bedeutet, dass Sie können. - Hinzufügen von /-Detektoren ohne Änderung der Aggregationslogik - Stimmgewichte unabhängig von der Detektionslogik - Optimale Gewichte aus Feedback im Laufe der Zeit lernen **Optionale LLM-Eskalation** Hier wird das Muster unterstützt, wo es interessant wird. **Optionale Eskalation auf LLM** wenn das heuristische Modell unsicher ist, wird dies über die Richtlinie konfiguriert. ```csharp // Default policy: fast heuristics only var defaultPolicy = new DetectionPolicy { FastPath = ["UserAgent", "Header", "Ip", "Behavioral"], EscalateToAi = false }; // High-security policy: escalate uncertain cases to LLM var strictPolicy = new DetectionPolicy { FastPath = ["UserAgent", "Header", "Ip"], SlowPath = ["Behavioral", "ClientSide"], AiPath = ["Onnx", "Llm"], // Optional ML/LLM detectors EscalateToAi = true, AiEscalationThreshold = 0.4 // Escalate when 40-60% uncertain }; ``` Wenn Eskalationsauslöser das LLM empfängt die angesammelten Signale und bietet eine natürliche Sprachanalyse, aber der Constrainer setzt noch Schwellenwerte durch Die Meinung des LLM-' beeinflusst den Score. **Wave---basierte Orchestrierung** Das System läuft Detektoren in Wellen mit späteren Wellen, die durch frühere Signale ausgelöst werden. ```mermaid flowchart LR subgraph Wave0["Wave 0: Fast & Free"] W0A[UserAgent] W0B[Header] W0C[IP] end C1{Consensus?} subgraph Wave1["Wave 1: Expensive"] W1A[Behavioral] W1B[ClientSide] end C2{Still Uncertain?} subgraph Wave2["Wave 2: AI"] W2A[ONNX Model] W2B[LLM] end subgraph Policy["Policy Enforcement"] P1{Score > 0.95?} P2[Block] P3[Allow] P4[Log & Learn] end Wave0 --> C1 C1 -->|"Yes: 3+ agree"| Policy C1 -->|"No"| Wave1 Wave1 --> C2 C2 -->|"No"| Policy C2 -->|"Yes + AI enabled"| Wave2 Wave2 --> Policy P1 -->|Yes| P2 P1 -->|No| P3 P3 --> P4 style Wave0 stroke:#22c55e,stroke-width:2px style Wave1 stroke:#f59e0b,stroke-width:2px style Wave2 stroke:#ef4444,stroke-width:2px style Policy stroke:#8b5cf6,stroke-width:2px ``` Dies ist eingeschränkt Fuzziness mit **progressive Eskalation**Kostengünstige Heuristiken behandeln klare Fälle , kostenintensive KI behandelt Randfälle , , , und die Politik erzwingt Einschränkungen bei jedem Schritt ,. , **Lernen ohne Risiko** Da der Constrainer Sicherheit erzwingt, unabhängig davon, welche Detektoren ausgeben, kann das System sicher lernen ```csharp // After each request, submit learning event (non-blocking) LearningCoordinator.TrySubmit("ua.pattern", new LearningEvent { Features = extractedFeatures, Label = actualOutcome, // Was it actually a bot? Confidence = detectionConfidence }); // Background: EMA weight update var alpha = 0.1; // Learning rate newWeight = existingWeight * (1 - alpha) + observedDelta * alpha; ``` Gewichte konvergieren in Richtung zu wahren Mustern im Laufe der Zeit... mehr Vertrauen Beobachtungen haben mehr Wirkung... mehr Einfluss... mehr Sicherheit. mehr Sicherheit! **Warum das so wichtig ist** BotDetection beweist, dass eingeschränkte Fuzziness über LLMs spezifisch ist. 1. Mehrere unsichere Signale müssen kombiniert werden 2. Unterschiedliche Signale haben unterschiedliche Zuverlässigkeit 3. Harte Zwänge müssen unabhängig von der Punktzahl durchgesetzt werden 4. Das System sollte im Laufe der Zeit lernen und verbessern 5. Teuere Analysen sollten nur dann durchgeführt werden, wenn die billige Analyse unzureichend ist. Die LLM ist nur eine mögliche Fuzzy-Komponente, die alle auf dieselbe Architektur passt. ## Wenn Sie keine eingeschränkte Fuzziness verwenden Das Muster hat einen Kostenaufwand , wenn Sie nicht zahlen müssen , um , . , **Überspringen Sie es, wenn** - **Die Aufgabe ist vollständig deterministisch.** Wenn Sie schreiben können `if X then Y`Du brauchst einen Bewerber, der den Code schreibt. - **Sie sind ein Prototyp von .** Du weißt noch nicht, welche Einschränkungen wichtig sind – . – Lass es zuerst scheitern –. – Beschränke es, nachdem du die Ausfallmodi verstanden hast – . – MSC4 – Solange der Explosionsradius nicht hoch ist – MCSK5 – Constrain Early – MSV6 – - **Die Ausgabe ist Einweg-.** Brainstorming-Entwürfe,C Kreative Erkundung:C Wenn ein Mensch alles überprüft, ist der Constrainer redundant - **Gelegentliche Ausfälle sind akzeptabel.** Wenn die Halluzinationsrate für Ihren Anwendungsfall in Ordnung ist, können die Engineering-Kosten der Zwangsausbildung die Kosten von Ausfällen übersteigen. - **Sie haben kein Substrat.** Wenn du die Grundwahrheit berechnen kannst, dann kannst du den Druck von ' nicht gegen ihn ausüben. **Das Muster ist für Systeme, bei denen** - Probabilistische Ausgänge erreichen Benutzer oder andere Systeme ohne menschliche Überprüfung - Ausfälle sind stumm , , , teuer , oder Compoundierung - Sie müssen lernen, ohne die Produktion zu riskieren Wenn das nicht deine Situation ist... einfachere Ansätze gewinnen... ## Integration mit evolutionären Systemen Beschränkte Fuzziness wird noch leistungsfähiger, wenn mit DiSE kombiniert wird.(.Directed Synthetic Evolution. ). Patterns, weil du Kandidaten billig und deterministisch punkten kannst. 1. **Erzeugen** Mehrfache Fuzzy-Vorschläge 2. **Validierung** gegen Invarianten 3. **Ergebnis** basierend auf Constraint-Zufriedenheit Utility Metriken 4. **Behalten** die besten, die den Rest verwerfen 5. **Akkumulieren** Ausfälle als Trainingssignale für prompte Evolution Die wichtigsten Erkenntnisse **Sie können den Antragsteller entwickeln, ohne das System zu riskieren**Der Constrainer erzwingt Sicherheit und Korrektheit unabhängig davon, was der Antragsteller ausgibt. ```csharp public async Task EvolvePromptAsync( Prompt current, IReadOnlyList failures) { // Failures are safe to collect because constrainers caught them var patterns = AnalyzeFailurePatterns(failures); // Generate candidate prompt mutations var candidates = await _llm.GeneratePromptVariants(current, patterns); // Test each against held-out validation set var scored = await Task.WhenAll(candidates.Select(async c => { var results = await RunValidationSet(c); return (Prompt: c, Score: CalculateScore(results)); })); return scored.OrderByDescending(x => x.Score).First().Prompt; } ``` ## Die One---Sentence-Definition > Beschränkte Fuzziness ist die Praxis, probabilistische Komponenten Bedeutung vorschlagen zu lassen, während deterministische Systeme Wahrheit durchsetzen. ## Schlussfolgerung: Der Gouverneur: Nicht der Motor Zurück zu diesem LRU-Cache, der klüger wurde, als es aus dem Speicher lief. Die Fix war ,' , es gibt mehr Kapazität , . , die fix war **die Beschränkung ihre Arbeit tun zu lassen**Die eingeschränkte Größe erzwungene Auswahl... die gleitende Ablauf gezwungen vergessen... zusammen... sie schufen Lernen... Dies ist der Schlüssel zu insight-: **Sie don-'.t beheben probabilistische Systeme, indem sie *weniger* probabilistisch**Sie beheben sie, indem Sie die Wahrscheinlichkeit nicht in Ihre Garantien entweichen lassen. ```mermaid flowchart LR E[🔥 High-Variance
Engine] --> G[⚙️ Governor] --> O[✓ Constrained
Output] style E stroke:#ef4444,stroke-width:2px style G stroke:#22c55e,stroke-width:3px style O stroke:#3b82f6,stroke-width:2px ``` Die Dampf-Engine doesn ́s'-t Verstehst Du"-t Es sollte '-t explodieren Der Gouverneur physikalisch verhindert es.-t Der LLM Doesn`'-t Begreift "-t Er sollte '-t Halluzinat Farben ..-t Die Constrainer berechnet verhindert es ?. Gleiches Muster: Verschiedenes Jahrhundert: . Das nächste Mal, wenn du versucht bist, einen anderen Absatz zu deiner System-Prompt hinzufügen in der Hoffnung, dass das Modell wird verstehen, "... *kann ich berechnen, dass constraint-?* Wenn ja, berechnen Sie es .. Dann drücken Sie das Modell zu ihm Harte Grenzen schlagen weiche Vorschläge... jedes Mal... --- ## Die Reihe Teil - Muster - Achse - | |------|---------|------| Beschränkte Fuzziness, diesen Artikel), einzelne Komponente | 2 | [Beschränkte Fuzzy MoM](/blog/constrained-mom-mixture-of-models) Mehrere Komponenten | 3 | [Beschränkte Fuzzy Kontext Drackging](/blog/constrained-fuzzy-context-dragging) Zeit-Speicher (MSK) | 4 | [Bildzusammenfassung](/blog/constrained-fuzzy-image-intelligence) Praktische Umsetzung **Teil** erweitert diese Architektur auf Multi---Agentensysteme. Modelle sprechen nicht miteinander, sie veröffentlichen getippte Signale zu einem gemeinsamen Substrat. Die Beschränkung wird zur Kommunikation selbst. **Teil** dehnt es entlang der Zeitachse aus..-Modelle können bemerken, ,- aber Engineering entscheidet, was fortbesteht..-Die Beschränkung wird zum Speicher selbst. **Teil** zeigt alle drei Muster umgesetzt in [ImageSummarizer](https://github.com/scottgal/lucidrag)Bildanalyse-Pipeline auf Basis von ColorWave, bei der die Fakten berechnet werden.,... VisionLmmWave schlägt vor, , und deterministische Auswahl schränkt den Ausgang ein.