Inférence comportementale: Comment j’ai appris à cesser de m’inquiéter et à aimer les systèmes probabilistes (Français (French))

La plupart des logiciels présupposent encore que le monde lui remettra des intrants propres et des règles stables. La production ne fait habituellement aucun des deux

Ce post est la ligne qui se dégage derrière un certain nombre de choses que j’ai construites. DiSE, Fuzziness restreinte, CFMoM, RAG réduit, StyloFlow, Les dix commandements du génie de l'AI, et Stylobot.

Je n’y suis pas parvenu'en commençant par une grande théorie .Je suis arrivé en jetant un coup d’œil sur les outils que j’ai trouvés intéressants et en essayant de déterminer ce qu’ils faisaient réellementMSC2 Sommaire. Gérer des codesM SK4 ExtraireMST5 ExtractionMSP6 RangerMSV7 Une fois que vous cessez d’écouter la couche de marketingM SV8 la plupart des outils utiles ne font pas une chose magiqueM Sav9 Ils recueillent des preuves partiellesM Sv10 les restreignentS sav11 puis les transforment en réponse ou actionS Sav12

Après avoir construit suffisamment de systèmes comme celui-ci, j’ai cessé de les considérer comme des trucs distincts et j’avais commencé à voir la même architecture sous :.

recueillir des signaux faibles
garder l'incertitude explicite
accumuler des preuves au fil du temps
laisser la politique déterministe être l'action finale

C'est le fondement de ce que je veux dire par Système de détermination du comportement.

L'article 5 de la Loi sur l'immigration et le statut des réfugiés La série StyloMail Cela s’applique à l’email. Partie 2: Utilisation de Nimble à partir du CM SK1 Étudie les modèles de décision locaux, le commerce - les débouchés contre un Jev hébergéM SK2 et la façon dont les preuves sémantiques pourraient s’intégrer à un classeur stratifié.

Il explique également pourquoi ces architectures fonctionnent bien avec les codes LLMs. Non parce que le LLM est "l'intelligence", mais parce que ce système est suffisamment structuré pour être inspecté et assez facile à ajuster.

Précédemment dans cette série:

Le problème: Environnements dynamiques , Partielle preuve

La plupart des systèmes de production continuent d’avoir un mauvais défaut.

Ajouter de nouvelles règles.
Ajouter un modèle plus grand.

Les deux peuvent travailler pendant un certain temps. Les deux se détruisent lorsque l’environnement changeM SK1

Ce que beaucoup de systèmes réels ont en réalité, c’est ce

flowchart LR
    A[Messy Input] --> B[Partial Signals]
    B --> C[Conflicting Evidence]
    C --> D[Uncertain Interpretation]
    D --> E[Need to Act Anyway]

    style A stroke:#ef4444,stroke-width:2px
    style E stroke:#22c55e,stroke-width:2px

Exemples:

Détection des robots
extraction de documents
systèmes de recommandations
segmentation du public
évaluation frauduleuse
routage adaptatif des flux de travail

Dans ces domaines, on obtient rarement un seul fait décisif.

C'est la raison pour laquelle je continue de revenir aux signaux, contraintesM SK1 et observabilité.

Si vous voulez que le système soit amélioré,, vous devez voir ce qu’il a observé , ce qu'il croyait M SK2 et pourquoi il a agi . Si cela reste enfoué dans des chemins de code incohérents

DiSE: Architecture sous pression de sélection

L'importante évolution DiSE n’était pas "mettre un code de changement LLM." Il s’agissait de ce

traiter l’architecture comme quelque chose qui peut apparaître sous la pression de sélection, ne pas être tout à fait connue à l’avanceM SK1

DiSE réétablit le logiciel de "buildM SK1 ship, patchMSC3 à "perceiveMska5 evaluateM Ska6 mutate Mska7 selectMka8

flowchart LR
    subgraph Traditional["Traditional Software"]
        T1[Build] --> T2[Ship] --> T3[Patch]
    end

    subgraph DiSE["DiSE"]
        D1[Perceive] --> D2[Evaluate]
        D2 --> D3[Mutate]
        D3 --> D4[Select]
        D4 --> D1
    end

    style Traditional stroke:#ef4444,stroke-width:2px
    style DiSE stroke:#22c55e,stroke-width:2px

Cela est important parce que dans de nombreux systèmes, vous ne le savez pas à l’avance:

quels sont les détecteurs importants
quelles combinaisons de preuves seront retenues?
les seuils de survie du trafic réel
les composants coûteux qui méritent d'être exploités

Ainsi, le système a besoin d’espace pour explorer.

Mais l’exploration seule n’est pas suffisante. Vous pouvez muter votre chemin dans le non-sens aussi facilement que dans quelque chose utile.

Fuzziness restreinte: Maintenir les murs

Fuzziness restreinte est la couche de contrôle qui arrête tout ce qui se tourne à mush.

La règle est simple:

Les composantes probabilistes peuvent proposer; les systèmes déterministes décidentM SK1

flowchart TB
    I[Input] --> S[Deterministic Substrate]
    S --> P[Fuzzy Proposer]
    P --> C{Constrainer}
    C -->|Pass| O[Output]
    C -->|Partial| R[Rewrite / Hedge]
    C -->|Fail| F[Fallback]
    S -.evidence.-> C

    style S stroke:#22c55e,stroke-width:3px
    style P stroke:#f59e0b,stroke-width:3px
    style C stroke:#ef4444,stroke-width:3px

DiSE dit "explorerM SK1 Constrained Fuzziness dit ""à l'intérieur de ces limites" ."".

Sans ces limites, les systèmes probabilistes font ce qu’ils font toujours.

excès de charge
Déplacement
dissimuler l'incertitude derrière la sortie fluide
de devenir chargés dans des endroits qu’ils ne devraient jamais posséder

C'est pourquoi Les dix commandements du génie de l'AI . " Les LLM ne doivent pas être propriétaires de l’État", " les LLM n’ont pas à être la seule cause des effets secondairesM SK4 et ", Ne demandez jamais à un LLM de décider d’un boulène dérivéMSC7 Il s’agit non plus de notes de style, mais de règles d’exploitation pour les systèmes qui ont besoin de survivre à la production.

Le même schéma apparaît partout:

dans RAG, le modèle synthétise mais ne possède pas de stockage ou de filtration
dans les pipelines d’image, Les modèles de vision proposent des captions, mais les faits calculés les restreignent
dans la détection de robots, les détecteurs émettent des preuves mais la politique possède l'action
dans les flux de travail, les composants émettent des signaux mais l'orchestre possède une escalation et des effets secondaires

flowchart LR
    A[DiSE<br/>Search and Selection] --> B[Constrained Fuzziness<br/>Bounded Proposal]
    B --> C[Behavioural Inference<br/>Evidence Over Time]

    style A stroke:#3b82f6,stroke-width:2px
    style B stroke:#f59e0b,stroke-width:2px
    style C stroke:#22c55e,stroke-width:2px

Combinez ces deux idées et vous obtiendrez un modèle pratique.

Signals: Le vrai primaire

C'est là où RAG réduit, StyloFlow, et le signal CFMoM all line up.

Une fois que vous cessez de prétendre qu’un modèle ou un moteur à règles devrait faire tout,, le concept primitif utile devient signal.

Un bon signal est ::

coûteux à calculer
composable
Il s'agit d'un élément suffisamment spécifique pour être considéré comme important.
vérifiable
Utilisation dans l'incertitude

Plus important encore, le signal est un comportement comprimé. Il n’est pas le monde entier.

flowchart LR
    R[Raw Reality] --> X[Extraction]
    X --> S1[Signal]
    X --> S2[Evidence Pointer]
    X --> S3[Confidence]
    S1 --> A[Accumulation]
    S2 --> A
    S3 --> A
    A --> I[Inference]

    style R stroke:#64748b,stroke-width:2px
    style A stroke:#3b82f6,stroke-width:2px
    style I stroke:#22c55e,stroke-width:2px

Différents domaines émettent différents signaux:

Détection de robots: entropie du timing, combinaisons impossibles des titres , TLSM SK3 incompatibilités HTTPMSC4 cadence d'éclatementMNK5 similitude de signature
extraction de documents: proximité du champ, confiance en OCRM SK2 régularité des tableauxMSC3 densité d'entités , cohérence de la page layout
Systèmes de recommandation: dérive des séances, patrons d'habitationM SK2 collapse de répétition , intention de conversion
Systèmes de gestion des flux de travail: retraitsM SK1 éruptions de latence , démarrage du cache, divergence de cheminementMSC4 détérioration de confiance

Les signaux vous permettent de passer de "le modèle croitM SK1 à "le système a des preuves."

C'est là le mouvement qui a suivi. RAG réduit: extraire les signaux au lieu de remplir des fenêtres contextuelles plus grandes Il s'agit également du mouvement vers StyloFlow: coordonnées autour des faits émisM SK1 appels de composant non opaque.

Une fois que les signaux sont explicites, vous pouvez poser de meilleures questions d’ingénierie:

qui signalent effectivement les décisions prises?
Quels sont ceux qui sont bruyants?
où nous progressons trop tôt?
quels seuils sont trop conservateurs?
quels sont les patrons corrélateurs avec des faux positifs?
où appartient-il un nouveau détecteur?

C’est la différence entre expédier une fonction et régler une machine.

Systèmes d'inférence comportementale

Les systèmes traditionnels ressemblent souvent à ce qui suit:

Rules -> Decisions

Les systèmes d’inférence comportementale ressemblent davantage à ce qui suit:

Signals -> Evidence accumulation -> Behaviour inference -> Deterministic action

flowchart TD
    subgraph Old["Old Shape"]
        O1[Rules] --> O2[Decision]
    end

    subgraph New["Behavioural Inference Shape"]
        N1[Signals]
        N2[Evidence Accumulation]
        N3[Inference]
        N4[Policy Action]
        N1 --> N2 --> N3 --> N4
    end

    style Old stroke:#ef4444,stroke-width:2px
    style New stroke:#22c55e,stroke-width:2px

Quels sont les résultats de ces systèmes?

Intention
anomalie
Toutes les catégories
structure
Coordination
Déplacement

Habituellement, sans jamais obtenir un seul fait parfait.

Le comportement est souvent plus facile à déduire que l’identité.

C’est suffisant pour diriger le groupe de travail sur les priorités, la priorité 4 ou l’escalade 5

Il rend aussi ces systèmes bien adaptés aux codes LLM. Ils fonctionnent mieux lorsque le système les donne:

les limites explicites
les transitions d'état observables
Résultats mesurables
surfaces de réglage locale
cycles d'évaluation répétés

Un système d’inférence comportementale expose ces choses naturellement.

Stylobot en tant que système d'inférence comportementale

Stylobot Part 2 est probablement l’exemple concret le plus clair à ce jour.

Le Stylobot n’est pas seulement une pile de détecteurs. Il s’agit d’un ensemble d’inférences comportementales.

flowchart LR
    R[Request] --> D[Detector Signals]
    D --> E[Evidence Aggregation]
    E --> T[Signature + Temporal Context]
    T --> I[Behaviour Inference]
    I --> P[Probability + Confidence + Risk]
    P --> A[Policy Action]
    A --> F[Response Feedback]
    F --> D

    style D stroke:#3b82f6,stroke-width:2px
    style T stroke:#8b5cf6,stroke-width:2px
    style P stroke:#f59e0b,stroke-width:2px
    style A stroke:#22c55e,stroke-width:2px

Quelques éléments de ce pipeline proviennent directement des travaux antérieurs.

1. La couche de détection est en forme DiSE-

Aucun seul détecteur n’est supposé être suffisant. Vous avez une population de contributeurs spécialisés qui émettent des données probantes , et, avec le temps, vous apprenez quels sont ceux qui aident réellement .

Cela n’est pas une évolution autonome totale, mais c’est le même instinct. L’architecture est raffinée sous pression.

2. La surface de la politique est restreinte

Stylobot garde la probabilité et la confiance séparées, mais l’action est déterministeM SK1

Allow
Throttle
Challenge
Block

La preuve peut être floue. Les surfaces de contrôle ne peuvent pas fonctionner

3. Le modèle de signature crée une mémoire comportementale

Plutôt que de réduire un visiteur à une seule IP ou à un seul utilisateur, Stylobot construit une signature multi-vectorale et des raisons à travers le temps.

Ce n’est plus une classification simple. Il s’agit de la mémoire sur le comportement.

4. L’inférence et l’exécution sont séparées

La probabilité élevée avec une faible confiance ne devrait pas déclencher la même réponse que la probabilité haute avec une grande confiance.

Le système maintient l’ambiguïté intacte jusqu’à ce qu’il ait suffisamment de preuves pour justifier une action plus ferme.

5. L'observabilité la rend ajustable

Stylobot est conçu de façon à pouvoir inspecter presque toutes les parties significatives du chemin de décision:

les détecteurs qui ont été mis en marche
les signaux qui ont été émis
quels éléments de preuve ont été recueillis
Quels sont les caractéristiques de la signature correspondantes?
Pourquoi la confiance a-t-elle changé?
où le départ précoce a eu lieu
quelle limite de politique a déclenché l'action

Il s’agit donc d’un moteur adaptable plutôt qu’une boîte noire.

flowchart TD
    S1[Observable Signals] --> S2[Compare Outcomes]
    S2 --> S3[Tune Thresholds / Weights / Waves]
    S3 --> S4[Re-run on Traffic]
    S4 --> S5[Observe Drift / Improvement]
    S5 --> S1

    style S1 stroke:#3b82f6,stroke-width:2px
    style S3 stroke:#f59e0b,stroke-width:2px
    style S5 stroke:#22c55e,stroke-width:2px

Cette boucle est exactement là où le code LLM aide. Non en remplaçant le moteur, mais en accélérant les changements au moteur.

Ajouter ou raffiner les détecteurs
Suggérer des vérifications de signal cross-
les seuils de sonnage
restructuration de l'ordonnance sur les ondes
établir des diagnostics autour de fausses données positives et d'erreur

Cela ne fonctionne que parce que l’architecture est suffisamment observable pour soutenir le réglage en premier lieu.

Pourquoi les codes LLM sont importants

Le changement utile n’est pas "LLMs peuvent écrire des logiciels maintenant ." Cette ligne est presque instantanément acharnée

Ce qui importe, c’est que les codes LLM rendent l’exploration moins coûteuse.

Le RAG a été publié en mai 2020. Extraction de signaux, , Recherche intégrée, M SK2 Extraction des signaux et packs d’éléments probants ne sont pas de nouvelles idées.

Code Les LLM ont changé l’économie de cette boucle.

Ils vous aident à concevoir un prototype:

appareils de détection
transforme
contrats
Évaluateurs
Programmes de classement
épreuves synthétiques
vues diagnostiques
appareils de réglage

flowchart LR
    A[Human Hypothesis] --> B[Code LLM Acceleration]
    B --> C[More Candidate Signals]
    C --> D[More Evaluation]
    D --> E[Better Selection Pressure]
    E --> F[Stronger Inference System]

    style B stroke:#8b5cf6,stroke-width:2px
    style F stroke:#22c55e,stroke-width:2px

Le LLM n’a pas besoin d’être le décideur pour être stratégiquement utile.

Mais les règles antérieures s’appliquent toujours:

LLM n'est pas propriétaire de l'État
LLM ne possède pas d'effets secondaires
Le LLM n'arrive pas à redéfinir la vérité
Le substrat déterministe demeure le substrat

Par conséquent, oui, les codes LLM sont importants . Ils sont importants parce qu’ils accélèrent la recherche et l’ajustement, non pas parce qu'ils éliminent le besoin d’architectureM SK3

La ligne à travers les autres systèmes

La même forme continue d’apparaître.

RAG réduit

À l'intérieur RAG réduit, vous extraisez des signaux déterministes lors de l’ingestion , stockez les preuves séparément M SK2 et laissez le LLM synthétiser à partir d’un ensemble de preuves limités .

Ne pas " donner au modèle tout et espérer ." Extraire d’abord, restreindre la surfaceM SK3 et synthétiser à partir des preuvesMSC4

lucidRAG

Lorsque Stylobot déduit le comportement des demandes au fil du temps, lucidRAG déduit la signification des preuves multimodales: structure du document , confiance en OCRM SK2 graphiques d'entités, signaux de classementMSC4 qualité de la source

Substance différente. Formation identique.

flowchart LR
    subgraph Stylobot["Stylobot"]
        SB1[Request Signals]
        SB2[Temporal Evidence]
        SB3[Behaviour Inference]
        SB4[Policy Action]
        SB1 --> SB2 --> SB3 --> SB4
    end

    subgraph LucidRAG["lucidRAG"]
        LR1[Content Signals]
        LR2[Evidence + Retrieval]
        LR3[Meaning Inference]
        LR4[Bounded Synthesis]
        LR1 --> LR2 --> LR3 --> LR4
    end

    style Stylobot stroke:#3b82f6,stroke-width:2px
    style LucidRAG stroke:#22c55e,stroke-width:2px

Il ne s’agit pas non plus d’un "app." Les deux sont des moteurs de détermination qui travaillent sur différents intrants.

CFMoM

À l'intérieur MoM Fuzzy restreint, des composantes probabilistes multiples peuvent proposer , mais elles communiquent par voie de signaux typés et la logique déterministe décide ce qui surviendra

Il s’agit d’une coordination multimodèle sans renoncer au contrôle.

Traçage du contexte

À l'intérieur Traçage de contexte fuzzy restreint, le système garde une mémoire limitée et préserve les parties du contexte qui sont importantes suffisamment longtemps pour être interprétées ultérieurement

L’inférence a besoin de temps. Le traçage du contexte permet d’obtenir le temps sans laisser la mémoire croître sans contraintes.

StyloFlow

À l'intérieur StyloFlow, Les composants ne s’appelent pas directement les uns aux autres . Ils émettent des signaux M SK2 et l’orchestre réagit à ces signaux ainsi qu’à leur confiance

Il s’agit d’une déduction comportementale appliquée à l’infrastructure de travail.

"Systèmes d'inférence comportementale" est un meilleur parapluie que les systèmes "agentiquesM SK3 ou

Règles de conception

Si je devait comprimer l’ensemble de la lignée en quelques règles:

Ne pas confondre la sortie fluide avec les connaissances du système.
Extraire les signaux tôt.
Préserver l’incertitude plus longtemps que je ne le sensais
Maintenir l’action déterministe même si la conclusion est probabiliste.
Store evidence pointers, not just summaries.
Permettre aux composants de proposer; ne les laisser jamais s’auto-autoriser
Traiter le temps comme faisant partie de la vérité.
Utiliser les LLM pour explorer l’espace de conception, ne pas remplacer l’architecture.
Construire quelque chose que vous puissiez régler comme un moteur, non seulement configurer comme une app.

La version normative de ces règles est Les dix commandements du génie de l'AI. Cet article est la version architecturale.

flowchart LR
    A[Ten Commandments] --> B[Architectural Constraints]
    B --> C[Behavioural Inference Systems]
    C --> D[Tuneable Engines]

    style A stroke:#8b5cf6,stroke-width:2px
    style B stroke:#ef4444,stroke-width:2px
    style C stroke:#22c55e,stroke-width:2px
    style D stroke:#3b82f6,stroke-width:2px

mindmap
  root((Behavioural Inference))
    DiSE
      Search
      Mutation
      Selection
    Constrained Fuzziness
      Substrate
      Proposer
      Constrainer
    Signals
      Evidence
      Confidence
      Provenance
    Time
      Memory
      Drift
      Temporal Context
    Action
      Policy
      Thresholds
      Deterministic Boundaries

Pourquoi cela importe?

Les systèmes d’AI qui survivent la production ne sont généralement pas des blobs autonomes géants. Ils ne sont pas non plus des piles infinies de règles.

Il s’agit de systèmes qui

collecte de signaux étroits
accumuler des preuves au fil du temps
préserver honnêtement l'ambiguïté
exposer les surfaces de contrôle déterministes
rester suffisamment inspectables pour évoluer

C’est une meilleure histoire d’ingénierie que "le modèle est devenu plus intelligent ."

Les modèles permettront d’améliorer les systèmes. Fine. L’architecture détermine toujours si un système est débugableM SK2 vérifiable , peu coûteux à exploiter

Les systèmes de détermination comportementale prennent ces contraintes au sérieux.

Conclusion de la réflexion

La lignée semble évidente à l’avenir:

flowchart LR
    D[DiSE<br/>Explore and Select] --> CF[Constrained Fuzziness<br/>Bound the Uncertain]
    CF --> BI[Behavioural Inference Systems<br/>Infer from Weak Signals]
    BI --> ST[Stylobot / Reduced RAG / StyloFlow<br/>Working Architectures]

    style D stroke:#3b82f6,stroke-width:2px
    style CF stroke:#f59e0b,stroke-width:2px
    style BI stroke:#22c55e,stroke-width:2px
    style ST stroke:#8b5cf6,stroke-width:2px

DiSE m’a donné une façon de penser à la recherche architecturale. Constrained Fuzziness m’a permis de garder les composants probabilistes à l’intérieur des limites claires. Les systèmes d’inférence comportementale sont ce que vous obtiendrez lorsque ces idées sont forcées de survivre à la production.

Stylobot est seulement l’exemple actuel.

Une fois que vous commencez à considérer les systèmes comme des accumulateurs de preuve avec des surfaces d’action déterministes, beaucoup de logiciels modernes cessent d’apparaître comme " fonctions AIM SK2 et commencent à apparaître comme le même modèle dans différents domaines.