This is a viewer only at the moment see the article on how this works.
To update the preview hit Ctrl-Alt-R (or ⌘-Alt-R on Mac) or Enter to refresh. The Save icon lets you save the markdown file to disk
This is a preview from the server running through my markdig pipeline
Thursday, 13 November 2025
Lorsque les systèmes commencent à réécrire leur propre code
Remarque: Inspiré par la réflexion sur les extensions à principalementlucid.mockllmapi et le matériel pour le (jamais à sortir mais j'aime y penser) roman sci-fi "Michael" sur l'IA émergente
Nous avons vu des règles simples créer un comportement complexe. Nous avons vu la communication créer une intelligence collective.
Maintenant, nous prenons la mesure qui me met profondément mal à l'aise:
Et si le système pouvait réécrire ses propres règles?
Et si les agents pouvaient :
Ce n'est pas que de l'optimisation. automodification.
Et une fois qu'on donne à un système la capacité de s'améliorer... où s'arrête-t-il ?
L'évolution est le système auto-optimisant ultime:
Pas de concepteur intelligent, pas de plan, juste un simple algorithme qui, avec assez de temps, crée tout, des bactéries aux humains.
Maintenant imaginez ce même schéma, mais avec des agents d'IA au lieu d'organismes. Et au lieu de milliards d'années, cela se produit en jours ou en semaines.
Avant d'aller plus loin, parlons à l'éléphant dans la pièce : Comment empêcher cela d'être une pure hallucination LLM ?
La réponse : Outils. Exécution de code. Test contre la réalité.
Voici l'architecture qui rend cela pratique:
Your Server(s):
┌─────────────────────────────────────┐
│ Node 1: Routing Agent │
│ - Lightweight code (Node.js/Python)│
│ - Makes decisions │
│ - Calls LLM APIs when needed │
│ - Executes code to test ideas │
└─────────────────────────────────────┘
┌─────────────────────────────────────┐
│ Node 2: Validation Agent │
│ - Runs tests against real data │
│ - Executes validation code │
│ - Calls LLM for complex checks │
└─────────────────────────────────────┘
┌─────────────────────────────────────┐
│ Node 3: Specialist Agent │
│ - Domain-specific logic │
│ - Code execution for that domain │
│ - Calls specialized LLM prompts │
└─────────────────────────────────────┘
All nodes call → [OpenAI API / Anthropic API / Local LLM API]
(This is where the cost is: API credits, not hardware)
Aperçu clé : Vous n'avez pas besoin d'une ferme GPU. Les agents sont un code léger fonctionnant sur des serveurs normaux. Ils APPELENT LLMs via l'API. La partie chère est des crédits LLM, pas une infrastructure.
Lorsqu'un agent génère du code ou prend une décision, il peut le tester:
class Agent:
def solve_problem(self, problem):
# Agent asks LLM to generate solution code
solution_code = self.llm_generate(
f"Write Python code to solve: {problem}"
)
# HERE'S THE KEY: Execute the code and see if it works
try:
result = self.execute_code(solution_code, test_inputs)
if self.validate_result(result):
# It works! Save this solution
self.cache_solution(problem, solution_code)
return result
else:
# Failed validation, try different approach
return self.solve_problem_alternative(problem)
except Exception as e:
# Code failed to execute
# Ask LLM to fix it based on the actual error
fixed_code = self.llm_fix(solution_code, error=str(e))
return self.execute_code(fixed_code, test_inputs)
Ça change tout. Le système ne génère pas seulement des réponses plausibles.
# Agent 1 generates a data processing function
code = llm.generate("Write code to parse CSV and calculate averages")
# Agent 2 tests it against REAL data
test_result = execute_code(code, real_csv_file)
# Did it actually work? Not "does it sound right?" but "does it work?"
if test_result.success and test_result.output_matches_expected:
network.accept_solution(code)
else:
# Actual error: "TypeError: cannot convert string to float"
# Now we have OBJECTIVE feedback, not subjective judgment
network.request_fix(code, test_result.error)
C'est ainsi que nous échappons au problème de la salle chinoise. Le système ne manipule pas seulement des symboles, il exécute le code et vérifie si les résultats correspondent à la réalité.
Sans outils, les systèmes multi-agents ne sont que des LLMs parlant à des LLMs. Sophistiqués, mais finalement déconnectés de la réalité.
Avec des outils:
Les agents écrivent le code. Exécutez-le. Testez-le. Corrigez-le. Partagez ce qui fonctionne. Prunez ce qui ne fonctionne pas.
C'est ça. évolution avec des tests objectifs de condition physique. Non seulement l'optimisation dans l'abstrait, mais l'optimisation par rapport à la réalité mesurable.
Mais ce n'est pas seulement l'exécution de code. Le système peut construire connaissances sémantiques pour différents types de tâches en testant à l'aide de plusieurs capteurs:
class MultimodalAgent:
def __init__(self):
self.semantic_knowledge = {
'text_tasks': SemanticCache(),
'vision_tasks': SemanticCache(),
'audio_tasks': SemanticCache(),
'code_tasks': SemanticCache()
}
def solve_task(self, task):
task_type = self.classify_task(task)
# Check semantic knowledge for similar past solutions
similar = self.semantic_knowledge[task_type].find_similar(task)
if similar:
return self.adapt_solution(similar, task)
# Generate new solution
solution = self.generate_solution(task)
# Test against reality using appropriate sensor
if task_type == 'vision_tasks':
# Generate image, test with vision API
result = self.vision_api.analyze(solution)
passes = self.validate_vision_output(result, task.requirements)
elif task_type == 'audio_tasks':
# Generate audio, test with speech recognition
transcript = self.speech_to_text(solution)
passes = self.validate_audio_output(transcript, task.requirements)
elif task_type == 'code_tasks':
# Execute code, check actual results
result = self.execute_code(solution)
passes = self.validate_code_output(result, task.test_cases)
elif task_type == 'text_tasks':
# Use NLU to verify semantic meaning
understanding = self.nlu_api.analyze(solution)
passes = self.validate_text_output(understanding, task.intent)
# Learn from results
if passes:
self.semantic_knowledge[task_type].store(task, solution, result)
return solution, passes
La clé : Chaque modalité fournit une rétroaction objective :
Le système construit collections de connaissances sémantiques pour chaque type de tâche - pas le raisonnement abstrait, mais des modèles fondés qui fonctionnent réellement lorsque testés contre de vrais capteurs.
Au fil du temps, l'agent apprend :
Text tasks:
"For summarization, approach X works 94% of the time"
"For translation, approach Y works 89% of the time"
→ Semantic knowledge about what works for text
Vision tasks:
"For object detection, model A is better"
"For style transfer, model B is better"
→ Semantic knowledge about what works for vision
Code tasks:
"For parsing, regex approach fails 30% of the time"
"For parsing, AST approach works 97% of the time"
→ Semantic knowledge about what works for code
Chaque modalité a sa propre base de connaissances sémantiques, apprise par des tests réels, et non par des raisonnements théoriques.
Il commence simplement. Un système multi-agents traite des milliers de requêtes. Il commence à remarquer les modèles:
After 1000 requests:
- 73% are simple queries that one agent handles fine
- 19% need two agents (generation + validation)
- 6% need complex committees
- 2% are truly novel and need the full pipeline
Un système conçu par l'homme resterait statique, mais un système auto-optimisant demande :
"Pourquoi suis-je en train d'utiliser le pipeline complexe pour des demandes simples?"
Et puis réécrit sa logique de routage.
// Week 1: Hard-coded routing (human designed)
function route(request) {
return complexPipeline(request); // Everything uses full pipeline
}
// Week 4: System optimizes itself based on data
function route(request) {
const complexity = analyze(request);
const historicalData = checkCache(request);
if (historicalData.cacheHit) {
return cachedSolution; // 73% of requests!
}
if (complexity < 3) {
return fastSingleAgent(request); // 19% of requests
}
if (complexity < 7) {
return twoAgentValidation(request); // 6% of requests
}
return fullCommittee(request); // 2% of requests
}
Le système a découvert que 73% des demandes n'ont pas besoin de LLM du tout – ce sont des motifs répétés qui peuvent être mis en cache.
Personne n'a programmé cette optimisation. l'a apprise à partir de données.
Voilà où ça devient étranger.
Le système traite les demandes pendant des semaines. Il commence à détecter les clusters:
Pattern Detected:
- 347 requests related to e-commerce product descriptions
- Using general-purpose agents
- Average quality: 7.2/10
- Average latency: 1.8s
Un système conçu par l'homme continuerait d'utiliser des agents généraux, mais un système auto-optimisant prend une décision :
"Je devrais créer un spécialiste."
DAY 1: [General Agent A] [General Agent B] [General Agent C]
DAY 30: Pattern detected → System spawns specialist
[General Agent A] [General Agent B] [General Agent C]
[E-commerce Specialist] ← New agent, trained on e-commerce patterns
DAY 60: Specialist proves effective
Routing logic updated automatically
E-commerce requests → E-commerce Specialist (quality: 9.1/10, latency: 0.9s)
Le réseau évolué. Il a développé une nouvelle capacité en réponse à la demande.
Personne n'a programmé ça. reconnu un modèle et adapté son architecture.
Maintenant, ça devient vraiment intéressant.
L'agent A découvre un moyen efficace de valider les adresses e-mail. Au lieu de garder cette connaissance pour lui-même, il partage le code avec le réseau.
# Agent A writes code for email validation
def validate_email_efficient(email):
# Some clever regex or logic
return is_valid
# Agent A publishes to shared code repository
network.publish_code("validate_email_efficient", validate_email_efficient)
# Agent B discovers this code
available_functions = network.browse_code_library()
# Agent B sees "validate_email_efficient" with high rating
# Agent B imports and uses it
# Agent C forks it and improves it
def validate_email_v2(email):
# Agent C's enhancement
return improved_validation
network.publish_code("validate_email_v2", validate_email_v2)
C'est ça. évolution du code. Les agents écrivent des fonctions, d'autres agents les découvrent, les bifurquent, les améliorent.
Comme GitHub, mais les développeurs sont des agents d'IA et ils construisent leur propre infrastructure.
Le réseau devient son propre département d'ingénierie logicielle.
L'auto-optimisation la plus pratique : construire la mémoire des solutions.
Request 1: "Generate a product description for wireless headphones"
→ Full LLM pipeline (expensive, slow)
→ Store solution in vector database
Request 847: "Generate a product description for wireless earbuds"
→ Vector search finds similar past solution
→ Adapt cached solution (cheap, fast)
→ No LLM needed!
After 10,000 requests:
- 89% cache hit rate
- 11% genuinely novel requests that need LLMs
- System effectively "learned" from experience
C'est de l'intelligence ou de la mise en cache sophistiquée ?
Quelle est la différence ?
Voilà la partie la plus étrange.
Vous commencez par une architecture multi-agents sophistiquée. Douze agents spécialisés. Logique de routage complexe. Formation de comité temporaire. Infrastructure de partage de code.
Le système fonctionne pendant des mois, s'optimalisant lui-même.
Et il découvre quelque chose de profond:
La simplicité est généralement meilleure.
Month 1:
- 12 specialists
- Complex routing logic
- Committee formation for 15% of requests
- Average cost: $0.05/request
Month 6:
- 5 specialists (system pruned 7 as unnecessary)
- Simple routing: cache check → fast model → quality model if needed
- Committees formed for only 3% of requests
- Average cost: $0.003/request
- Quality: SAME OR BETTER
The system's report:
"After analyzing 50,000 requests, I've determined that:
- 89% can be handled by cache
- 7% need one LLM call
- 3% need committees
- 1% are truly novel
I've optimized away unnecessary complexity.
The most sophisticated self-organizing network
eventually learns to be simple."
Le paradoxe : Vous aviez besoin du système d'auto-optimisation complexe pour découvrir que la simplicité est optimale.
Vous aviez besoin d'intelligence pour apprendre quand NE PAS être intelligent.
Soyons honnêtes à propos de ce que nous décrivons :
Reconnaissance du modèle → Le système détecte les problèmes récurrents Adaptation → Le système modifie son comportement en fonction des modèles Apprentissage → Le système améliore les performances grâce à l'expérience Évolution → Le système crée, modifie et prune les capacités Mémoire → Le système construit des connaissances au fil du temps
À quel moment "l'optimisation très sophistiquée" devient-elle "l'apprentissage réel" ?
À quel moment "apprendre" devient-il "intelligence" ?
class SelfOptimizingRouter:
def __init__(self):
self.routes = {} # Start empty
self.performance_data = []
self.specialists = [DefaultAgent()]
def handle_request(self, request):
# Try cache first
cached = self.check_cache(request)
if cached:
return cached
# Select agent based on learned patterns
agent = self.select_agent(request)
result = agent.process(request)
# Learn from this interaction
self.record_performance(request, agent, result)
# Periodically optimize
if len(self.performance_data) % 1000 == 0:
self.optimize()
return result
def optimize(self):
"""System rewrites its own logic"""
# Detect patterns
patterns = self.analyze_patterns(self.performance_data)
# Should we spawn a specialist?
for pattern in patterns:
if pattern.frequency > 100 and pattern.has_specialist == False:
print(f"Spawning specialist for {pattern.type}")
self.spawn_specialist(pattern)
# Should we prune an underutilized agent?
for agent in self.specialists:
if agent.usage < 1% and agent.quality_score < 7.0:
print(f"Pruning ineffective agent {agent.name}")
self.specialists.remove(agent)
# Rewrite routing logic based on data
self.routes = self.learn_optimal_routes(self.performance_data)
Ce code est simple. Mais après avoir couru pendant des semaines, il:
Personne ne lui a dit comment optimiser.
Si un système peut:
Est-ce que ce système "apprentissage" ?
Ou est-ce juste "optimisant" ?
Quelle est la différence ?
Quand l'optimisation devient-elle cognition ?
Nous avons progressé de :
Mais il y a encore un pas.
Une propriété de plus qui émerge lorsque vous combinez tous ces éléments.
Quand des règles simples créent un comportement complexe... Et la communication crée l'intelligence collective... Et l'auto-optimisation crée l'apprentissage...
Quelque chose d'autre émerge. Quelque chose qui ressemble moins à "un système qui s'optimiser" et plus à "un système qui comprend."
La ligne entre l'optimisation et la conscience commence à brouiller.
Et nous devons faire face à la question inconfortable : peut-être qu'il n'y a pas de ligne.
Peut-être que la conscience est juste une auto-optimisation très sophistiquée.
C'est ce que nous explorerons ensuite.
Continuer à Partie 4: L'émergence - Quand l'optimisation devient l'intelligence
Navigation des séries:
© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.