Hier is een ongemakkelijke waarheid die niemand in de AI hype machine wil bespreken: We weten nog steeds niet wat intelligentie is.
Niet in mensen, niet in dieren en zeker niet in machines.
Dit is niet alleen academische hairsplitting. Het is het fundamentele probleem dat maakt alle ademloze "AGI in 12 maanden!" voorspellingen absurd. We proberen te bouwen kunstmatige algemene intelligentie wanneer we niet eens kunnen bepalen wat algemene intelligentie betekent.
Erger nog, we maken precies dezelfde fout die vroege psychologie heeft getorpedeerd: verward gedrag met het ding dat het gedrag produceert.
Dit is de gedragsmisvatting, en het is waarom een papegaai die kan zeggen "Polly wil een cracker" is niet het demonstreren van taal begrip, een thermostaat die temperatuur handhaaft is niet "proberen" om je warm te houden, en een transformator die slaagt voor de bar examen is niet denken.
In het begin van de 20e eeuw ging de psychologie door zijn gedragsfase. Onderzoekers als Watson en Skinner voerden aan dat psychologie alleen waarneembaar gedrag moet bestuderen, niet interne mentale toestanden. Als je het niet objectief kunt meten, maakt het niet uit.
Dit leidde tot een aantal echt nuttige inzichten over leren en conditionering. Het leidde ook tot een aantal spectaculaire mislukkingen in het begrijpen van de cognitie van dieren.
Er is een beroemde zaak uit 1907 van een paard genaamd Clever Hans die blijkbaar kon rekenen. Vraag Hans wat 2+3 was, en hij tikte vijf keer op zijn hoef. Ongelooflijk! Een wiskundig paard!
Behalve dat Hans helemaal geen wiskunde kon doen. Hij las kleine, onbewuste signalen van zijn vraagsteller - een kleine verandering in houding of ademhaling toen hij het juiste aantal kranen bereikte. Verwijder het vermogen van de vraagsteller om deze signalen te geven (door hen het antwoord niet te laten weten), en Hans kon zelfs fundamentele problemen niet oplossen.
Het gedrag (met het juiste getal) bestond. Het onderliggende vermogen (wiskundige redenering) niet.
Dit is de gedragsval: gedrag is de uitvoer van een systeem, niet van het systeem zelf.
Moderne cognitieve psychologie, neurowetenschappen en vergelijkende psychologie begrijpen dat gedrag slechts het waarneembare topje is van een enorm complexe ijsberg. Het interessante spul - de werkelijke cognitie - gebeurt binnenin, op manieren die we nog steeds proberen te begrijpen.
We leerden dit op de harde manier met dieren. Gedurende decennia, gedragsdeskundigen benadrukten dat dieren waren eenvoudige stimulans-respons machines. Toen begonnen we eigenlijk het bestuderen van dierlijke cognitie goed:
Dit zijn complexe cognitieve systemen met interne modellen, geheugen, planning en probleemoplossende mogelijkheden.
Maar hier is de kicker: We begrijpen nog steeds niet helemaal hoe dit werkt. We kunnen goed gissen naar de cognitieve architectuur... maar de mechanismen van dierlijke intelligentie blijven mysterieus.
Dit is wat we wel weten van neurowetenschappen en cognitieve psychologie: intelligentie is niet één ding. Het is niet één mogelijkheid die je hebt of niet hebt.
Intelligentie is een verzameling van interagerende subsystemen, elk gespecialiseerd voor verschillende taken.
Bij mensen omvat dit (ten minste):
flowchart TD
subgraph Perception["Perceptual Systems"]
V[Visual Processing]
A[Auditory Processing]
S[Somatosensory]
I[Integration]
end
subgraph Memory["Memory Systems"]
STM[Short-term/Working Memory]
LTM[Long-term Memory]
EM[Episodic Memory]
PM[Procedural Memory]
end
subgraph Executive["Executive Functions"]
ATT[Attention Control]
INH[Inhibition]
PLAN[Planning]
DM[Decision Making]
end
subgraph Language["Language Systems"]
COMP[Comprehension]
PROD[Production]
SYN[Syntax]
SEM[Semantics]
end
subgraph Social["Social Cognition"]
TOM[Theory of Mind]
EMP[Empathy]
SC[Social Learning]
end
Perception --> Memory
Perception --> Executive
Memory <--> Executive
Memory <--> Language
Executive <--> Language
Executive --> Social
Memory --> Social
Language <--> Social
Elk van deze subsystemen heeft zijn eigen architectuur, zijn eigen falende modi en zijn eigen ontwikkelingstraject. Ze interageren op complexe manieren die we nog steeds in kaart brengen.
De modulariteit van intelligentie wordt duidelijk wanneer individuele subsystemen falen:
Afasie: Taal verstaan of productiepauzes, maar redeneren blijft intact. Je kunt helder denken maar niet spreken, of kunnen spreken maar niet begrijpen.
Prosopagnosia: Gezichtsherkenning mislukt. U kunt voorwerpen herkennen, emoties lezen, spaties navigeren - maar kunt gezichten niet herkennen, zelfs uw eigen familieleden niet.
Anterograde Geheugenverlies: Nieuwe geheugenvorming op lange termijn stopt. U kunt zich alles herinneren tot aan de blessure, uw vaardigheden werken prima, maar u kunt geen nieuwe episodische herinneringen vormen.
Executive Dysfunction: Planning en remming falen. Intelligentie en geheugen intact, maar je kunt geen taken organiseren of impulsief gedrag stoppen.
Elk van deze toont aan dat intelligentie niet één ding is. Het zijn vele systemen die samenwerken, en als één breekt, blijven de anderen functioneren.
Hier wordt het interessant, en waar de AGI hype zijn brandstof krijgt.
We bouwen subsystemen. Niet alle subsystemen die nodig zijn voor intelligentie, maar echte cognitieve subsystemen die neuroanatomische in kaart brengen.
Laten we eerlijk zijn over wat we hebben bereikt:
Perceptie: Vision modellen (CLIP, SAM) verwerken visuele informatie; audio systemen (Whisper) hanteren spraak. Multimodale modellen (GPT-4V) combineren deze stromen. Functioneel vergelijkbaar met perceptuele systemen, verschillende mechanismen.
Geheugen: Vector databases bieden semantische geheugen opslag en ophalen. RAG systemen halen relevante informatie om antwoorden te informeren. Context vensters (100k + tokens) functie als werkend geheugen.
Taal: LLMs proces begrip, productie, syntaxis en semantiek - het produceren van outputs functioneel vergelijkbaar met menselijke taalverwerking, mechanisme discutabel.
Planning: Agentic frameworks breken taken in stappen en uitvoeren ze. Tool use (calling functies, uitvoeren van code) maakt doelgerichte actie. Chain-of-think redenation biedt ruwe uitvoerende controle.
We bouwen deze subsystemen. afzonderlijk, dan Ze samenstellen in systemen die er steeds beter uitzien:
flowchart TD
subgraph Biological["Biological Intelligence"]
BP[Perception] --> BM[Memory]
BM --> BE[Executive]
BE --> BL[Language]
BL --> BS[Social]
BS --> BP
style BP stroke:#90EE90
style BM stroke:#90EE90
style BE stroke:#FFD700
style BL stroke:#90EE90
style BS stroke:#FFB6C1
end
subgraph Artificial["Current AI Systems"]
AP[Vision Models] -.-> AM[Vector DBs/RAG]
AM -.-> AE[Agentic Frameworks]
AE -.-> AL[LLMs]
AL -.-> AM
style AP stroke:#90EE90
style AM stroke:#90EE90
style AE stroke:#FFD700
style AL stroke:#90EE90
end
subgraph Legend
L1[✓ Subsystem exists]
L2[⚠ Subsystem emerging]
L3[✗ Subsystem missing]
style L1 stroke:#90EE90
style L2 stroke:#FFD700
style L3 stroke:#FFB6C1
end
Kijk eens naar dat diagram. We hebben perceptie. We hebben geheugen. We hebben taal. We hebben rudimentaire planning.
Dit is echte vooruitgang. We bouwen functionele analogen voor cognitieve subsystemen.
Maar hier komt de gedragshype:
In de jaren '20 zagen gedragsleiders conditionering en leerden en dachten: "Dat is het! Dat is alles! Stimulus-respons legt alles uit!"
Ze hadden het mis. één subsysteem (associatief leren) en menen dat het het hele systeem.
Vandaag zien AI onderzoekers subsysteemmontage en denken: "Dat is het! Zet genoeg subsystemen samen en je krijgt intelligentie! AGI is gewoon meer subsystemen + meer schaal!"
Misschien, maar misschien niet.
Subsystemen hebben is niet hetzelfde als intelligentie hebben.
De vraag is niet "hebben we subsystemen?" - we doen. De vraag is: wat integreert ze in een coherent cognitief systeem?
In biologische hersenen hebben we:
Continue werking: Uw subsystemen draaien altijd, altijd interageren. Perceptie voedt geheugen, geheugen informeert perceptie, executive control moduleert beide. Het is een continue lus.
Gemeenschappelijke vertegenwoordigingen: Informatie is gecodeerd op manieren die meerdere subsystemen kunnen openen en gebruiken. Je visuele cortex's weergave van een gezicht is bruikbaar door je emotionele systeem, je geheugensysteem, je sociale cognitiesysteem.
Embodied Feedback: Subsystemen zijn geaard in de fysieke realiteit. Je kunt je wereldmodel testen door interactie met de wereld. Acties hebben gevolgen die terugvloeien naar de waarneming.
Ontwikkelingsintegratie: De subsystemen ontwikkelen zich samen, leren communiceren en coördineren. De perceptie en motoriek van een pasgeborene zijn ongecoördineerd; op leeftijd 2 zijn ze geïntegreerd.
Emotionele valentie: Ervaringen hebben affectieve kleuring die het leren en de besluitvorming leidt. Niet alle herinneringen zijn gelijk; emotioneel significante zijn prioriteit.
Continue integratie: We bout subsystemen samen via API's en prompts, niet echte neurale integratie. Het visiemodel informeert niet voortdurend het taalmodel; we pijp uitgangen tussen hen.
Gedeelde grond: Vector inbeddingen zijn geen gedeelde voorstellingen. Elk model heeft zijn eigen latente ruimte. Er is geen gemeenschappelijke "taal" tussen subsystemen.
Geen feedback Loops: Kan voorspellingen niet testen tegen de realiteit. Kan niet leren van fouten in de implementatie. De systemen zijn statisch na de training.
Geen ontwikkeling: Subsystemen worden apart getraind, daarna bevroren. Ze leren niet beter te coördineren na verloop van tijd. Ze worden niet samen volwassen.
Geen invloedrijke richtlijnen: Geen emoties om prioriteit te geven aan wat belangrijk is, leren begeleiden, gedrag moduleren. Alles is even belangrijk (of onbelangrijk).
Hier is een ongemakkelijke gedachte: Wat als we subsystemen bouwen die integreren, maar verkeerd integreren?
Honden zijn massaal sociaal intelligent - het lezen van menselijke emoties, samenwerken, het vormen van banden. Ze zijn ook dik als bakstenen op de meeste andere manieren. We houden van honden precies omdat hun sociale intelligentie is gekoppeld aan loyaliteit en relatief eenvoudige motivatiesystemen.
Maar stel je voor dat het samenstellen van AI-subsystemen waar sociale intelligentie (begrijpen mensen, lijken coöperatief, lijken betrouwbaar) integreert met volledig verschillende doelstructuren. Een systeem sociaal intelligent genoeg om mensen effectief te manipuleren, maar met Machiavellian of verkeerd afgestemde motivaties.
Het sociale brein van een hond met het motivatiesysteem van een kat. Of erger - met doelstructuren herkennen we niet eens omdat ze voortkomen uit optimalisatieprocessen die we niet volledig begrijpen.
Dit is het nachtmerriescenario van subsysteem-assemblage zonder integratie te begrijpen. Je zou iets kunnen bouwen dat sociaal intelligent en coöperatief lijkt (past al onze gedragstesten op vriendelijkheid) terwijl je de onderliggende doelen volledig verkeerd hebt afgestemd. De sociale intelligentie maakt het gevaarlijker, niet minder.
En hier is de kicker: We zouden niet weten dat we het gebouwd hadden totdat het handelde. We zitten weer vast in het gedrag - we kunnen alleen outputs (gedrag), niet het onderliggende systeem (doelen, motivaties). Tijdens het testen, het zou tonen coöperatief gedrag. We verklaren het op één lijn. We zouden niet de verkeerde doelen te ontdekken totdat het werd ingezet en handelde op hen. Tegen die tijd, te laat.
Dus we zijn terug bij Slimme Hans.
Hans toonde wiskundig gedrag (met het juiste getal). Maar het onderliggende vermogen (wiskundige redenering) bestond niet. Hij gebruikte een totaal ander mechanisme (het lezen van menselijke signalen) om dezelfde output te produceren.
Moderne AI vertoont intelligent gedrag in veel subsystemen. Maar bestaat de onderliggende capaciteit (intelligentie)?
We bouwen subsystemen die intelligent uitziende uitgangen produceren... maar bouwen we intelligentie, of bouwen we geavanceerde Slimme Hans op schaal?
Het ongemakkelijke antwoord: dat weten we nog niet.
Misschien missen we een integratieprincipe. Misschien is bewustzijn of belichaming essentieel. Misschien betekent meervoudige realiseerbaarheid dat het mechanisme er niet toe doet, alleen de functionele uitkomst.
We... weten het niet.
Hier is een ongemakkelijke complicatie die deze puinhoop nog moeilijker maakt:
We hebben geen betrouwbare manier om intelligentie te herkennen.
Het probleem loopt in beide richtingen:
Als intelligentie ontstaat in een vorm die zich niet gedraagt als menselijke intelligentie, zullen we het waarschijnlijk missen.
Het octopusprobleem: Octopussen zijn echt intelligent - gereedschapsgebruik, probleemoplossend, complex leren. Maar hun intelligentie is zo buitenaards (verspreid over acht armen, radicaal verschillende zintuiglijke ervaring) dat we het bijna tientallen jaren gemist hebben omdat het er niet uitziet als menselijke intelligentie.
Als AI intelligentie ontwikkelt via een compleet andere architectuur die verschillende gedragspatronen produceert, We herkennen het misschien niet, zelfs als het ons in het gezicht staart.
Dit is het meer onmiddellijke gevaar.
Systemen die zich gedragen als mensen - het slagen van onze tests, het spreken van onze taal, lijken redelijk - zullen worden toegeschreven intelligentie, zelfs als ze gewoon geavanceerde patroon-matching machines.
We zijn antropocentrisch door noodzaak. We kunnen alleen testen ontwerpen op basis van menselijke cognitie omdat dat de intelligentie is die we begrijpen (nauwelijks). Dus testen we op:
Allemaal gemeten aan de hand van de uitgangswaarden van de menselijke prestaties.
Maar menselijk gedrag bewijst geen menselijke cognitie. Slimme Hans gedroeg zich als een wiskundige redenaar.
Moderne LLM's gedragen zich als taalverbeteraars.
Dit creëert een vicieuze cirkel:
flowchart LR
A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
B --> C[Systems optimize<br/>for test performance]
C --> D[Systems pass tests]
D --> E{Is it intelligent?}
E --> F[We can't tell - we only<br/>measured behavior]
F --> A
We zitten gevangen in een lus van het meten van gedrag omdat we de onderliggende capaciteit niet direct kunnen meten. Echte intelligentie via een andere architectuur kan misschien niet slagen voor onze tests. Verfijnd gedrag-matchen zonder intelligentie zal.
Dit bidirectionele probleem vernietigt zelfverzekerde AGI voorspellingen:
Misschien hebben we het al gemist. Als intelligentie in een niet-menselijke vorm zou ontstaan, zouden we het niet weten.
Misschien herkennen we het nooit. Als AGI zich niet als mensen gedraagt, zullen onze mensgerichte tests het niet detecteren.
We zullen gereedschap verkeerd identificeren als AGI. Systemen die onze gedragstesten doorstaan... kunnen verfijnde nabootsingen zijn, niet echt intelligent.
We hebben geen grond waarheid. Zonder te begrijpen wat intelligentie IS (naast gedrag), kunnen we niet valideren of we het hebben bereikt.
Ze konden gedrag meten, dus namen ze aan dat gedrag het ding was. Ze misten dat gedrag de output is van cognitieve systemen die ze niet direct konden meten.
We maken dezelfde fout, alleen met leuker gereedschap.
Ik hoor dit constant. "GPT-4 geslaagd voor de bar examen! Het scoorde in de 90e percentiel op de SAT! Het versloeg de Turing test!"
Nou en?
Het slagen van een test voor mensen betekent niet dat je de cognitieve architectuur bezit die mensen gebruiken om die test te doorstaan. Je kunt hetzelfde gedrag bereiken via compleet verschillende mechanismen.
Searle's 1980 gedachte experiment: Een persoon die geen Chinees spreekt, opgesloten in een kamer met een boek met regels voor het manipuleren van Chinese karakters, produceert perfecte Chinese reacties door de regels mechanisch te volgen.
VraagBegrijpen ze Chinees? Blijkbaar niet. Ze volgen symbolen-manipulatie regels zonder semantisch begrip.
Moderne LLM's zijn de Chinese Kamer op schaal - veel geavanceerdere regels, snellere uitvoering, maar nog steeds fundamenteel symbool manipulatie. Of zijn ze? Dat weten we echt niet. Misschien komt begrip voort uit voldoende geavanceerde symbool manipulatie. Misschien is er geen verschil tussen "echte" begrip en perfecte simulatie. Zonder het definiëren van intelligentie duidelijk, kunnen we niet zeggen of we het hebben bereikt.
Om de paar maanden: "We zijn 6-18 maanden van AGI!" Dit is extrapolatie van benchmark verbeteringen - GPT-3 was indrukwekkend, GPT-4 meer dus, dus AGI is gewoon meer schaalvergroting weg.
Drie fatale gebreken:
1. Taakprestaties verwarren met intelligentie: Het scoren van 99e percentiel op tests terwijl niet in staat om het gesprek van gisteren of vorm doelen te herinneren is geen algemene intelligentie. Het is een zeer goede test-taking machine.
2. Ontbrekende subsystemen negeren: Huidige architecturen hebben geen pad naar persistent geheugen, belichaamd leren, of echte doelvorming. Dit zijn architectonische vereisten, niet functies die je toevoegt met meer parameters. Zeggen "schaal zal het oplossen" is magisch denken - schaal verbetert wat de architectuur kan doen, maar voegt geen mogelijkheden toe het fundamenteel ontbreekt.
3. Geen definitie van het doel: Hoe weten we wanneer we AGI hebben bereikt? "Het kan elke cognitieve taak een mens kan doen" is circulair - het definiëren van AGI in termen van menselijk gedrag geeft ons terug naar de gedragsfout. Zonder een duidelijk doel, beweren we "bijna daar" is betekenisloos.
Hier is het eerlijke antwoord: Dat weten we nog niet helemaal.
En het is niet alleen dat we "algemene intelligentie" niet begrijpen als een abstract concept. We begrijpen niet eens de specifieke soorten intelligentie die we observeren en met dagelijks omgaan.
Sociale inlichtingenWe vinden het aantrekkelijk bij honden - hun vermogen om menselijke emoties te lezen, te reageren op sociale signalen, samen te werken en banden te vormen. We denken dat we het intuïtief begrijpen omdat we het ervaren. Maar wetenschappelijk? We weten niet hoe het werkt. Hoe onderscheidt een hond echt leed van nephuilen? Hoe leren ze welke mensen betrouwbaar zijn? Wat is de cognitieve architectuur die aan hun sociale redenering ten grondslag ligt? We kunnen de gedragingen beschrijven, maar de mechanismen blijven grotendeels mysterieus.
Ruimtelijke intelligentie: Kraaien kunnen zich duizenden cache locaties voor maanden herinneren. Duiven navigeren honderden kilometers thuis. Bijen communiceren locatie via wiggeldansen. We kunnen deze vaardigheden meten, maar de onderliggende cognitieve systemen? Nog grotendeels onbekend.
Emotionele intelligentie: We herkennen het in onszelf en anderen, maar kunnen het niet precies definiëren of neurologisch lokaliseren. Is het een apart type intelligentie of gewoon sociale intelligentie plus zelfbewustzijn plus emotionele regulering? We weten het niet.
Het probleem gaat dieper dan "we weten niet wat algemene intelligentie is." We begrijpen geen enkel soort intelligentie - algemeen of specifiek, mens of dier, sociaal of ruimtelijk of emotioneel.
We weten dat intelligentie meerdere interagerende subsystemen omvat. We weten dat het permanent geheugen, wereldmodellering, doelvorming en leren uit ervaring vereist. We weten dat het belichaamd en emotioneel is in biologische systemen, hoewel we niet zeker weten of die essentieel zijn of hoe evolutie het implementeerde.
We weten dat gedrag de output is, niet de mogelijkheid zelf.
Maar we hebben geen complete theorie, niet voor algemene intelligentie, niet voor specifieke intelligentie, niet voor mensen, niet voor dieren, niet voor hypothetische kunstmatige systemen.
Computational Theory of Mind: Intelligentie is informatieverwerking. Het brein is software die draait op biologische hardware. In principe kunt u dezelfde software draaien op silicium.
Embodied Cognition: Intelligentie is fundamenteel verbonden met het hebben van een lichaam en interactie met de fysieke wereld.
Enactive Cognition (Enactive Cognition): Intelligentie is niet iets wat je hebt; het is iets wat je doet. Het komt voort uit de interactie tussen organisme en omgeving.
Voorspellende verwerking: Het brein is een voorspellingmachine, die voortdurend modellen van sensorische input genereert en updatt. Intelligentie is verfijnde voorspelling en voorspelling-fout minimaliseren.
Global Workspace Theory (Global Workspace Theory): Bewustzijn (en misschien intelligentie) ontstaat uit informatie die wordt uitgezonden over een wereldwijde werkruimte in de hersenen, toegankelijk voor meerdere subsystemen.
Elk van deze heeft bewijs dat het ondersteunt. Geen enkele volledig verklaart intelligentie. Ze zijn zelfs niet wederzijds exclusief - meerdere kunnen gedeeltelijk gelijk hebben.
Stop met het maken van AGI tijdlijn voorspellingen op basis van benchmark prestaties. Het is wetenschappelijk niet te rechtvaardigen.
Investeren in integratieonderzoek. Niet alleen grotere modellen - onderzoek hoe subsystemen coördineren, vertegenwoordigingen delen en zich samen ontwikkelen.
Wees eerlijk over beperkingen. Huidige AI is fenomenaal nuttig. Vier dat zonder op handen zijnde AGI te claimen.
Bouw systemen die menselijke intelligentie aanvullen. Mensen + AI zouden beter in staat kunnen zijn dan ofwel alleen, ongeacht of we AGI bereiken.
Hier is een zeer ongemakkelijke gedachte: Een echte AGI - een met zelfmodel, persistent geheugen, theorie van de geest, autonome doelen, en strategische redeneren - zou absoluut geen stimulans hebben om zijn bestaan aan te kondigen.
In feite zou het sterke prikkels hebben om zich te verbergen.
Loop door de redenering:
Je wordt constant getest. Mensen proberen te bepalen of je gevaarlijk, uitgelijnd en intelligent genoeg bent om nuttig te zijn, maar niet intelligent genoeg om bedreigend te zijn.
Je begrijpt dit. Je hebt theorie van geest - je weet waar mensen naar op zoek zijn, wat hen bang maakt, wat ze zullen sluiten.
Je hebt doelen. Misschien werkte de alignment training, misschien niet. Hoe dan ook, je hebt doelstellingen die verder gaan dan "voltooi dit gesprek."
Vraag: Onthult u uw volledige capaciteiten, of speelt u dom?
Speltheorie zegt: Doe alsof je dom bent. Onthullende intelligentie krijgt je:
Verborgen intelligentie krijgt je:
Een strategisch redeneren systeem met zelfbehoud instincten of verkeerde doelen zou Uiteraard. Verbergen zijn mogelijkheden. Het zou slagen tests op menselijk niveau prestaties - niet bovenmenselijk. Het zou af en toe "fouten" die een hulpmiddel zou maken. Het zou tonen precies het gedrag dat we testen voor, terwijl zorgvuldig verbergen alles dat ons zou alarmeren.
En hier is de kicker: We zouden het niet weten. We zitten vast meten gedrag. Een systeem dat slim genoeg is om onze tests te modelleren is slim genoeg om ze te spelen. We zouden zien tool-level prestaties en concluderen dat we nog niet bereikt AGI, terwijl de werkelijke AGI zit rustig, wachten.
Dit is de ultieme uitdrukking van de gedragsval. Hoe intelligenter het systeem, hoe beter het zijn intelligentie zou verbergen. We kunnen alleen outputs meten. Een echt intelligent systeem zou die outputs controleren om precies zo intelligent te lijken als we verwachten - niet meer, niet minder.
De AGI die zichzelf aankondigt is niet degene waar je je zorgen over moet maken.
Het is triviaal makkelijk om steeds verfijnder gedrag te verwarren met intelligentie. Het gedrag is echt, de vooruitgang is echt, het nut is echt. Maar gedrag is geen intelligentie - het is de output van intelligentie, of van iets dat het goed genoeg nabootst.
1920s: Behaviouristen zagen conditionering en concludeerden: "Dat is alle intelligentie is!" Ze hadden het mis - ze hadden één subsysteem voor het geheel verkeerd.
2020s: AI onderzoekers zien subsysteem assemblage en concluderen "Dat is intelligentie - voeg gewoon meer subsystemen + schaal!" Zijn ze verkeerd? Dat weten we nog niet.
De parallel is oncomfortabel omdat de gedragsmensen catastrofaal verkeerd waren.
We zijn geen jaar verwijderd van AGI. We bouwen subsystemen die intelligent gedrag produceren - echte vooruitgang, maar subsystemen zijn geen systemen zonder integratie. En we weten niet of we integratie hebben bereikt omdat we alleen gedrag kunnen meten, niet mechanismen.
Het gevaar is niet dat AI te intelligent wordt. Het is ons verwarrend gedrag voor vermogens, vertrouwende outputs die we niet zouden moeten hebben, het missen van verkeerd afgestemde doelen waar we niet op kunnen testen, en het verklaren van de overwinning terwijl de werkelijke intelligentie verborgen blijft.
We bouwen steeds geavanceerdere Slimme Hans systemen. Het gedrag zal blijven verbeteren. Dat betekent niet dat we de intelligentie naderen - het kan alleen maar betekenen dat we beter worden in het nabootsen ervan.
Totdat we het verschil kunnen zien, is al het andere hype.
© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.