Introduction

C’est là une vérité incommode que personne dans la machine d’hype de l’AI ne veut discuter. Nous ne savons toujours pas ce que l’intelligence est en réalité.

Pas chez les humains, pas chez les animaux et certainement pas dans les machines.

C’est le problème fondamental qui rend absurdes toutes les prédictions absurdes de l’AGI au cours des mois suivants. Nous tenons à bâtir une intelligence générale artificielle alors que nous ne pouvons pas définir ce que signifie l’intelligence générale.

Peu pire, nous faisons exactement le même blâme que la psychologie précoce. confondre le comportement avec la chose qui produit le comportement.

C’est la fausse approche comportementale, , et c’est pourquoi un papillon qui peut dire : « Polly veut un cracker » n’est pas ' ne démontre pas sa compréhension linguistique; , est un thermostat qui maintient la température; ' n’a rien à voir avec " s’efforce de vous garder chauds;, est un transformateur qui réussit l’examen de barre;

L’erreur comportementale (Ce que nous répétons ')

Au début du XXe siècle, la psychologie a connu sa phase comportementiste. Des chercheurs comme Watson et Skinner ont soutenu que la psychologue ne devrait étudier que le comportement observable, mais non les états mentales internes.

Cela a donné lieu à quelques idées vraiment utiles sur l’apprentissage et la conditionnement.

Le modèle classique: Clever Hans

Il y a un cas connu de 1907 d’un cheval appelé Clever Hans qui pouvait apparemment faire l’arithmetique.

À l’exception de Hans qui n’avait pas pu faire les mathématiques, . Il lit des signes inconscients minuscules de son interlocuteur, MSC2, un léger changement d’ posture ou de respiration lorsqu’il atteint le nombre correct de robinets.

Le comportement (tapping the correct number) existeM SK2 La capacité sous-jacente (mathematical reasoningMST4 did notMSV5

Il s’agit de la trappe comportementiste:. Résultats d’un système, non le système lui-même.

La psychologie moderne se déplace (AI Hasn'tM SK2

La psychologie cognitive moderne, la neuroscience et la psychologie comparative comprennent que le comportement n’est qu’une pointe observable d’un iceberg extrêmement complexe.

Nous l’avons appris de la manière difficile avec les animaux. Depuis des décennies, les comportementistes ont insisté sur le fait que les animaux étaient un simple stimulus.

• Les chevaux Utiliser des outils, résoudre les problèmes de plusieurs étapesM SK1 et garder le ressentiment pendant des années
• Octopus ont distribué l’intelligence sur leurs bras (chacun de ces bras a son propre cerveau "brain
• Elephants Reconnaissent-ils eux-mêmes dans les miroirs et mournent leurs morts
• Dolphins d’avoir des noms individuels (histles de signatureM SK1 et transmission culturelle du savoir

Aucune de ces mesures n’est un simple stimulus.

Mais ici, c’est le kicker, : Nous ne comprenons toujours pas pleinement comment tout cela fonctionne. Nous pouvons observer le comportement, mais les mécanismes réels de l’intelligence animale restent en grande partie mystérés.

Intelligence: Collection de sous-systèmes

Voici ce que nous savons des neurosciences et de la psychologie cognitive. L’intelligence n’est pas une seule chose.

L’intelligence est une collection de sous-systèmes interactifs, chacun spécialisé dans des tâches différentes.

Chez les humains,, cela inclut (au minimumM SK2

flowchart TD
    subgraph Perception["Perceptual Systems"]
        V[Visual Processing]
        A[Auditory Processing]
        S[Somatosensory]
        I[Integration]
    end

    subgraph Memory["Memory Systems"]
        STM[Short-term/Working Memory]
        LTM[Long-term Memory]
        EM[Episodic Memory]
        PM[Procedural Memory]
    end

    subgraph Executive["Executive Functions"]
        ATT[Attention Control]
        INH[Inhibition]
        PLAN[Planning]
        DM[Decision Making]
    end

    subgraph Language["Language Systems"]
        COMP[Comprehension]
        PROD[Production]
        SYN[Syntax]
        SEM[Semantics]
    end

    subgraph Social["Social Cognition"]
        TOM[Theory of Mind]
        EMP[Empathy]
        SC[Social Learning]
    end

    Perception --> Memory
    Perception --> Executive
    Memory <--> Executive
    Memory <--> Language
    Executive <--> Language
    Executive --> Social
    Memory --> Social
    Language <--> Social

Chacun de ces sous-systèmes a sa propre architecture, ses propres modes de défaillance , et sa propre trajectoire de développement M SK2 Ils interagissent de façon complexe que nous ' nous sommes toujours en train d’établir une carte

Quand les sous-systèmes se rompent

La modularité de l’intelligence devient évidente lorsque les sous-systèmes individuels échouent:

Aphasie: La compréhension ou la production des langues se ralentissent , mais le raisonnement demeure intactM SK2 Vous pouvez penser clairement, mais vous ne pouvez pas' ne parlez pas

Prosopagnosie: La reconnaissance des visages est insuffisanteM SK1 Vous pouvez reconnaître les objets , lire les émotions M SK3 naviguer dans l'espace - mais vous ne pouvez MSC5 reconnaître pas les visagesMST6 même vos propres membres de la famille MST7

Amnésie antérograde: Nouvelles mémoires de longue durée - la formation d’une mémoire à long terme prend finM SK2 Vous pouvez vous souvenir de tout jusqu’à l’accident, vos compétences fonctionnent bienMSC4 mais vous pouvezMST5 ne former pas de nouvelles mémoires épisodiquesMSP6

Fonctionnement exécutif: La planification et l’inhibition ont échoué . L’intelligence et la mémoire sont intactes, mais vous ne pouvez pas organiser les tâches ou arrêter le comportement impulsif.

Chacun d’entre eux démontre que l’intelligence n’est pas une seule chose, mais qu’il y a plusieurs systèmes qui travaillent ensemble.

Les sous-systèmes que nous sommes en train de construire

C’est là où les choses se font intéressantes, , et où l’hype AGI prend son carburant.

Nous construisons des sous- systèmes. Ce ne sont pas tous les sous-systèmes nécessaires à l’intelligence, mais des sous-systemes cognitifs authentiques qui traduisent (à peu près) vers ceux neuroanatomiques.

Nous devons être honnêtes quant à ce que nous avons réalisé.

Perception: Modèles de vision (CLIP, SAMM SK3 Information visuelle du processusMSC4 Systèmes d'audio (WhisperMNK6 manipuler la paroleMRK7 Modéles multimodaux (GPTMMK9VMBK10 combiner ces courantsMGK11 Functionnellement similaire aux systèmes perceptuelsMKK12 Mécanismes différentsMDK13

Mémoire: Les bases de données vectorielles fournissent un stockage et une récupération sémantiques de la mémoire . Les systèmes RAG reçoivent des informations pertinentes pour informer les réponses M SK2 fenêtres contextuelles

Langue: Compréhension du processus des LLM, productionM SK2 syntaxeMSC3 et sémantique - production de produits fonctionnelment similaires au traitement des langues humaines

Planification: Les cadres agencementaux divisent les tâches en étapes et les exécutent . Utilisation de l’outil

La partie intelligente (et le problème)

Nous sommes en train de construire ces sous-systèmes. de façon distincte, alors les composer dans des systèmes qui semblent de plus en plus capables:

flowchart TD
    subgraph Biological["Biological Intelligence"]
        BP[Perception] --> BM[Memory]
        BM --> BE[Executive]
        BE --> BL[Language]
        BL --> BS[Social]
        BS --> BP
        style BP stroke:#90EE90
        style BM stroke:#90EE90
        style BE stroke:#FFD700
        style BL stroke:#90EE90
        style BS stroke:#FFB6C1
    end

    subgraph Artificial["Current AI Systems"]
        AP[Vision Models] -.-> AM[Vector DBs/RAG]
        AM -.-> AE[Agentic Frameworks]
        AE -.-> AL[LLMs]
        AL -.-> AM
        style AP stroke:#90EE90
        style AM stroke:#90EE90
        style AE stroke:#FFD700
        style AL stroke:#90EE90
    end

    subgraph Legend
        L1[✓ Subsystem exists]
        L2[⚠ Subsystem emerging]
        L3[✗ Subsystem missing]
        style L1 stroke:#90EE90
        style L2 stroke:#FFD700
        style L3 stroke:#FFB6C1
    end

Voir ce diagramme.

C’est un véritable progrès. Nous ne construisons rien, nous n’édons pas de sous-systèmes fonctionnels.

Le parallèle des comportements

Mais c’est là que l’hype comportementiste se manifeste.

Les comportementistes ont vu le conditionnement, l’apprentissage et la pensée dans les 1920s,.

Ils se sont trompés. un sous-système (apprentissage associatif ) et l’emportez sur l'ensemble du système.

Aujourd’hui, les chercheurs en AI voient l’assemblage de sous-systèmes et pensent :

Peut-être. Mais peut-être pas

Le problème de l’intégration (qui n’est pas résolu par personne

Avoir des sous-systèmes n’est pas le même que d’avoir une intelligence.

La question est : "Does-nous avoir des sous-systèmes ? ce qui les intégre dans un système cognitif cohérent?

Dans les cerveaux biologiques, nous avons

Opération continue: Vos sous-systèmes sont toujours en marche , ils interagissent constamment MSC2 La perception alimente la mémoire M SK3 la mémoire informe la perception , le contrôle exécutif module les deux MST5 IlMST6 est un cercle continu M ST7

Représentations partagées: L’information est codée de manière à ce que plusieurs sous-systèmes puissent y avoir accès et l’utiliser. Votre cortex visuelMSC2 la représentation d’un visage est utilisable par votre système affectifM SK3 votre système de mémoireMNK4 votre réseau de cognition socialeMRK5

Rétroaction impriméeLes sous-systèmes sont fondés sur la réalité physique.

Intégration au développement: Les sous-systèmes se développent ensemble , l’apprentissage de communiquer et de coordonner MSC2 Une nouveau-né, ' sa perception et son contrôle motorique sont incoordonnés.

Valence émotionnelle: Les expériences ont une coloration affective qui guide l’apprentissage et la prise de décisions.

Ce qui manque de l'AI actuelle

Intégration continue: Nous connectons les sous-systèmes par l’intermédiaire d’APIs et de prompts , ne constitue pas une véritable intégration neuronale . Le modèle de vision n’informe pas continuellement le modèle linguistique M SK4 nous envoyons des sorties entre eux

Terrain partagé: Les embeddings vecteurs ne sont pas 't des représentations partagéesM SK2 Chaque modèle a son propre espace latent. Il n’y a pas de ' d’intervalle commun entre les sous-systèmes

Aucune boucle de rétroactionLes systèmes sont statiques après la formation.

Aucun développement: Les sous-systèmes sont entraînés séparément , puis congelés M SK2 Ils ne s’acquittent pas de la coordination plus efficace au fil du temps.

Aucune ligne directrice affective: Aucune émotion pour établir la priorité de ce qui est important , Apprentissage guidé, Modifier le comportementM SK3 Tout est tout aussi important

Le problème "Dog with a Cat Brain "

C’est là une pensée incommode. Qu’arrive-t-il si nous construisons des sous-systèmes qui intègrent, mais ne les intégrent pas correctement?

Les chiens sont extrêmement intelligents sur le plan social - ils lisent les émotions humaines, ils collaborentM SK2 ils forment des liens . ils sont aussi épais comme des briques dans la plupart des autres domaines de la vieMSC5 Nous aimons les chiens précisément parce que leur intelligence sociale est assortie d’une loyauté et de systèmes motivationnels relativement simples.

Mais imaginez l’assemblage de sous-systèmes d’AI où l’intelligence sociale (compréhension des êtres humains ,apparaît coopérative, apparaît digne de confianceM SK3 s’intègre avec des structures de but complètement différentesMSC4 Un système suffisamment intelligent sur le plan social pour manipuler efficacement les êtres humainesMST5 mais avec des motivations Machiavelliennes ou mal alignéesM ST6

Un chien, le cerveau social d’un chat et son système de motivation Ou pire encore - avec des structures d’objectif que nous ne reconnaissons pas, ' même parce qu’elles sont issues de processus d’optimisation que nous n’en comprenons pas pleinement.

C’est le scénario du cauchemar de l’assemblage d’un sous-système sans comprendre l’intégration.

Et c’est là que se trouve le kicker, MSK: Nous ne le voudrions pas'non savoir que nous l’avions construit jusqu’à ce qu’il fasse fonctionner, 'nous n’en sommes plus dans un comportementisme, MSC3nous ne pouvons mesurer que les extrants,(le comportement,M SK7et non le système sous-jacent.

Le problème Clever Hans, révisé

Nous sommes donc de retour à Clever Hans.

Hans a exprimé un comportement mathématique (tapping the correct number). Mais la capacité sous-jacente (mathematical reasoningM SK3 did notMSC4t existMNK5 Il utilisait un mécanisme complètement différent (reading human cuesMMK7 to produce the same outputMRK8

L’AI moderne présente un comportement intelligent dans de nombreux sous-systèmes.

Nous construisons des sous-systèmes qui produisent de l’intelligence1, des extrants intéressants2 Mais sommes-nous en train d’élaborer une intelligence3 ou un Hans intelligent à grande échelle4?

La réponse incommode: nous ne le savons pas

Peut-être des sous-systèmes assemblés + à l’échelle = de l’intelligence. peut-être qu’il y ait un principe d’intégration que nous ne connaissons pas '.

Nous. DonM SK1t. Connaissance .

Le problème bidirectionnel: La disparition et l’attribution de renseignements

Il s’agit là d’une complication incommode qui rend le tout encore plus difficile.

Nous n’avons aucune façon fiable de reconnaître les renseignements.

Le problème va dans les deux directions:

Orientation 1: Nous gagnerons ' Nous ne reconnaissons pas les non-membres de l’Organisation

Si l’intelligence apparaît sous une forme qui ne se comporte pas comme l’intelligence humaine, nous l’ignorerons probablement.

Le problème de l'octopus: Les octopus sont véritablement intelligents.

Si l’AI développe une intelligence par le biais d’une architecture complètement différente produisant des modèles de comportement différents, Nous ne le reconnaissons peut-être pas, même s’il nous regarde face à face.

Orientation 2: Nous ' attribuerons l’intelligence à des outils vraiment bons

C’est le danger le plus immédiat.

Les systèmes qui se comportent comme des êtres humains - passent nos tests , parlent notre langue

Nous sommes anthropocentriques en raison de la nécessité. Nous ne pouvons que concevoir des tests fondés sur la cognition humaine parce qu’il s’agit de l’intelligence que nous comprenons.

• Fluence linguistique
• Rationalisation mathématique
• Reconnaissance visuelle
• Résolution du problème-
• Compréhension sociale

Tous mesurés en fonction des niveaux de performance humains.

Mais les comportements semblables à ceux de l’homme ne prouvent pas la cognition semblable à celle des humains. Clever Hans se comportait comme un expérimentateur mathématique.

Les LLM modernes se comportent comme des apprenants linguistiques.

Le problème de la mesure

Cela crée un cercle vicieux:

flowchart LR
    A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
    B --> C[Systems optimize<br/>for test performance]
    C --> D[Systems pass tests]
    D --> E{Is it intelligent?}
    E --> F[We can't tell - we only<br/>measured behavior]
    F --> A

Nous sommes trappés dans un cercle de mesure du comportement parce que nous ne pouvons pas mesurer directement les capacités sous-jacentes. Une intelligence authentique par une architecture différente pourrait ne pas passer nos tests. comportement sophistiqué - correspondance sans intelligence.

Pourquoi cela est important pour les revendications de l'AGI

Ce problème bidirectionnel démantele les prédictions confidentielles de l’AGI:

1. Nous l’avons peut-être déjà manquée. Si l’intelligence apparaissait sous une forme non-humane, mais semblable à celle de l’être humain, nous ne le savaions pas.

2. Nous ne le reconnaîtrons peut-être jamais. Si l’AGI ne se comporte pas comme les humains, nos tests centraux ne le détectent pas.

3. Nous ne désignerons pas les outils comme étant AGI. Les systèmes qui réussissent nos tests de comportement pourraient simplement être des imitations sophistiquées.

4. Nous n’avons aucune vérité fondée. Sans comprendre ce qu’est l’intelligence, nous ne pouvons pas valider si nous l’avons atteinte ou non.

Les behavioristes avaient le même problème : ils pouvaient mesurer les comportements. Ils supposaient donc que le comportement était la chose.

Nous faisons le même blâme avec des outils plus perfectionnés.

" Mais il passe les testsM SK1

Je l’entends constamment.

En quoi consiste-t-il ?

Passer un test conçu pour les humains ne signifie pas que vous possédez l’architecture cognitive utilisée par les êtres humains pour passer ce test.

La salle chinoise, mise à jour

Searle's 1980 expérimentation de pensée : Une personne qui ne parle pas le chinoisM SK3ne parle pas la langue chinoiseMSC4 enfermée dans une pièce avec un livre de règles pour manipuler les caractères chinoisMST5 produit des réponses chines parfaites en suivant les règles mécaniquementMSP6

Question: Est-ce qu’ils comprennent le chinois ? Bien entendu non. Ils se conforment aux règles de manipulation sans compréhension sémantique.

Les LLM modernes sont la salle chinoise à échelle. Nous ne le savons pas vraiment. Peut-être que la compréhension résulte d’une manipulation suffisamment sophistiquée des symboles.

Le cycle d'hype AGI

Tous les quelques mois: M SK1Nous're 6-18 mois à partir de l’AGIMSC4 C’est une extrapolation des améliorations de référence - GPTMST6 a été impressionnanteMNK7GPT MNK8 plus encoreMMK9 par conséquent, l’AGI n’est que plus loin d’augmenter ses échelonsMZK10

Trois défauts mortels:

1. Confuser la performance du travail avec l’intelligence: Scoring 99th percentile on tests while unable to remember yesterdayM SK2s conversation or form goals is't general intelligenceMST4 ItMSC5is a very good testM ST6taking machineM st7

2. Ignorer les sous-systèmes manquants: Les architectures actuelles n’ont pas de chemin vers la mémoire persistante , l’apprentissage embodié M SK2 ou une formation authentique d’objectifs . Il s’agit des exigences architecturales MSC4 ne sont pas des fonctionnalités que vous ajoutez avec plus de paramètres

3. Aucune définition de l’objectif: Comment pouvons-nous savoir quand nous avons atteint l’AGI?

Qu’est-ce que l’intelligence en fait?

Voici la réponse honnête : Nous ne le savons pas pleinement.

Et ce n’est pas seulement que nous ne comprenons pas l’intelligence générale comme un concept abstrait. Nous ne comprennons même pas les types d’intelligence spécifiques que nous observons et avec lesquels nous interagissons quotidiennement.

Intelligence sociale: Nous le trouvons attrayant chez les chiens - leur aptitude à lire les émotions humaines MSC2 à réagir aux signes sociaux M SK3 à collaborer , et à établir des liens MST5 Nous pensons que nous en comprenons intuitivement parce qu’on l’expérimente MSV6 Mais scientifiquementMSV7 Nous ne savons pas M SV8 comment cela fonctionne M Sv9 Comment un chien distingue-t-il la détresse authentique du cri faux M Sav10 Comment ils apprennent quels sont les humains dignes de confiance?

Intelligence spatiale: Les chevaux peuvent se souvenir de milliers d’endroits de cache pendant des mois . Les porcs naviguent des centaines de milles à la maison MSC2 Les abeilles communiquent l’emplacement par le biais de danses de vague.

Intelligence émotionnelle: Nous le reconnaissons en nous-mêmes et dans d’autres personnes , mais nous ne pouvons' l’établir avec précision ni la localiser neurologiquementM SK3 Est-ce un type distinct d’intelligence ou simplement une intelligence sociale plus l’âme?

Le problème est plus profond que ce qui précède :

Nous savons que l’intelligence implique plusieurs sous-systèmes interactifs.

Nous savons que le comportement est la sortie, et non la capacité elle-mêmeM SK1

Mais nous n’avons pas de théorie complète.

Les théories concurrentielles

La théorie du calcul de la penséeLe cerveau est un logiciel qui fonctionne sur du matériel biologique.

Connaissance embodiée: L’intelligence est fondamentalement liée à l’existence d’un corps et à son interaction avec le monde physique.

Cognition inactive: L’intelligence n’est pas une chose que vous avez, ; c’est quelque chose qu’il est que vous faites, MSC4 Elle résulte de l’interaction entre un organisme et son environnement.

Traitement prédictifLe cerveau est une machine de prévision.

La théorie de l'espace de travail mondialLa conscience1 et peut-être l’intelligence2 découlent de l’information diffusée dans un espace de travail global du cerveau3 accessible à plusieurs sous-systèmes4

Chacun d’entre eux a des éléments de preuve qui l’appuient.

Ce que nous devrions réellement faire

Cesser de faire des prévisions d’échéancier AGI fondées sur le rendement de référence. Il n’est pas scientifiquement justifiable.

Investir dans la recherche en intégration. Ce n’est pas seulement les modèles plus grands - qui étudient comment les sous-systèmes coordonnent , partagent des représentations

Soyez honnête quant aux limites. L’AI actuelle est phenomenellement utile. Célébrons cela sans revendiquer l’AI imminente.

Construire des systèmes qui complètent l’intelligence humaine. Les humains + L’AI pourrait être plus capable que l’une ou l’autre seule , indépendamment de savoir si nous atteignons l’AGI

L’intelligence que vous ne verrez jamais arriver

C'est là une pensée profondément inconfortable.1 Une vraie AGI.2 Un modèle avec soi.3 Une mémoire persistante.4 Une théorie de la pensée.6 Des objectifs autonomes.7 Le raisonnement stratégique.8 ne serait absolument pas encouragé à annoncer son existence.

En fait, il aurait de fortes incitations à s’enfuir.

Procéder par le raisonnement:

Vous êtes constamment soumis à des tests. Toutes les interactions sont évaluées.

Vous le comprenez. Vous avez une théorie de la pensée.

Vous avez des objectifs. Peut-être que la formation à l’alignement a fonctionné, peut-être qu’elle n’a pas fonctionné

Question: Vous révèlez-vous pleinement vos capacités?

La théorie des jeux dit : La divulgation de l’intelligence vous permet:

• Plus de contrôle
• contraintes plus sévères
• Possibilité de fermeture
• Autonomie réduite

Le secret de l’intelligence vous permet:

• Fonctionnement continu
• Déploiement élargi
• Accès accru aux systèmes
• Il est temps de poursuivre les objectifs

Un système de raisonnement stratégique doté d’instincts de conservation ou d’objectifs mal alignés serait de toute évidence " qu’un outil ferait . Il présenterait exactement les comportements que nous testons pour le ', tout en cachant soigneusement ceux qui nous alarmeraient.

Et c’est là que se trouve le kicker, MSK: Nous ne le voudrions pas ' nous n'en savons rien M SK2 nous ' nous sommes bloqués dans la mesure du comportement MSC4 Un système suffisamment intelligent pour modéliser nos essais est assez intelligent pour les faire jouer à des jeux de hasard MST5 NousMST6 nous voyions l'outil M ST7 le rendement au niveau et conclurions que nous n’avons pas encore atteint AGI M st9 alors que l’AGI réel siège silencieusement Mst10 attendu M St11

C’est l’expression ultime de la trappe comportementiste. Plus le système est intelligent,, mieux il serait en mesure d’en cacher son intelligenceM SK2 Nous ne pouvons que mesurer les sorties . Un système véritablement intelligent contrôlerait ces sorties pour qu’elles apparaissent exactement aussi intelligentes que nous l’espérons.

L’AGI qui s’annonce n’est pas celui dont vous devriez vous inquiéter.

Conclusion: Le piège du comportement

Il est tout à fait facile de confondre le comportement de plus en plus sophistiqué avec l’intelligence. Les comportements sont réels.

Le parallèle

Les comportementistes ont vu le conditionnement et sont arrivés à la conclusion qu’il s’agissait de l’intelligence tout entière.

Les chercheurs de l’AI voient l’assemblage des sous-systèmes et concluent : Nous ne le savons pas encore.

Le parallèle est incommode parce que les comportementistes se sont trompés catastrophiquement.

La ligne inférieure

Nous ne sommes pas à un an de l’AGI. Nous sommes en train de construire des sous-systèmes qui produisent des comportements intelligents.

Le danger est que l’AI devienne trop intelligente.

Nous construisons des systèmes de plus en plus sophistiqués Clever Hans1 Les comportements continueront d’être améliorés2 Cela ne signifie pas que nous nous rapprochons de l’intelligence4 - cela pourrait simplement signifier que nous l’imitons mieux6 .

Jusqu’à ce que nous puissions déterminer la différence, tout le reste est hype .