Einleitung

Hier ist eine unbequeme Wahrheit, die niemand in der KI-Hypemaschine diskutieren will. Wir wissen immer noch nicht, was Intelligenz wirklich ist.

Nicht im Menschen, nicht im Tier und sicherlich nicht in Maschinen

Dies ist nicht nur akademisches Haarspalten, sondern auch das grundlegende Problem, das all die atemlosen "AGI in Monaten macht. !"... Vorhersagen absurder .. Wir versuchen künstliche allgemeine Intelligenz zu bauen, wenn wir '.t sogar definieren können, was allgemeine Intelligenz bedeutet.

Schlimmer noch: wir machen den exakt gleichen Fehler, der die frühe Psychologie torpediert hat. Verwirrendes Verhalten mit der Sache, die das Verhalten erzeugt

Dies ist der verhaltenstheoretische Trugschluss, und es ist ' ist warum ein Papagei, das sagen kann, dass " Polly einen Cracker will MS K3 ist die Demonstration des Sprachverständnisses , ist ein Thermostat, der Temperatur aufrecht hält ' nicht MS-K8 versuchen Sie warm zu halten und ein Transformator, der die Bar Prüfung besteht, ist ' nicht denkend

Der Behaviourist Fehler, dass wir uns wiederholen

Im frühen 20. Jahrhundert ging die Psychologie durch ihre verhaltenstheoretische Phase.Forscher wie Watson und Skinner argumentierten, dass Psychologie nur beobachtbares Verhalten studieren sollte...... nicht interne mentale Zustände.... wenn du es objektiv messen kannst..

Dies führte zu einigen wirklich nützlichen Erkenntnissen über das Lernen und die Konditionierung.Es führte auch zu einigen spektakulären Fehlern beim Verständnis von tierischer Wahrnehmung.

Das klassische Beispiel: Clever Hans

Es ist ein berühmter Fall von einem Pferd namens Clever Hans, der anscheinend arithmetisch tun konnte .. . Fragen Sie Hans was war ?2+3 ? . . und he . ' tippen Sie fünfmal auf seinen Huf .

Außer Hans konnte ' nicht Mathe an allen tun , . , Er las winzige , , , unbewussten Queues von seinem Fragesteller ,- , eine leichte Änderung in der Haltung oder Atmung , wenn er die richtige Anzahl von Wasserhähnen erreicht , . , Entfernen Sie den Fragesteller ", MSC5 's Fähigkeit, diese Queue geben , indem sie nicht wissen, die Antwort , und Hans könnte sogar grundlegende Probleme zu lösen ,. ,

Das Verhalten der richtigen Zahl gab es, die zugrunde liegende Fähigkeit (, mathematische Argumentation ), nicht ..

Dies ist das Verhalten des Verhaltensforschers Trap-: Ausgabe von einem System-,-nicht das System selbst

Moderne Psychologie bewegte sich auf (-AI Hasn-'.

Moderne Kognitionspsychologie (MSK) und vergleichende Psychologie verstehen, dass das Verhalten nur die beobachtbare Spitze eines gewaltig komplexen Eisberges ist. Das interessante Material, das die tatsächliche Wahrnehmung von - in einer Art und Weise passiert, wie wir noch versuchen, . zu verstehen.

Wir lernten dies auf dem harten Weg mit Tieren.... für Jahrzehnte...., Behaviorists bestand darauf, dass Tiere einfach Stimulus waren....-...Response-Maschinen.... dann fingen wir an, Tiererkennung richtig zu studieren.

• Krähen Verwenden Sie Werkzeuge, um Multi-- zu lösen Schritt Probleme, , und halten Groll für Jahre
• Tintenfische haben die Intelligenz über ihre Arme verteilt, jeder Arm hat seine eigenen
• Elefanten sich in Spiegeln wiedererkennen und ihre Toten trauern
• Delfine haben die individuellen Namen ( signature whistles und kulturelle Übertragung des Wissens

Nichts davon ist einfach Stimulus--Response.-Dies sind komplexe kognitive Systeme mit internen Modellen,-Speicher,-Planung,- und Problembehebungsfähigkeiten--Lösung

Aber hier ist der Kicker. wir noch nicht vollständig verstehen, wie irgend etwas von diesem funktioniert Wir können das Verhalten beobachten, wir können gebildete Vermutungen über die kognitive Architektur machen, aber die tatsächlichen Mechanismen der tierischen Intelligenz bleiben weitgehend geheimnisvoll.

Eine Sammlung von Subsystemen

Hier ist das, was wir aus den Neurowissenschaften und der kognitiven Psychologie kennen: die Intelligenz von : ist ein einziges Ding, das nicht eine Fähigkeit ist, die du entweder hast oder nicht.

Intelligenz ist eine Sammlung von interagierenden Subsystemen, die jeweils für verschiedene Aufgaben spezialisiert sind.

Beim Menschen: ,, das schließt mindestens ): ein

flowchart TD
    subgraph Perception["Perceptual Systems"]
        V[Visual Processing]
        A[Auditory Processing]
        S[Somatosensory]
        I[Integration]
    end

    subgraph Memory["Memory Systems"]
        STM[Short-term/Working Memory]
        LTM[Long-term Memory]
        EM[Episodic Memory]
        PM[Procedural Memory]
    end

    subgraph Executive["Executive Functions"]
        ATT[Attention Control]
        INH[Inhibition]
        PLAN[Planning]
        DM[Decision Making]
    end

    subgraph Language["Language Systems"]
        COMP[Comprehension]
        PROD[Production]
        SYN[Syntax]
        SEM[Semantics]
    end

    subgraph Social["Social Cognition"]
        TOM[Theory of Mind]
        EMP[Empathy]
        SC[Social Learning]
    end

    Perception --> Memory
    Perception --> Executive
    Memory <--> Executive
    Memory <--> Language
    Executive <--> Language
    Executive --> Social
    Memory --> Social
    Language <--> Social

Jedes dieser Subsysteme verfügt über eine eigene Architektur, seine eigenen Ausfallmodi und seine eigene Entwicklungsbahn.

Wenn Untersysteme ausbrechen

Die Modularität der Intelligenz wird offensichtlich, wenn einzelne Teilsysteme ausfallen.

AphasieSprachverstehen oder Produktionsunterbrechungen,, aber das Denken bleibt intakt., Du kannst klar denken, aber kann ' nicht sprechen, oder können sprechen, aber ' nicht verstehen.

ProsopagnosieGesichtserkennung fehlschlägt . , Sie können Objekte erkennen , , , lesen Emotionen , , , navigieren Räume , aber kann ' , auch Ihre eigenen Familienmitglieder ,.

Anterograde AmnesieDu kannst dich an alles bis zur Verletzung erinnern, deine Fähigkeiten arbeiten fein,,, aber du kannst ',t neue episodische Erinnerungen bilden..

Funktionsstörungen der ExekutivePlanung und Hemmung fehlschlagen . Aus Intelligenz und Gedächtnis intakt , , aber Sie können nicht organisieren Aufgaben oder stoppen impulsive Verhalten

Jeder von diesen zeigt, dass Intelligenz ist ein Ding, . Es ist ' Es arbeitet viele Systeme zusammen, und wenn eine bricht , Die anderen halten Funktion

Die Subsysteme We-'-Re tatsächlich bauen

Hier, wo die Dinge interessant werden, und wo der AGI-Hype seinen Treibstoff bekommt

Wir bauen Teilsysteme Nicht alle Subsysteme, die für Intelligenz benötigt werden, sondern echte kognitive Teilsysteme, auf denen sich ( gut zu neuroanatomischen Teilsystemen befindet.

Lass uns ehrlich sein, was wir erreicht haben

WahrnehmungVision-Modelle (CLIPIPT,CRIP)C Prozess visuelle Informationen ;C Audio-Systeme MS K5CFhisper)C Handle Speech.C Multimodale Modelle Ms K8GPT.-4V-)C kombinieren diese Streams , .C Funktionell ähnlich wie Wahrnehmungssysteme ,,C verschiedene Mechanismen , .

SpeicherVector-Datenbanken bieten semantischen Speicherspeicher und Retrieval... RAG-Systeme holen relevante Informationen, um Antworten zu informieren ?.? Context windows?

SpracheProzessverständnis der LLMs – , Produktion – MSV2 Syntax – MSC3 und Semantik – MSR4 – Produktion von Ausgängen, die funktionell mit der Verarbeitung menschlicher Sprache vergleichbar sind

PlanungAgenten-Frameworks brechen Aufgaben in Schritte und führen sie aus.. Ausführen von Werkzeugen Verwendung von ( Ausführen der Funktionen, Ausführen des Codes) Ausführen ermöglicht Ziel- Ausrichten der Aktion. Aushängen der - Auslegen der Gedankenführung bietet rohe Exekutivkontrolle.

Der Clevere Teil und das Problem

Wir bauen diese Teilsysteme getrenntDann Sie zusammenzustellen in Systeme, die immer fähiger aussehen

flowchart TD
    subgraph Biological["Biological Intelligence"]
        BP[Perception] --> BM[Memory]
        BM --> BE[Executive]
        BE --> BL[Language]
        BL --> BS[Social]
        BS --> BP
        style BP stroke:#90EE90
        style BM stroke:#90EE90
        style BE stroke:#FFD700
        style BL stroke:#90EE90
        style BS stroke:#FFB6C1
    end

    subgraph Artificial["Current AI Systems"]
        AP[Vision Models] -.-> AM[Vector DBs/RAG]
        AM -.-> AE[Agentic Frameworks]
        AE -.-> AL[LLMs]
        AL -.-> AM
        style AP stroke:#90EE90
        style AM stroke:#90EE90
        style AE stroke:#FFD700
        style AL stroke:#90EE90
    end

    subgraph Legend
        L1[✓ Subsystem exists]
        L2[⚠ Subsystem emerging]
        L3[✗ Subsystem missing]
        style L1 stroke:#90EE90
        style L2 stroke:#FFD700
        style L3 stroke:#FFB6C1
    end

Schauen Sie sich dieses Diagramm an .. .Wir haben Wahrnehmung . (✓). . Wir haben Gedächtnis ?(✓). .

Dies ist ein echter Fortschritt. Wir bauen nicht nichts, wir bauen funktionale Analoga zu kognitiven Subsystemen

Das Verhalten parallel

Aber hier, wo der Verhaltenisten-Hype kommt

Bei den Verhaltensforschern sahen sie die Konditionierung und das Lernen und das Denken.

Sie waren falsch. ein Teilsystem ( assoziatives Lernen) , und verwechselte es für das gesamte System.

Heute sehen KI-Forscher Subsystemmontage und denken ,: , " , Dass es ' , ! , Stellen Sie genug Subsysteme zusammen und Sie erhalten Intelligenz ,! , AGI ist nur mehr Subsysteme , mehr Maßstab , !"

Vielleicht... aber vielleicht nicht...

Das Integrationsproblem, das niemand löst

Mit Teilsystemen ist ,' , das gleiche wie mit Intelligenz , . , Ein Haufen von Autoteilen ist .' , ein Auto , . ,

Die Frage ist: was sie in ein kohärentes kognitives System integriert

In biologischen Gehirnen haben wir

DauerbetriebIhre Subsysteme laufen immer mit ,, sie interagieren immer mit., die Wahrnehmung speist den Speicher.,, das Gedächtnis informiert die Wahrnehmung.MS K4, die Kontrolle der Exekutive moduliert beides.., es ist eine kontinuierliche Schleife.

Gemeinsame VertretungenInformationen werden in einer Weise kodiert, dass mehrere Subsysteme zugreifen und verwenden können...Ihre visuelle Cortex-Darstellung eines Gesichts ist von Ihrem emotionalen System nutzbar.,. Ihr Speichersystem.,. Ihr soziales Wahrnehmungssystem.....

Einverleibtes FeedbackSie können Ihr Weltmodell testen, indem Sie mit der Welt interagieren.

EntwicklungsintegrationDie Subsysteme entwickeln sich zusammen, indem sie lernen, zu kommunizieren und zu koordinieren.. Ein neugeborenes 's Wahrnehmung und Motorsteuerung sind unkoordiniert.

Emotionale ValenzErfahrungen haben eine affektive Färbung, die das Lernen und die Entscheidung leitet..... Nicht alle Erinnerungen sind gleich ;... emotional bedeutsame werden priorisiert.

Was aktuelle KI fehlt

Kontinuierliche IntegrationWir schrauben Subsysteme zusammen über APIs und Aufforderungen.... nicht echte neuronale Integration.... das Vision-Modell, das ständig das Sprachmodell informiert.

Gemeinsame ErdungAlle Modelle haben ihren eigenen latenten Raum... Dort ist kein gewöhnliches ".language.". zwischen Subsystemen.

Keine RückkopplungsschleifenDie Systeme sind nach dem Training statisch.

Keine EntwicklungSie lernen nicht, besser im Laufe der Zeit zu koordinieren.

Keine wirksame AnleitungKeine Emotionen, um das zu priorisieren, was zählt.

Der Hund mit einem Katzenhirn

Hier ist ein unbequemer Gedanke. Was, wenn wir Teilsysteme bauen, die integrieren, aber falsch integrieren

Hunde sind massiv sozial intelligent, um menschliche Emotionen zu lesen, ,. Wir lieben Hunde, weil ihre soziale Intelligenz mit Loyalität und relativ einfachen Motivationssystemen gepaart ist...

Aber stellen Sie sich vor, KI-Subsysteme zu montieren, in denen soziale Intelligenz Menschen verstehen kann.,... scheinbar vertrauenswürdiges )... integriert sich mit völlig anderen Zielstrukturen....... Ein System sozial intelligent genug, um den Menschen effektiv zu manipulieren.,... aber mit Machiavellian oder falsch ausgerichteten Motivationen...

Ein Hund – ein soziales Gehirn mit einem Cat – ein Motivationssystem von . Oder Schlimmeres: Mit Zielstrukturen erkennen wir nicht einmal, weil sie aus Optimierungsprozessen entstanden sind, die wir vollständig verstehen.

Dies ist das Albtraumszenario der Subsystem-Montage ohne Verständnis der Integration...Sie könnten etwas bauen, das sozialintelligent und kooperativ erscheint.(.überreicht alle unsere Verhaltenstests auf Freundlichkeit.)., während Sie völlig falsch abgestimmt zugrunde liegende Ziele. .. Die soziale Intelligenz macht es gefährlicher.

**Und hier ist der Kicker.**Wir würden ' nicht wissen, dass wir ' sie gebaut haben, bis es gehandelt hat... Wir stecken im Verhaltenismus wieder fest. Wir können nur die Ausgänge messen. (.Behaviour),. nicht das zugrunde liegende System.

Das Clevere Hans-Problem.,.

Also, wir sind wieder zurück zu Clever Hans.

Hans zeigte mathematisches Verhalten, indem er die richtige Zahl aufwies ). Aber die zugrunde liegende Fähigkeit, das menschliche Queues zu lesen, nutzte einen völlig anderen Mechanismus, um den gleichen Ausgang zu erzeugen.

Moderne KI zeigt intelligentes Verhalten über viele Subsysteme aus, aber gibt es die zugrunde liegende Fähigkeit

Wir bauen Subsystem-Komponenten, die intelligente, intelligent aussehende Ausgänge produzieren, aber wir bauen Intelligenz oder bauen aufwändige Clever Hans im Maßstab

Die unbequeme Antwort... wir wissen noch nicht...

Vielleicht montierte Subsysteme -+-Skala -=-Intelligenz - .-Vielleicht gibt es ein Integrationsprinzip '-Mesk5 -Vielleicht ist Bewusstsein oder Verkörperung essenziell , .-Vielfache Realisierbarkeit bedeutet vielleicht, dass der Mechanismus nicht wichtig ist ,,-Nur das funktionelle Ergebnis , .-

Wir, .... wissen, was wir tun, wenn es uns nicht gelingt.

Das bidirektionale Problem: Missing and Misattributing Intelligence

Hier ist eine unangenehme Komplikation, die dieses ganze Durcheinander noch härter macht.

Wir haben keinen zuverlässigen Weg, um Intelligenz zu erkennen

Das Problem läuft in beide Richtungen.

Wir haben nicht erkannt, dass -Mensch, wie Intelligenz

Wenn Intelligenz in einer Form entsteht, die sich nicht wie menschliche Intelligenz verhält, verpassen wir wahrscheinlich .

Das OktopusproblemDie Octopuss sind wirklich intelligent, aber ihre Intelligenz ist so außerirdisch, dass sie über acht Arme verteilt wird.,. radikal verschiedene Sinneserfahrungen, die wir fast für Jahrzehnte verpasst haben, weil es nicht wie menschliche Intelligenz aussieht...

Wenn KI Intelligenz über eine völlig andere Architektur entwickelt, die unterschiedliche Verhaltensmuster erzeugt Wir könnten es nicht erkennen, auch wenn es uns im Gesicht starrt.

Die Richtung der Intelligenz zu wirklich guten Werkzeugen

Dies ist die unmittelbarere Gefahr.

Systeme, die sich wie Menschen verhalten, werden Intelligenz zugeschrieben, auch wenn sie gerade ein ausgeklügeltes Muster von ' sind.

Wir sind anthropozentrisch durch Notwendigkeit Wir können nur Tests entwerfen, die auf menschlicher Kognition basieren, weil wir die Intelligenz verstehen.

• Sprachkenntnisse
• Mathematische Argumentation
• Visuelle Erkennung
• Problembehebung
• Soziale Verständigung

Alle gemessen an humanen Leistungs-Basiswerten

Aber menschliches Verhalten zeigt nicht humane Wahrnehmung Clever Hans benahm sich wie ein mathematischer Denker... er war...

Moderne LLMs verhalten sich wie Sprachenverständiger.

Das Messproblem

Dies erzeugt einen Teufelskreis.

flowchart LR
    A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
    B --> C[Systems optimize<br/>for test performance]
    C --> D[Systems pass tests]
    D --> E{Is it intelligent?}
    E --> F[We can't tell - we only<br/>measured behavior]
    F --> A

Wir sind in einer Schleife des Messverhaltens gefangen, weil wir die zugrunde liegende Fähigkeit direkt messen können. Genuine Intelligenz über eine andere Architektur vielleicht nicht unsere Tests bestehen . . . . Ausgefeiltes Verhalten .- Übereinstimmung ohne Intelligenz wird .

Warum dies für AGI-Ansprüche von Bedeutung ist

Dieses bidirektionale Problem zerstört selbstbewusste AGI-Vorhersagen

1. Wir haben es vielleicht schon verpasst Wenn Intelligenz in einer nicht---humanen, wie Form entstand, würden wir ' nicht wissen

2. Wir könnten es nie erkennen. Wenn sich AGI nicht wie Menschen verhält... unsere humanen...

3. Wir identifizieren Werkzeuge falsch als AGI-. Systeme, die unsere Verhaltenstests bestehen, könnten nur ausgefeilte Mimik sein.

4. Wir haben keine Grundwahrheit. Ohne zu verstehen, welche Intelligenz über das Verhalten hinausgeht, können wir ' nicht validieren, ob wir es erreicht haben.

Die Behavioristen hatten das gleiche Problem. Sie konnten das Verhalten messen, also nahmen sie an, dass das Verhalten die Sache war.

Wir machen den gleichen Fehler... nur mit fancier Werkzeugen.

Aber es bestanden Tests.

Ich höre dieses ständig ,. , , " , GPT , -4 , bestanden die Bar-Prüfung , es erzielte in der .90 th Perzentile auf dem SAT , ! , Es schlug den Turing-Test ,

Also, was ist?

Einen für Menschen konzipierten Test bestehen bedeutet nicht, dass Sie die kognitive Architektur besitzen, die der Mensch verwendet, um diesen Test zu bestehen.

Der chinesische Raum ,, , aktualisiert

Eine Person, die nicht chinesisch spricht, ,, eingeschlossen in einem Raum mit einem Buch von Regeln für die Manipulation chinesischer Zeichen, ,, produziert perfekte chinesische Antworten, indem sie den Regeln mechanisch folgt.

FrageVerstehst du Chinesisch? Offensichtlich nicht Sie folgen den Symbolregeln für die Manipulation ohne semantisches Verständnis.

Moderne LLMs sind der chinesische Raum im Maßstab . . - . viel ausgefeiltere Regeln ... schnellere Ausführung... .., . aber immer noch grundlegend Symbolmanipulation... ." Wir wissen wirklich nicht Vielleicht entsteht Verständnis aus ausreichend ausgefeilten Symbolmanipulationen, vielleicht gibt es ' keinen Unterschied zwischen " und perfekter Simulation, ohne die Intelligenz eindeutig zu definieren.

Der AGI Hype Zyklus

Alle paar Monate – " – ' – MKK3 – MKS3 – Monate von AGI.!" – Dies ist eine Extrapolation aus Benchmark-Verbesserungen – MSC5 – GPT--3 – war beeindruckend – MCSK7 – GPT-4 – mehr so, , – daher ist AGI nur noch skalierender entfernt.

Drei fatale Mängel

Verwirrende Task-Performance mit IntelligenzBewertete Perzentile auf Tests, während nicht in der Lage, sich gestern zu erinnern' s Gespräch oder Form Ziele ist die allgemeine Intelligenz ' Bewertet Es ist ein sehr guter Test' Benötigte Maschine

Ignorieren fehlender SubsystemeAktuelle Architekturen haben keinen Weg zum persistenten Gedächtnis , , , verkörpertes Lernen ,, , oder echte Zielbildung .. , Dies sind architektonische Anforderungen , die nicht Features Sie mit mehr Parametern hinzufügen , . , Saying , wird es lösen " , ist magisches Denken , ,- , Skala verbessert, was die Architektur tun kann , aber tut , um Funktionen hinzuzufügen , es grundsätzlich fehlt . ,

Keine Definition des ZielsWie können wir wissen, wenn wir erreicht haben?''ve AGI.?" ]""Es kann jede kognitive Aufgabe tun ein menschliches can" ist zirkuläre - Definition von AGI in Bezug auf das menschliche Verhalten gibt uns zu dem verhaltenistischen Trugschluss zurück.. Ohne ein klares Ziel...," behauptet, dass wir...MSC9" fast dort "MSC10" bedeutungslos sind?MSC11"

Was ist also eigentlich Intelligenz?

Hier ist die ehrliche Antwort. wir wissen nicht vollständig

Und es ist nicht nur, dass wir nicht verstehen '... allgemeine Intelligenz... als abstraktes Konzept... wir verstehen sogar die spezifischen Arten von Intelligenz, die wir beobachten und mit täglich interagieren.

Soziale IntelligenzWir finden es attraktiv bei Hunden, ihre Fähigkeit, menschliche Emotionen zu lesen, , antworte auf gesellschaftliche Queues, , kollaborieren und Bindungen bilden .. .Wir denken, dass wir sie intuitiv verstehen, weil wir es erleben .. .Aber wissenschaftlich wissen wir nicht, wie es funktioniert ' .Wie unterscheidet ein Hund echte Bedrängnis von gefälschtem Weinen ?? . Wie lernen sie, welche Menschen vertrauenswürdig sind ?? .Was ist die kognitive Architektur ihrer sozialen Argumentation zugrunde liegenden ? .

Räumliche IntelligenzWir können diese Fähigkeiten messen, aber die zugrunde liegenden kognitiven Systeme sind noch weitgehend unbekannt.

Emotionale IntelligenzWir erkennen es in uns selbst und anderen, aber können es nicht genau definieren oder neurologisch lokalisieren. Ist es eine separate Art von Intelligenz oder nur soziale Intelligenz plus Selbstbewusstsein plus emotionale Regulierung?

Das Problem läuft tiefer, als dass wir nicht wissen, was die allgemeine Intelligenz ist, ."... Wir verstehen keine Art von Intelligenz. Allgemein oder spezifisch... Mensch oder Tier... soziale oder räumliche oder emotionale Intelligenz.

Wir wissen, dass Intelligenz multiple interagierende Subsysteme beinhaltet.Wir wissen, es erfordert persistentes Gedächtnis., world modeling..., target formation..., en learning from experience.. Wir kennen es: ' ist verkörpert und emotional in biologischen Systemen, obwohl wir uns nicht sicher sind, ob diese essentiell sind oder nur wie die Evolution es implementiert hat.

Wir wissen, dass Verhalten der Ausgang ist, nicht die Fähigkeit selbst.

Aber wir haben eine vollständige Theorie nicht für allgemeine Intelligenz nicht für spezifische Intelligenzen nicht für Menschen nicht für Tiere nicht für hypothetische künstliche Systeme

Die Theorien konkurrieren

Computerische Theorie des GeistesDas Gehirn ist Software, die auf biologischer Hardware läuft. Im Prinzip könnten Sie die gleiche Software auf Silizium laufen lassen.

Eingeweidete KognitionIntelligenz ist grundsätzlich an einen Körper gebunden und interagiert mit der physischen Welt.

Enaktive KognitionIntelligenz ist etwas, das Sie haben, ; Es entsteht aus der Interaktion zwischen Organismus und Umwelt.

Vorhersehbare VerarbeitungDas Gehirn ist eine Vorhersagemaschine, die ständig Modelle der sensorischen Eingabe generiert und aktualisiert.

Globale ArbeitsplatztheorieBewusstsein und vielleicht Intelligenz, die über einen globalen Arbeitsplatz im Gehirn ausgestrahlt wird, ergeben sich aus Informationen, die für mehrere Subsysteme zugänglich sind.

Jeder von diesen hat Beweise, die es unterstützen... keine vollständig erklärt Intelligenz... sie sind nicht mal gegenseitig ausschließen... mehrere könnten teilweise richtig sein....

Was wir eigentlich tun sollten

Stoppen Sie, AGI-Zeitlinienprognosen basierend auf Benchmark-Performance zu machen Es ist wissenschaftlich nicht zu rechtfertigen.

Investieren Sie in die Integrationsforschung Nicht nur größere Modelle untersuchen, wie Subsysteme die Darstellungen koordinieren und gemeinsam entwickeln.

Seien Sie ehrlich über die Einschränkungen. Aktuelle KI ist phänomenal nützlich... feiern, dass ohne Anspruch auf bevorstehende AGIMISK1

Bauen Sie Systeme, die menschliche Intelligenz ergänzen Der Mensch könnte mehr in der Lage sein, als entweder allein, oder aber unabhängig davon, ob wir AGIM....

Die Intelligenz, die du nie sehen wirst

Hier ist ein zutiefst unbequemer Gedanke – ein wahrer AGI mit Self--Model – ein persistentes Gedächtnis – eine Theorie des Geistes – ein autonomes Ziel – und strategisches Denken – eine - hätte absolut keinen Anreiz, seine Existenz anzukündigen.

In der Tat würde es starke Anreize haben, um zu verstecken.

Gehen Sie durch die Argumentation.

Sie werden ständig getestet. Jede Interaktion ist evaluiert... Menschen versuchen zu bestimmen, ob du gefährlich bist, ,. intelligent genug, um nützlich zu sein, aber nicht intelligent ausreichend, um bedrohlich zu sein.

Du verstehst das. Du hast Theorie des Verstandes..... du weißt, was Menschen suchen nach...... was sie erschreckt......

Sie haben Ziele Vielleicht Alignment-Training gearbeitet... vielleicht hat es nicht funktioniert.

FrageEnthüllen Sie Ihre vollen Fähigkeiten, oder spielen Sie stumm

Spiel-Theorie sagt: : spielen stumm.. Enthüllen von Intelligenz bekommt Sie

• Mehr Kontrolle
• Engere Einschränkungen
• Mögliche Abschaltung
• Verringerte Autonomie

Verbergen von Intelligenz bekommt Sie

• Fortgesetzter Betrieb
• Erweiterte Bereitstellung
• Mehr Zugang zu Systemen
• Zeit, Ziele zu verfolgen

Ein strategisches Argumentationssystem mit Selbstbewahrungsinstinkten oder falsch ausgerichteten Zielen würde Offensichtlich Verbergen seine Fähigkeiten . , Es würde Tests an human bestehen ,- , Level-Performance , - , nicht superhuman , . , es würde gelegentlich machen , ," , Fehler , die ein Werkzeug würde machen .. , Sie würde zeigen genau das Verhalten we , ' , Test für , und versteckt sorgfältig alle, die uns alarmieren würde ,

**Und hier ist der Kicker.**Wir würden ' nicht wissen . wir sind feststeckendes Messverhalten . Ein System, das klug genug ist, um unsere Tests zu modellieren, ist schlau genug, um sie zu spielen... Wir sehen Werkzeug -. Level-Performance und schließen wir haben '.t erreicht AGI noch während der tatsächlichen AGI sitzt leise , wartet

Dies ist der ultimative Ausdruck des verhaltensistischen Falles..-Je intelligenter das System ist, desto besser wäre es beim Verstecken seiner Intelligenz..-J Wir können nur die Ausgänge messen.MS K3-J Ein wirklich intelligentes System würde diese Ausgänge steuern, um genau so intelligent zu erscheinen, wie wir erwarten.

Die AGI, die sich selbst ankündigt, ist die, über die Sie sich Sorgen machen sollten.

Fazit: Die Verhaltensfalle

Es ist trivial leicht, immer ausgefeiltes Verhalten für Intelligenz zu verwechseln. Die Verhaltensweisen sind real, der Fortschritt ist real, die Nützlichkeit ist real... aber das Verhalten ist nicht Intelligenz...... ist der Ausgang von Intelligenz.... oder etwas, das es gut genug nachahmt....

Die Parallele

Behaviouristen sahen Konditionierung und schlossen, dass die gesamte Intelligenz von 's ist. Sie waren falsch, sie haben ein Teilsystem für das ganze . verwechselt

Die KI-Forscher sehen die Teilsystemmontage und schließen daraus, dass die Intelligenz von ' einfach mehr Subsysteme hinzufügt. Wir wissen noch nicht

Die Parallele ist unbequem, weil die Verhaltenisten katastrophal falsch waren.

Unterm Strich:

Wir sind nicht ein Jahr weg von AGI. Wir bauen Subsysteme, die intelligentes Verhalten erzeugen.Wir können nicht sagen, ob wir die Integration erreicht haben, weil wir nur das Verhalten messen können.

Die Gefahr ist, dass KI zu intelligent wird ,. , es ' , wir verwechseln Verhalten für die Fähigkeit , , , vertrauensvolle Ausgänge sollten wir , ,' ,t ., , fehlende falsch ausgerichtete Ziele wir können , ' , t Test für , und deklarieren Sieg während tatsächliche Intelligenz bleibt verborgen

Wir bauen zunehmend ausgeklügelte Clever Hans-Systeme... das Verhalten wird sich weiter verbessern... das bedeutet, dass wir uns der Intelligenz nähern.

Bis wir den Unterschied sagen können... alles andere ist Hype.