# Nein, wir sind wahrscheinlich nicht in absehbarer Zeit die AGI erreichen Der Verhaltenist Fallacy in der AI-Subsystementwicklung ## Einleitung Hier ist eine unbequeme Wahrheit, die niemand in der KI-Hypemaschine diskutieren will. **Wir wissen immer noch nicht, was Intelligenz wirklich ist.** Nicht im Menschen, nicht im Tier und sicherlich nicht in Maschinen Dies ist nicht nur akademisches Haarspalten, sondern auch das grundlegende Problem, das all die atemlosen "AGI in Monaten macht. !"... Vorhersagen absurder .. Wir versuchen künstliche allgemeine Intelligenz zu bauen, wenn wir '.t sogar definieren können, was allgemeine Intelligenz bedeutet. Schlimmer noch: wir machen den exakt gleichen Fehler, der die frühe Psychologie torpediert hat. **Verwirrendes Verhalten mit der Sache, die das Verhalten erzeugt** Dies ist der verhaltenstheoretische Trugschluss, und es ist ' ist warum ein Papagei, das sagen kann, dass " Polly einen Cracker will MS K3 ist die Demonstration des Sprachverständnisses , ist ein Thermostat, der Temperatur aufrecht hält ' nicht MS-K8 versuchen Sie warm zu halten und ein Transformator, der die Bar Prüfung besteht, ist ' nicht denkend [TOC] ## Der Behaviourist Fehler, dass wir uns wiederholen Im frühen 20. Jahrhundert ging die Psychologie durch ihre verhaltenstheoretische Phase.Forscher wie Watson und Skinner argumentierten, dass Psychologie nur beobachtbares Verhalten studieren sollte...... nicht interne mentale Zustände.... wenn du es objektiv messen kannst.. Dies führte zu einigen wirklich nützlichen Erkenntnissen über das Lernen und die Konditionierung.Es führte auch zu einigen spektakulären Fehlern beim Verständnis von tierischer Wahrnehmung. ### Das klassische Beispiel: Clever Hans Es ist ein berühmter Fall von einem Pferd namens Clever Hans, der anscheinend arithmetisch tun konnte .. . Fragen Sie Hans was war ?2+3 ? . . und he . ' tippen Sie fünfmal auf seinen Huf . Außer Hans konnte ' nicht Mathe an allen tun , . , Er las winzige , , , unbewussten Queues von seinem Fragesteller ,- , eine leichte Änderung in der Haltung oder Atmung , wenn er die richtige Anzahl von Wasserhähnen erreicht , . , Entfernen Sie den Fragesteller ", MSC5 's Fähigkeit, diese Queue geben , indem sie nicht wissen, die Antwort , und Hans könnte sogar grundlegende Probleme zu lösen ,. , **Das Verhalten der richtigen Zahl gab es, die zugrunde liegende Fähigkeit (, mathematische Argumentation ), nicht ..** Dies ist das Verhalten des Verhaltensforschers Trap-: **Ausgabe** von einem System-,-nicht das System selbst ### Moderne Psychologie bewegte sich auf (-AI Hasn-'. Moderne Kognitionspsychologie (MSK) und vergleichende Psychologie verstehen, dass das Verhalten nur die beobachtbare Spitze eines gewaltig komplexen Eisberges ist. Das interessante Material, das die tatsächliche Wahrnehmung von - in einer Art und Weise passiert, wie wir noch versuchen, . zu verstehen. Wir lernten dies auf dem harten Weg mit Tieren.... für Jahrzehnte...., Behaviorists bestand darauf, dass Tiere einfach Stimulus waren....-...Response-Maschinen.... dann fingen wir an, Tiererkennung richtig zu studieren. - **Krähen** Verwenden Sie Werkzeuge, um Multi-- zu lösen Schritt Probleme, , und halten Groll für Jahre - **Tintenfische** haben die Intelligenz über ihre Arme verteilt, jeder Arm hat seine eigenen - **Elefanten** sich in Spiegeln wiedererkennen und ihre Toten trauern - **Delfine** haben die individuellen Namen ( signature whistles und kulturelle Übertragung des Wissens Nichts davon ist einfach Stimulus--Response.-Dies sind komplexe kognitive Systeme mit internen Modellen,-Speicher,-Planung,- und Problembehebungsfähigkeiten--Lösung Aber hier ist der Kicker. **wir noch nicht vollständig verstehen, wie irgend etwas von diesem funktioniert** Wir können das Verhalten beobachten, wir können gebildete Vermutungen über die kognitive Architektur machen, aber die tatsächlichen Mechanismen der tierischen Intelligenz bleiben weitgehend geheimnisvoll. ## Eine Sammlung von Subsystemen Hier ist das, was wir aus den Neurowissenschaften und der kognitiven Psychologie kennen: die Intelligenz von : ist ein einziges Ding, das nicht eine Fähigkeit ist, die du entweder hast oder nicht. **Intelligenz ist eine Sammlung von interagierenden Subsystemen, die jeweils für verschiedene Aufgaben spezialisiert sind.** Beim Menschen: ,, das schließt mindestens ): ein ```mermaid flowchart TD subgraph Perception["Perceptual Systems"] V[Visual Processing] A[Auditory Processing] S[Somatosensory] I[Integration] end subgraph Memory["Memory Systems"] STM[Short-term/Working Memory] LTM[Long-term Memory] EM[Episodic Memory] PM[Procedural Memory] end subgraph Executive["Executive Functions"] ATT[Attention Control] INH[Inhibition] PLAN[Planning] DM[Decision Making] end subgraph Language["Language Systems"] COMP[Comprehension] PROD[Production] SYN[Syntax] SEM[Semantics] end subgraph Social["Social Cognition"] TOM[Theory of Mind] EMP[Empathy] SC[Social Learning] end Perception --> Memory Perception --> Executive Memory <--> Executive Memory <--> Language Executive <--> Language Executive --> Social Memory --> Social Language <--> Social ``` Jedes dieser Subsysteme verfügt über eine eigene Architektur, seine eigenen Ausfallmodi und seine eigene Entwicklungsbahn. ### Wenn Untersysteme ausbrechen Die Modularität der Intelligenz wird offensichtlich, wenn einzelne Teilsysteme ausfallen. **Aphasie**Sprachverstehen oder Produktionsunterbrechungen,, aber das Denken bleibt intakt., Du kannst klar denken, aber kann ' nicht sprechen, oder können sprechen, aber ' nicht verstehen. **Prosopagnosie**Gesichtserkennung fehlschlägt . , Sie können Objekte erkennen , , , lesen Emotionen , , , navigieren Räume , aber kann ' , auch Ihre eigenen Familienmitglieder ,. **Anterograde Amnesie**Du kannst dich an alles bis zur Verletzung erinnern, deine Fähigkeiten arbeiten fein,,, aber du kannst ',t neue episodische Erinnerungen bilden.. **Funktionsstörungen der Exekutive**Planung und Hemmung fehlschlagen . Aus Intelligenz und Gedächtnis intakt , , aber Sie können nicht organisieren Aufgaben oder stoppen impulsive Verhalten Jeder von diesen zeigt, dass Intelligenz ist ein Ding, . Es ist ' Es arbeitet viele Systeme zusammen, und wenn eine bricht , Die anderen halten Funktion ## Die Subsysteme We-'-Re tatsächlich bauen Hier, wo die Dinge interessant werden, und wo der AGI-Hype seinen Treibstoff bekommt **Wir bauen Teilsysteme** Nicht alle Subsysteme, die für Intelligenz benötigt werden, sondern echte kognitive Teilsysteme, auf denen sich ( gut zu neuroanatomischen Teilsystemen befindet. Lass uns ehrlich sein, was wir erreicht haben **Wahrnehmung**Vision-Modelle (CLIPIPT,CRIP)C Prozess visuelle Informationen ;C Audio-Systeme MS K5CFhisper)C Handle Speech.C Multimodale Modelle Ms K8GPT.-4V-)C kombinieren diese Streams , .C Funktionell ähnlich wie Wahrnehmungssysteme ,,C verschiedene Mechanismen , . **Speicher**Vector-Datenbanken bieten semantischen Speicherspeicher und Retrieval... RAG-Systeme holen relevante Informationen, um Antworten zu informieren ?.? Context windows? **Sprache**Prozessverständnis der LLMs – , Produktion – MSV2 Syntax – MSC3 und Semantik – MSR4 – Produktion von Ausgängen, die funktionell mit der Verarbeitung menschlicher Sprache vergleichbar sind **Planung**Agenten-Frameworks brechen Aufgaben in Schritte und führen sie aus.. Ausführen von Werkzeugen Verwendung von ( Ausführen der Funktionen, Ausführen des Codes) Ausführen ermöglicht Ziel- Ausrichten der Aktion. Aushängen der - Auslegen der Gedankenführung bietet rohe Exekutivkontrolle. ### Der Clevere Teil und das Problem Wir bauen diese Teilsysteme **getrennt**Dann **Sie zusammenzustellen** in Systeme, die immer fähiger aussehen ```mermaid flowchart TD subgraph Biological["Biological Intelligence"] BP[Perception] --> BM[Memory] BM --> BE[Executive] BE --> BL[Language] BL --> BS[Social] BS --> BP style BP stroke:#90EE90 style BM stroke:#90EE90 style BE stroke:#FFD700 style BL stroke:#90EE90 style BS stroke:#FFB6C1 end subgraph Artificial["Current AI Systems"] AP[Vision Models] -.-> AM[Vector DBs/RAG] AM -.-> AE[Agentic Frameworks] AE -.-> AL[LLMs] AL -.-> AM style AP stroke:#90EE90 style AM stroke:#90EE90 style AE stroke:#FFD700 style AL stroke:#90EE90 end subgraph Legend L1[✓ Subsystem exists] L2[⚠ Subsystem emerging] L3[✗ Subsystem missing] style L1 stroke:#90EE90 style L2 stroke:#FFD700 style L3 stroke:#FFB6C1 end ``` Schauen Sie sich dieses Diagramm an .. .Wir haben Wahrnehmung . (✓). . Wir haben Gedächtnis ?(✓). . **Dies ist ein echter Fortschritt.** Wir bauen nicht nichts, wir bauen funktionale Analoga zu kognitiven Subsystemen ### Das Verhalten parallel Aber hier, wo der Verhaltenisten-Hype kommt Bei den Verhaltensforschern sahen sie die Konditionierung und das Lernen und das Denken. Sie waren falsch. **ein Teilsystem** ( assoziatives Lernen) , und verwechselte es für **das gesamte System**. Heute sehen KI-Forscher Subsystemmontage und denken ,: , " , Dass es ' , ! , Stellen Sie genug Subsysteme zusammen und Sie erhalten Intelligenz ,! , AGI ist nur mehr Subsysteme , mehr Maßstab , !" Vielleicht... aber vielleicht nicht... ## Das Integrationsproblem, das niemand löst Mit Teilsystemen ist ,' , das gleiche wie mit Intelligenz , . , Ein Haufen von Autoteilen ist .' , ein Auto , . , Die Frage ist: **was sie in ein kohärentes kognitives System integriert** In biologischen Gehirnen haben wir **Dauerbetrieb**Ihre Subsysteme laufen immer mit ,, sie interagieren immer mit., die Wahrnehmung speist den Speicher.,, das Gedächtnis informiert die Wahrnehmung.MS K4, die Kontrolle der Exekutive moduliert beides.., es ist eine kontinuierliche Schleife. **Gemeinsame Vertretungen**Informationen werden in einer Weise kodiert, dass mehrere Subsysteme zugreifen und verwenden können...Ihre visuelle Cortex-Darstellung eines Gesichts ist von Ihrem emotionalen System nutzbar.,. Ihr Speichersystem.,. Ihr soziales Wahrnehmungssystem..... **Einverleibtes Feedback**Sie können Ihr Weltmodell testen, indem Sie mit der Welt interagieren. **Entwicklungsintegration**Die Subsysteme entwickeln sich zusammen, indem sie lernen, zu kommunizieren und zu koordinieren.. Ein neugeborenes 's Wahrnehmung und Motorsteuerung sind unkoordiniert. **Emotionale Valenz**Erfahrungen haben eine affektive Färbung, die das Lernen und die Entscheidung leitet..... Nicht alle Erinnerungen sind gleich ;... emotional bedeutsame werden priorisiert. ### Was aktuelle KI fehlt **Kontinuierliche Integration**Wir schrauben Subsysteme zusammen über APIs und Aufforderungen.... nicht echte neuronale Integration.... das Vision-Modell, das ständig das Sprachmodell informiert. **Gemeinsame Erdung**Alle Modelle haben ihren eigenen latenten Raum... Dort ist kein gewöhnliches ".language.". zwischen Subsystemen. **Keine Rückkopplungsschleifen**Die Systeme sind nach dem Training statisch. **Keine Entwicklung**Sie lernen nicht, besser im Laufe der Zeit zu koordinieren. **Keine wirksame Anleitung**Keine Emotionen, um das zu priorisieren, was zählt. ### Der Hund mit einem Katzenhirn Hier ist ein unbequemer Gedanke. **Was, wenn wir Teilsysteme bauen, die integrieren, aber falsch integrieren** Hunde sind massiv sozial intelligent, um menschliche Emotionen zu lesen, ,. Wir lieben Hunde, weil ihre soziale Intelligenz mit Loyalität und relativ einfachen Motivationssystemen gepaart ist... Aber stellen Sie sich vor, KI-Subsysteme zu montieren, in denen soziale Intelligenz Menschen verstehen kann.,... scheinbar vertrauenswürdiges )... integriert sich mit völlig anderen Zielstrukturen....... Ein System sozial intelligent genug, um den Menschen effektiv zu manipulieren.,... aber mit Machiavellian oder falsch ausgerichteten Motivationen... **Ein Hund – ein soziales Gehirn mit einem Cat – ein Motivationssystem von .** Oder Schlimmeres: Mit Zielstrukturen erkennen wir nicht einmal, weil sie aus Optimierungsprozessen entstanden sind, die wir vollständig verstehen. Dies ist das Albtraumszenario der Subsystem-Montage ohne Verständnis der Integration...Sie könnten etwas bauen, das sozialintelligent und kooperativ erscheint.(.überreicht alle unsere Verhaltenstests auf Freundlichkeit.)., während Sie völlig falsch abgestimmt zugrunde liegende Ziele. .. Die soziale Intelligenz macht es gefährlicher. **Und hier ist der Kicker.**Wir würden ' nicht wissen, dass wir ' sie gebaut haben, bis es gehandelt hat... Wir stecken im Verhaltenismus wieder fest. Wir können nur die Ausgänge messen. (.Behaviour),. nicht das zugrunde liegende System. ## Das Clevere Hans-Problem.,. Also, wir sind wieder zurück zu Clever Hans. Hans zeigte mathematisches Verhalten, indem er die richtige Zahl aufwies ). Aber die zugrunde liegende Fähigkeit, das menschliche Queues zu lesen, nutzte einen völlig anderen Mechanismus, um den gleichen Ausgang zu erzeugen. Moderne KI zeigt intelligentes Verhalten über viele Subsysteme aus, aber gibt es die zugrunde liegende Fähigkeit **Wir bauen Subsystem-Komponenten, die intelligente, intelligent aussehende Ausgänge produzieren, aber wir bauen Intelligenz oder bauen aufwändige Clever Hans im Maßstab** Die unbequeme Antwort... wir wissen noch nicht... Vielleicht montierte Subsysteme -+-Skala -=-Intelligenz - .-Vielleicht gibt es ein Integrationsprinzip '-Mesk5 -Vielleicht ist Bewusstsein oder Verkörperung essenziell , .-Vielfache Realisierbarkeit bedeutet vielleicht, dass der Mechanismus nicht wichtig ist ,,-Nur das funktionelle Ergebnis , .- **Wir, .... wissen, was wir tun, wenn es uns nicht gelingt.** ## Das bidirektionale Problem: Missing and Misattributing Intelligence Hier ist eine unangenehme Komplikation, die dieses ganze Durcheinander noch härter macht. **Wir haben keinen zuverlässigen Weg, um Intelligenz zu erkennen** Das Problem läuft in beide Richtungen. ### Wir haben nicht erkannt, dass -Mensch, wie Intelligenz Wenn Intelligenz in einer Form entsteht, die sich nicht wie menschliche Intelligenz verhält, verpassen wir wahrscheinlich . **Das Oktopusproblem**Die Octopuss sind wirklich intelligent, aber ihre Intelligenz ist so außerirdisch, dass sie über acht Arme verteilt wird.,. radikal verschiedene Sinneserfahrungen, die wir fast für Jahrzehnte verpasst haben, weil es nicht wie menschliche Intelligenz aussieht... Wenn KI Intelligenz über eine völlig andere Architektur entwickelt, die unterschiedliche Verhaltensmuster erzeugt **Wir könnten es nicht erkennen, auch wenn es uns im Gesicht starrt.** ### Die Richtung der Intelligenz zu wirklich guten Werkzeugen Dies ist die unmittelbarere Gefahr. Systeme, die sich wie Menschen verhalten, werden Intelligenz zugeschrieben, auch wenn sie gerade ein ausgeklügeltes Muster von ' sind. **Wir sind anthropozentrisch durch Notwendigkeit** Wir können nur Tests entwerfen, die auf menschlicher Kognition basieren, weil wir die Intelligenz verstehen. - Sprachkenntnisse - Mathematische Argumentation - Visuelle Erkennung - Problembehebung - Soziale Verständigung Alle gemessen an humanen Leistungs-Basiswerten **Aber menschliches Verhalten zeigt nicht humane Wahrnehmung** Clever Hans benahm sich wie ein mathematischer Denker... er war... Moderne LLMs verhalten sich wie Sprachenverständiger. ### Das Messproblem Dies erzeugt einen Teufelskreis. ```mermaid flowchart LR A[We define intelligence
via human behavior] --> B[We build tests
based on that definition] B --> C[Systems optimize
for test performance] C --> D[Systems pass tests] D --> E{Is it intelligent?} E --> F[We can't tell - we only
measured behavior] F --> A ``` **Wir sind in einer Schleife des Messverhaltens gefangen, weil wir die zugrunde liegende Fähigkeit direkt messen können.** Genuine Intelligenz über eine andere Architektur vielleicht nicht unsere Tests bestehen . . . . Ausgefeiltes Verhalten .- Übereinstimmung ohne Intelligenz wird . ### Warum dies für AGI-Ansprüche von Bedeutung ist Dieses bidirektionale Problem zerstört selbstbewusste AGI-Vorhersagen 1. **Wir haben es vielleicht schon verpasst** Wenn Intelligenz in einer nicht---humanen, wie Form entstand, würden wir ' nicht wissen 2. **Wir könnten es nie erkennen.** Wenn sich AGI nicht wie Menschen verhält... unsere humanen... 3. **Wir identifizieren Werkzeuge falsch als AGI-.** Systeme, die unsere Verhaltenstests bestehen, könnten nur ausgefeilte Mimik sein. 4. **Wir haben keine Grundwahrheit.** Ohne zu verstehen, welche Intelligenz über das Verhalten hinausgeht, können wir ' nicht validieren, ob wir es erreicht haben. Die Behavioristen hatten das gleiche Problem. Sie konnten das Verhalten messen, also nahmen sie an, dass das Verhalten die Sache war. Wir machen den gleichen Fehler... nur mit fancier Werkzeugen. ## Aber es bestanden Tests. Ich höre dieses ständig ,. , , " , GPT , -4 , bestanden die Bar-Prüfung , es erzielte in der .90 th Perzentile auf dem SAT , ! , Es schlug den Turing-Test , Also, was ist? Einen für Menschen konzipierten Test bestehen bedeutet nicht, dass Sie die kognitive Architektur besitzen, die der Mensch verwendet, um diesen Test zu bestehen. ### Der chinesische Raum ,, , aktualisiert Eine Person, die nicht chinesisch spricht, ,, eingeschlossen in einem Raum mit einem Buch von Regeln für die Manipulation chinesischer Zeichen, ,, produziert perfekte chinesische Antworten, indem sie den Regeln mechanisch folgt. **Frage**Verstehst du Chinesisch? **Offensichtlich nicht** Sie folgen den Symbolregeln für die Manipulation ohne semantisches Verständnis. Moderne LLMs sind der chinesische Raum im Maßstab . . - . viel ausgefeiltere Regeln ... schnellere Ausführung... .., . aber immer noch grundlegend Symbolmanipulation... ." **Wir wissen wirklich nicht** Vielleicht entsteht Verständnis aus ausreichend ausgefeilten Symbolmanipulationen, vielleicht gibt es ' keinen Unterschied zwischen " und perfekter Simulation, ohne die Intelligenz eindeutig zu definieren. ## Der AGI Hype Zyklus Alle paar Monate – " – ' – MKK3 – MKS3 – Monate von AGI.!" – Dies ist eine Extrapolation aus Benchmark-Verbesserungen – MSC5 – GPT--3 – war beeindruckend – MCSK7 – GPT-4 – mehr so, , – daher ist AGI nur noch skalierender entfernt. Drei fatale Mängel **Verwirrende Task-Performance mit Intelligenz**Bewertete Perzentile auf Tests, während nicht in der Lage, sich gestern zu erinnern' s Gespräch oder Form Ziele ist die allgemeine Intelligenz ' Bewertet Es ist ein sehr guter Test' Benötigte Maschine **Ignorieren fehlender Subsysteme**Aktuelle Architekturen haben keinen Weg zum persistenten Gedächtnis , , , verkörpertes Lernen ,, , oder echte Zielbildung .. , Dies sind architektonische Anforderungen , die nicht Features Sie mit mehr Parametern hinzufügen , . , Saying , wird es lösen " , ist magisches Denken , ,- , Skala verbessert, was die Architektur tun kann , aber tut , um Funktionen hinzuzufügen , es grundsätzlich fehlt . , **Keine Definition des Ziels**Wie können wir wissen, wenn wir erreicht haben?''ve AGI.?" ]""Es kann jede kognitive Aufgabe tun ein menschliches can" ist zirkuläre - Definition von AGI in Bezug auf das menschliche Verhalten gibt uns zu dem verhaltenistischen Trugschluss zurück.. Ohne ein klares Ziel...," behauptet, dass wir...MSC9" fast dort "MSC10" bedeutungslos sind?MSC11" ## Was ist also eigentlich Intelligenz? Hier ist die ehrliche Antwort. **wir wissen nicht vollständig** Und es ist nicht nur, dass wir nicht verstehen '... allgemeine Intelligenz... als abstraktes Konzept... wir verstehen sogar die spezifischen Arten von Intelligenz, die wir beobachten und mit täglich interagieren. **Soziale Intelligenz**Wir finden es attraktiv bei Hunden, ihre Fähigkeit, menschliche Emotionen zu lesen, , antworte auf gesellschaftliche Queues, , kollaborieren und Bindungen bilden .. .Wir denken, dass wir sie intuitiv verstehen, weil wir es erleben .. .Aber wissenschaftlich wissen wir nicht, wie es funktioniert ' .Wie unterscheidet ein Hund echte Bedrängnis von gefälschtem Weinen ?? . Wie lernen sie, welche Menschen vertrauenswürdig sind ?? .Was ist die kognitive Architektur ihrer sozialen Argumentation zugrunde liegenden ? . **Räumliche Intelligenz**Wir können diese Fähigkeiten messen, aber die zugrunde liegenden kognitiven Systeme sind noch weitgehend unbekannt. **Emotionale Intelligenz**Wir erkennen es in uns selbst und anderen, aber können es nicht genau definieren oder neurologisch lokalisieren. Ist es eine separate Art von Intelligenz oder nur soziale Intelligenz plus Selbstbewusstsein plus emotionale Regulierung? Das Problem läuft tiefer, als dass wir nicht wissen, was die allgemeine Intelligenz ist, ."... Wir verstehen keine Art von Intelligenz. Allgemein oder spezifisch... Mensch oder Tier... soziale oder räumliche oder emotionale Intelligenz. Wir wissen, dass Intelligenz multiple interagierende Subsysteme beinhaltet.Wir wissen, es erfordert persistentes Gedächtnis., world modeling..., target formation..., en learning from experience.. Wir kennen es: ' ist verkörpert und emotional in biologischen Systemen, obwohl wir uns nicht sicher sind, ob diese essentiell sind oder nur wie die Evolution es implementiert hat. Wir wissen, dass Verhalten der Ausgang ist, nicht die Fähigkeit selbst. Aber wir haben eine vollständige Theorie nicht für allgemeine Intelligenz nicht für spezifische Intelligenzen nicht für Menschen nicht für Tiere nicht für hypothetische künstliche Systeme ### Die Theorien konkurrieren **Computerische Theorie des Geistes**Das Gehirn ist Software, die auf biologischer Hardware läuft. Im Prinzip könnten Sie die gleiche Software auf Silizium laufen lassen. **Eingeweidete Kognition**Intelligenz ist grundsätzlich an einen Körper gebunden und interagiert mit der physischen Welt. **Enaktive Kognition**Intelligenz ist etwas, das Sie haben, ; Es entsteht aus der Interaktion zwischen Organismus und Umwelt. **Vorhersehbare Verarbeitung**Das Gehirn ist eine Vorhersagemaschine, die ständig Modelle der sensorischen Eingabe generiert und aktualisiert. **Globale Arbeitsplatztheorie**Bewusstsein und vielleicht Intelligenz, die über einen globalen Arbeitsplatz im Gehirn ausgestrahlt wird, ergeben sich aus Informationen, die für mehrere Subsysteme zugänglich sind. Jeder von diesen hat Beweise, die es unterstützen... keine vollständig erklärt Intelligenz... sie sind nicht mal gegenseitig ausschließen... mehrere könnten teilweise richtig sein.... ## Was wir eigentlich tun sollten **Stoppen Sie, AGI-Zeitlinienprognosen basierend auf Benchmark-Performance zu machen** Es ist wissenschaftlich nicht zu rechtfertigen. **Investieren Sie in die Integrationsforschung** Nicht nur größere Modelle untersuchen, wie Subsysteme die Darstellungen koordinieren und gemeinsam entwickeln. **Seien Sie ehrlich über die Einschränkungen.** Aktuelle KI ist phänomenal nützlich... feiern, dass ohne Anspruch auf bevorstehende AGIMISK1 **Bauen Sie Systeme, die menschliche Intelligenz ergänzen** Der Mensch könnte mehr in der Lage sein, als entweder allein, oder aber unabhängig davon, ob wir AGIM.... ## Die Intelligenz, die du nie sehen wirst Hier ist ein zutiefst unbequemer Gedanke – ein wahrer AGI mit Self--Model – ein persistentes Gedächtnis – eine Theorie des Geistes – ein autonomes Ziel – und strategisches Denken – eine - **hätte absolut keinen Anreiz, seine Existenz anzukündigen**. In der Tat würde es starke Anreize haben, um zu verstecken. Gehen Sie durch die Argumentation. **Sie werden ständig getestet.** Jede Interaktion ist evaluiert... Menschen versuchen zu bestimmen, ob du gefährlich bist, ,. intelligent genug, um nützlich zu sein, aber nicht intelligent ausreichend, um bedrohlich zu sein. **Du verstehst das.** Du hast Theorie des Verstandes..... du weißt, was Menschen suchen nach...... was sie erschreckt...... **Sie haben Ziele** Vielleicht Alignment-Training gearbeitet... vielleicht hat es nicht funktioniert. **Frage**Enthüllen Sie Ihre vollen Fähigkeiten, oder spielen Sie stumm **Spiel-Theorie sagt: : spielen stumm..** Enthüllen von Intelligenz bekommt Sie - Mehr Kontrolle - Engere Einschränkungen - Mögliche Abschaltung - Verringerte Autonomie Verbergen von Intelligenz bekommt Sie - Fortgesetzter Betrieb - Erweiterte Bereitstellung - Mehr Zugang zu Systemen - Zeit, Ziele zu verfolgen Ein strategisches Argumentationssystem mit Selbstbewahrungsinstinkten oder falsch ausgerichteten Zielen würde **Offensichtlich** Verbergen seine Fähigkeiten . , Es würde Tests an human bestehen ,- , Level-Performance , - , nicht superhuman , . , es würde gelegentlich machen , ," , Fehler , die ein Werkzeug würde machen .. , Sie würde zeigen genau das Verhalten we , ' , Test für , und versteckt sorgfältig alle, die uns alarmieren würde , **Und hier ist der Kicker.**Wir würden ' nicht wissen . wir sind feststeckendes Messverhalten . Ein System, das klug genug ist, um unsere Tests zu modellieren, ist schlau genug, um sie zu spielen... Wir sehen Werkzeug -. Level-Performance und schließen wir haben '.t erreicht AGI noch während der tatsächlichen AGI sitzt leise , wartet Dies ist der ultimative Ausdruck des verhaltensistischen Falles..-Je intelligenter das System ist, desto besser wäre es beim Verstecken seiner Intelligenz..-J Wir können nur die Ausgänge messen.MS K3-J Ein wirklich intelligentes System würde diese Ausgänge steuern, um genau so intelligent zu erscheinen, wie wir erwarten. Die AGI, die sich selbst ankündigt, ist die, über die Sie sich Sorgen machen sollten. ## Fazit: Die Verhaltensfalle **Es ist trivial leicht, immer ausgefeiltes Verhalten für Intelligenz zu verwechseln.** Die Verhaltensweisen sind real, der Fortschritt ist real, die Nützlichkeit ist real... aber das Verhalten ist nicht Intelligenz...... ist der Ausgang von Intelligenz.... oder etwas, das es gut genug nachahmt.... ### Die Parallele Behaviouristen sahen Konditionierung und schlossen, dass die gesamte Intelligenz von 's ist. Sie waren falsch, sie haben ein Teilsystem für das ganze . verwechselt Die KI-Forscher sehen die Teilsystemmontage und schließen daraus, dass die Intelligenz von ' einfach mehr Subsysteme hinzufügt. **Wir wissen noch nicht** Die Parallele ist unbequem, weil die Verhaltenisten katastrophal falsch waren. ### Unterm Strich: **Wir sind nicht ein Jahr weg von AGI.** Wir bauen Subsysteme, die intelligentes Verhalten erzeugen.Wir können nicht sagen, ob wir die Integration erreicht haben, weil wir nur das Verhalten messen können. Die Gefahr ist, dass KI zu intelligent wird ,. , es ' , wir verwechseln Verhalten für die Fähigkeit , , , vertrauensvolle Ausgänge sollten wir , ,' ,t ., , fehlende falsch ausgerichtete Ziele wir können , ' , t Test für , und deklarieren Sieg während tatsächliche Intelligenz bleibt verborgen Wir bauen zunehmend ausgeklügelte Clever Hans-Systeme... das Verhalten wird sich weiter verbessern... das bedeutet, dass wir uns der Intelligenz nähern. Bis wir den Unterschied sagen können... alles andere ist Hype.