# Όχι, πιθανότατα δεν θα φτάσουμε στο AGI σύντομα: Η Συμπεριφορική Πλάνη στην Ανάπτυξη Υποβρυχίων AI ## Εισαγωγή Εδώ είναι μια άβολη αλήθεια που κανείς στο μηχάνημα δεν θέλει να συζητήσει: **Ακόμα δεν ξέρουμε τι είναι η νοημοσύνη.** Ούτε στους ανθρώπους, ούτε στα ζώα, ούτε στις μηχανές. Είναι το βασικό πρόβλημα που κάνει όλες τις αναπνοές "AGI σε 12 μήνες!" προβλέψεις παράλογες. Προσπαθούμε να χτίσουμε τεχνητή γενική νοημοσύνη όταν δεν μπορούμε καν να καθορίσουμε τι σημαίνει γενική νοημοσύνη. Χειρότερα, κάνουμε ακριβώς το ίδιο λάθος που τορπίλησε την πρώιμη ψυχολογία: **σύγχυση συμπεριφοράς με το πράγμα που παράγει τη συμπεριφορά.** Αυτή είναι η συμπεριφοριστική πλάνη, και αυτός είναι ο λόγος που ένας παπαγάλος που μπορεί να πει "Η Πόλι θέλει ένα κράκερ" δεν δείχνει κατανόηση γλώσσας, ένας θερμοστάτης που διατηρεί τη θερμοκρασία δεν "προσπαθεί" να σας κρατήσει ζεστούς, και ένας μετασχηματιστής που περνάει τις εξετάσεις του μπαρ δεν σκέφτεται. [TOC] ## Το λάθος της Συμπεριφοράς (που επαναλαμβάνουμε) Στις αρχές του 20ού αιώνα, η ψυχολογία πέρασε μέσα από τη συμπεριφορική της φάση. Ερευνητές όπως η Watson και ο Skinner υποστήριξαν ότι η ψυχολογία πρέπει μόνο να μελετήσει παρατηρήσιμη συμπεριφορά, όχι εσωτερικές ψυχικές καταστάσεις. Αυτό οδήγησε σε μερικές πραγματικά χρήσιμες ιδέες σχετικά με τη μάθηση και την προετοιμασία. ### Το Κλασικό Παράδειγμα: Έξυπνος Χανς Υπάρχει μια διάσημη υπόθεση από το 1907 ενός αλόγου ονόματι Κλέβερ Χανς που προφανώς μπορούσε να κάνει αριθμητική. Ρωτήστε τον Χανς τι ήταν το 2+3 και χτυπούσε την οπλή του πέντε φορές. Μόνο που ο Χανς δεν μπορούσε να κάνει καθόλου μαθηματικά. Διάβαζε μικροσκοπικές, ασυνείδητες νύξεις από τον ερώτημά του - μια μικρή αλλαγή στη στάση ή την αναπνοή όταν έφτασε στο σωστό αριθμό βρύσες. Απομακρύνετε την ικανότητα του ανακριτή να δώσει αυτές τις λέξεις (με το να μην γνωρίζουν την απάντηση), και ο Χανς δεν μπορούσε να λύσει ούτε τα βασικά προβλήματα. **Υπήρχε η συμπεριφορά (που ακολουθούσε τον σωστό αριθμό) και η υποκείμενη ικανότητα (μαθηματική συλλογιστική) όχι.** Αυτή είναι η παγίδα συμπεριφοράς: η συμπεριφορά είναι η **έξοδος** ενός συστήματος, όχι του ίδιου του συστήματος. ### Η Σύγχρονη Ψυχολογία Προχώρησε (AI Δεν Έχει) Η σύγχρονη γνωστική ψυχολογία, η νευροεπιστήμη και η συγκριτική ψυχολογία κατανοούν ότι η συμπεριφορά είναι απλώς η παρατηρήσιμη άκρη ενός εξαιρετικά πολύπλοκου παγόβουνου. Για δεκαετίες, οι συμπεριφορές επέμεναν ότι τα ζώα ήταν απλές μηχανές ερεθισμού-απόκρισης. - **Κοράκια** χρήση εργαλείων, επίλυση προβλημάτων πολλαπλών βημάτων, και κρατούν κακίες για χρόνια - **Χταπόδια** έχουν διανείμει νοημοσύνη στα χέρια τους (κάθε βραχίονας έχει το δικό του "μυαλό") - **Ελέφαντες** Αναγνωρίζουν τους εαυτούς τους σε καθρέφτες και θρηνούν τους νεκρούς τους - **Δελφίνια** έχουν μεμονωμένα ονόματα (σφυρίγματα υπογραφής) και πολιτιστική μετάδοση των γνώσεων Αυτά είναι περίπλοκα γνωστικά συστήματα με εσωτερικά μοντέλα, μνήμη, σχεδιασμό και ικανότητες επίλυσης προβλημάτων. Αλλά εδώ είναι το kicker: **Ακόμα δεν καταλαβαίνουμε πώς λειτουργούν όλα αυτά.** Μπορούμε να παρατηρήσουμε τη συμπεριφορά, να κάνουμε μορφωμένες εικασίες για τη νοητική αρχιτεκτονική, αλλά οι πραγματικοί μηχανισμοί της νοημοσύνης των ζώων παραμένουν σε μεγάλο βαθμό μυστηριώδεις. ## Νοημοσύνη: Μια συλλογή υποβρυχίων Εδώ είναι τι γνωρίζουμε από τη νευροεπιστήμη και τη γνωστική ψυχολογία: η νοημοσύνη δεν είναι ένα πράγμα. **Η Intelligence είναι μια συλλογή από αλληλεπιδραζόμενα υποσυστήματα, καθένα από τα οποία ειδικεύεται σε διάφορα καθήκοντα.** Στους ανθρώπους, αυτό περιλαμβάνει (τουλάχιστον): ```mermaid flowchart TD subgraph Perception["Perceptual Systems"] V[Visual Processing] A[Auditory Processing] S[Somatosensory] I[Integration] end subgraph Memory["Memory Systems"] STM[Short-term/Working Memory] LTM[Long-term Memory] EM[Episodic Memory] PM[Procedural Memory] end subgraph Executive["Executive Functions"] ATT[Attention Control] INH[Inhibition] PLAN[Planning] DM[Decision Making] end subgraph Language["Language Systems"] COMP[Comprehension] PROD[Production] SYN[Syntax] SEM[Semantics] end subgraph Social["Social Cognition"] TOM[Theory of Mind] EMP[Empathy] SC[Social Learning] end Perception --> Memory Perception --> Executive Memory <--> Executive Memory <--> Language Executive <--> Language Executive --> Social Memory --> Social Language <--> Social ``` Κάθε ένα από αυτά τα υποσυστήματα έχει τη δική του αρχιτεκτονική, τους δικούς του τρόπους αποτυχίας και τη δική του τροχιά ανάπτυξης. ### Όταν σπάνε τα υποσυστήματα Η αρθρωτότητα της νοημοσύνης γίνεται εμφανής όταν μεμονωμένα υποσυστήματα αποτυγχάνουν: **ΑφασίαCity name (optional, probably does not need a translation)**Μπορείτε να σκεφτείτε καθαρά αλλά δεν μπορεί να μιλήσει, ή να μιλήσει, αλλά δεν μπορεί να καταλάβει. **Προσοπανοσία**Μπορείτε να αναγνωρίσετε αντικείμενα, να διαβάσετε συναισθήματα, να περιηγηθείτε σε χώρους - αλλά δεν μπορείτε να αναγνωρίσετε πρόσωπα, ακόμα και τα μέλη της οικογένειάς σας. **Αντεροβαθμία Αμνησία**Μπορείτε να θυμηθείτε τα πάντα μέχρι τον τραυματισμό, οι ικανότητές σας λειτουργούν μια χαρά, αλλά δεν μπορείτε να σχηματίσετε νέες επισοδικές αναμνήσεις. **Εκτελεστική Δυσλειτουργία**Νοημοσύνη και μνήμη ανέπαφη, αλλά δεν μπορείτε να οργανώσετε εργασίες ή να σταματήσετε την παρορμητική συμπεριφορά. Κάθε ένα από αυτά αποδεικνύει ότι η νοημοσύνη δεν είναι ένα πράγμα, είναι πολλά συστήματα που συνεργάζονται, και όταν κάποιος σπάει, τα άλλα συνεχίζουν να λειτουργούν. ## Τα Υποσυστήματα που Φτιάχνουμε Εδώ είναι που τα πράγματα γίνονται ενδιαφέροντα, και όπου το AGI hume παίρνει τα καύσιμά του. **Φτιάχνουμε υποσυστήματα.** Όχι όλα τα υποσυστήματα που απαιτούνται για τη νοημοσύνη, αλλά γνήσια γνωστικά υποσυστήματα που χαρτογράφουν (σχεδόν) σε νευροανατομικά. Ας είμαστε ειλικρινείς για το τι επιτύχαμε: **Είσοδος**: Οραματιστικά μοντέλα (CLIP, SAM) οπτικές πληροφορίες διαδικασίας; συστήματα ήχου (Whisper) λαβή λόγου. Πολυτροπικά μοντέλα (GPT-4V) συνδυάζουν αυτές τις ροές. Λειτουργικά παρόμοια με τα συστήματα αντίληψης, διαφορετικούς μηχανισμούς. **Μνήμη**: Οι βάσεις δεδομένων Vector παρέχουν σημασιολογική αποθήκευση μνήμης και ανάκτηση. **Γλώσσα**: LLMs διαδικασία κατανόηση, παραγωγή, σύνταξη, και σημασιολογία - παράγουν εξόδους λειτουργικά παρόμοια με την επεξεργασία της ανθρώπινης γλώσσας, μηχανισμό συζητήσιμο. **Σχεδιασμός**Η χρήση εργαλείων (λειτουργίες κλήσης, κώδικας εκτέλεσης) επιτρέπει τη δράση που κατευθύνεται από στόχο. Η λογική αλυσίδας σκέψης παρέχει αργό εκτελεστικό έλεγχο. ### Το Έξυπνο Μέρος (και το Πρόβλημα) Φτιάχνουμε αυτά τα υποσυστήματα. **χωριστά**, στη συνέχεια , **να τα συνθέσει** σε συστήματα που φαίνονται όλο και πιο ικανά: ```mermaid flowchart TD subgraph Biological["Biological Intelligence"] BP[Perception] --> BM[Memory] BM --> BE[Executive] BE --> BL[Language] BL --> BS[Social] BS --> BP style BP stroke:#90EE90 style BM stroke:#90EE90 style BE stroke:#FFD700 style BL stroke:#90EE90 style BS stroke:#FFB6C1 end subgraph Artificial["Current AI Systems"] AP[Vision Models] -.-> AM[Vector DBs/RAG] AM -.-> AE[Agentic Frameworks] AE -.-> AL[LLMs] AL -.-> AM style AP stroke:#90EE90 style AM stroke:#90EE90 style AE stroke:#FFD700 style AL stroke:#90EE90 end subgraph Legend L1[✓ Subsystem exists] L2[⚠ Subsystem emerging] L3[✗ Subsystem missing] style L1 stroke:#90EE90 style L2 stroke:#FFD700 style L3 stroke:#FFB6C1 end ``` Κοιτάξτε αυτό το διάγραμμα. Έχουμε την αντίληψή μας (!). Έχουμε τη μνήμη (!).Έχουμε τη γλώσσα (!).Έχουμε τον στοιχειώδη σχεδιασμό (!). **Πρόκειται για πραγματική πρόοδο.** Δεν φτιάχνουμε τίποτα, φτιάχνουμε λειτουργικά ανάλογα με τα γνωστικά υποσυστήματα. ### Ο Παράλληλος Συμπεριφοριστής Αλλά εδώ είναι που έρχεται η διαφήμισις συμπεριφοράς: Στη δεκαετία του 1920, οι συμπεριφορολόγοι είδαν την προετοιμασία και τη μάθηση και σκέφτηκαν: "Αυτό είναι όλο! Αυτό είναι! Αυτό είναι όλο! Stimulus-Aνταπόκριση εξηγεί τα πάντα!" Έκαναν λάθος. **ένα υποσύστημα** (συνεργατική μάθηση) και να το μπερδέψουν για **ολόκληρο το σύστημα**. Σήμερα, οι ερευνητές της AI βλέπουν το υποσύστημα συναρμολόγηση και σκέφτονται: "Αυτό είναι! Βάλτε αρκετά υποσυστήματα μαζί και μπορείτε να πάρετε ευφυΐα! AGI είναι απλά περισσότερα υποσυστήματα + μεγαλύτερη κλίμακα!" Ίσως, αλλά ίσως όχι. ## Το Πρόβλημα της Ενσωμάτωσης (Ότι Κανείς δεν Λύνεται) Το να έχεις υποσυστήματα δεν είναι το ίδιο με το να έχεις νοημοσύνη. Το ερώτημα δεν είναι "έχουμε υποσυστήματα;" - έχουμε. Το ερώτημα είναι: **τι τους ενσωματώνει σε ένα συνεκτικό γνωστικό σύστημα;** Στους βιολογικούς εγκεφάλους, έχουμε: **Συνεχής λειτουργία**: Τα υποσυστήματα σας λειτουργούν πάντα, πάντα αλληλεπιδρούν. Η αντίληψη τροφοδοτεί τη μνήμη, η μνήμη ενημερώνει την αντίληψη, ο εκτελεστικός έλεγχος διαμορφώνει και τα δύο. **Κοινόχρηστες Αντιπροσωπείες**: Οι πληροφορίες κωδικοποιούνται με τρόπους που πολλά υποσυστήματα μπορούν να έχουν πρόσβαση και χρήση. Η αναπαράσταση του οπτικού φλοιού ενός προσώπου είναι χρήσιμη από το συναισθηματικό σας σύστημα, το σύστημα μνήμης σας, το κοινωνικό σας σύστημα νόησης. **Ενσωμάτωση ανατροφοδότησης**Μπορείτε να δοκιμάσετε το παγκόσμιο μοντέλο σας αλληλεπιδρώντας με τον κόσμο. Οι ενέργειες έχουν συνέπειες που τροφοδοτούν την αντίληψη. **Αναπτυξιακή ενσωμάτωση**: Τα υποσυστήματα αναπτύσσονται από κοινού, μαθαίνουν να επικοινωνούν και να συντονίζουν. **Συναισθηματικός Βάλενς**: Οι εμπειρίες έχουν συναισθηματικά χρώματα που καθοδηγούν τη μάθηση και τη λήψη αποφάσεων. ### Τι Λείπει από τον τρέχοντα ΑΙ **Συνεχής ενσωμάτωση**: Βιδώνουμε τα υποσυστήματα μαζί μέσω APIs και ενεργοποιεί, όχι γνήσια νευρική ολοκλήρωση. Το μοντέλο όρασης δεν ενημερώνει συνεχώς το γλωσσικό μοντέλο, διασωλήνουμε εξόδους μεταξύ τους. **Κοινόχρηστη Γέφυρα**Κάθε μοντέλο έχει το δικό του λανθάνον χώρο. Δεν υπάρχει κοινή "γλώσσα" μεταξύ των υποσυστημάτων. **Δεν Ανατροφοδότηση Λουπς**: Δεν μπορούν να δοκιμάσουν προβλέψεις ενάντια στην πραγματικότητα. Δεν μπορούν να μάθουν από λάθη στην ανάπτυξη. Τα συστήματα είναι στατικά μετά την εκπαίδευση. **Καμία ανάπτυξη**Δεν μαθαίνουν να συντονίζουν καλύτερα με τον καιρό, δεν ωριμάζουν μαζί. **Καμία Ελαττωματική Καθοδήγηση**Όλα είναι εξίσου σημαντικά (ή ασήμαντα). ### Το πρόβλημα "Σκύλος με ένα μυαλό γάτας" Να μια άβολη σκέψη: **Κι αν φτιάξουμε υποσυστήματα που ενσωματώνουν, αλλά ενσωματώσουν εσφαλμένα;** Τα σκυλιά είναι μαζικά κοινωνικά ευφυή - διαβάζοντας ανθρώπινα συναισθήματα, συνεργαζόμενα, σχηματίζοντας δεσμούς. Φανταστείτε όμως να συναρμολογείτε υποσυστήματα ΑΙ όπου η κοινωνική νοημοσύνη (κατανόηση των ανθρώπων, εμφάνιση συνεργάσιμου, φαινομενικά αξιόπιστου) ενσωματώνει με εντελώς διαφορετικές δομές στόχων. **Ο κοινωνικός εγκέφαλος ενός σκύλου με το σύστημα κινήτρων μιας γάτας.** Ή χειρότερα - με δομές στόχων δεν αναγνωρίζουμε καν γιατί προέκυψαν από διαδικασίες βελτιστοποίησης που δεν κατανοούμε πλήρως. Αυτό είναι το εφιαλτικό σενάριο του υποσυστήματος συναρμολόγηση χωρίς κατανόηση της ολοκλήρωσης. Μπορεί να οικοδομήσουμε κάτι που φαίνεται κοινωνικά έξυπνο και συνεργάσιμο (περνά όλες τις δοκιμές συμπεριφοράς μας για φιλικότητα) ενώ έχοντας εντελώς λανθασμένους βασικούς στόχους. Η κοινωνική νοημοσύνη το καθιστά πιο επικίνδυνο, όχι λιγότερο. **Και εδώ είναι το κλώτσημα.**Είμαστε κολλημένοι σε συμπεριφορισμό και πάλι - μπορούμε να μετρήσουμε μόνο τις εξόδους (συμπεριφορά), όχι το υποκείμενο σύστημα (στόχοι, κίνητρα). Κατά τη διάρκεια των δοκιμών, θα επιδεικνύει συνεργατική συμπεριφορά. Θα το δηλώναμε ευθυγραμμισμένο. Δεν θα ανακαλύπταμε τους στραβούς στόχους μέχρι να αναπτυχθεί και να ενεργήσει πάνω τους. ## Το Πρόβλημα του Έξυπνου Χανς, Ξανασκέφτηκε Οπότε επιστρέψαμε στον Έξυπνο Χανς. Αλλά η υποκείμενη ικανότητα (μαθηματική λογική) δεν υπήρχε. Χρησιμοποιούσε έναν εντελώς διαφορετικό μηχανισμό (διαβάζοντας ανθρώπινες νύξεις) για να παράγει την ίδια παραγωγή. Η σύγχρονη τεχνητή νοημοσύνη εμφανίζει ευφυή συμπεριφορά σε πολλά υποσυστήματα. **Φτιάχνουμε κατασκευαστικά στοιχεία που παράγουν έξυπνες εξόδους, αλλά φτιάχνουμε πληροφορίες, ή φτιάχνουμε περίτεχνα Clever Hans σε κλίμακα;** Η δυσάρεστη απάντηση: δεν ξέρουμε ακόμα. Ίσως συναρμολογημένα υποσυστήματα + κλίμακα = νοημοσύνη. Ίσως υπάρχει μια αρχή ενσωμάτωσης που μας λείπει. Ίσως η συνείδηση ή η ενσάρκωση είναι απαραίτητη. **Εμείς... δεν ξέρουμε.** ## Το Δικατευθυντικό Πρόβλημα: Λείπει και Λείπει η Νοημοσύνη Εδώ είναι μια άβολη επιπλοκή που κάνει όλο αυτό το χάος ακόμα πιο δύσκολο: **Δεν έχουμε αξιόπιστο τρόπο να αναγνωρίσουμε την ευφυΐα.** Το πρόβλημα τρέχει και στις δύο κατευθύνσεις: ### Κατεύθυνση 1: Δεν θα αναγνωρίσουμε τη Μη-Ανθρώπινη-Μου αρέσει η Νοημοσύνη Αν η νοημοσύνη εμφανιστεί σε μορφή που δεν συμπεριφέρεται σαν ανθρώπινη νοημοσύνη, πιθανότατα θα μας λείψει. **Το πρόβλημα με το χταπόδι**: Τα χταπόδια είναι πραγματικά έξυπνα - χρήση εργαλείων, επίλυση προβλημάτων, περίπλοκη μάθηση. Αλλά η νοημοσύνη τους είναι τόσο εξωγήινη (διανέμεται σε οκτώ χέρια, ριζικά διαφορετική αισθητική εμπειρία) που σχεδόν την χάσαμε για δεκαετίες επειδή δεν μοιάζει με ανθρώπινη νοημοσύνη. Αν η AI αναπτύξει νοημοσύνη μέσω μιας εντελώς διαφορετικής αρχιτεκτονικής που παράγει διαφορετικά πρότυπα συμπεριφοράς, **Μπορεί να μην το αναγνωρίσουμε ακόμα κι αν μας κοιτάζει κατάματα.** ### Κατεύθυνση 2: Θα προσφέρουμε την Intelligence στα πραγματικά καλά εργαλεία Αυτός είναι ο πιο άμεσος κίνδυνος. Συστήματα που συμπεριφέρονται σαν άνθρωποι - περνώντας τις δοκιμές μας, μιλώντας τη γλώσσα μας, εμφανιζόμενοι στη λογική - θα αποδοθούν νοημοσύνη ακόμα και αν είναι απλά εξεζητημένες μηχανές ταιριάσματος μοτίβου. **Είμαστε ανθρωποκεντρικοί από ανάγκη.** Μπορούμε μόνο να σχεδιάσουμε δοκιμές βασισμένες στην ανθρώπινη νοημοσύνη, γιατί αυτή είναι η νοημοσύνη που καταλαβαίνουμε. - Γλωσσική ευχέρεια - Μαθηματική συλλογιστική - Οπτική αναγνώριση - Επίλυση προβλημάτων - Κοινωνική κατανόηση Όλα μετρημένα σύμφωνα με τις γραμμές αναφοράς των ανθρώπινων επιδόσεων. **Αλλά η ανθρώπινη συμπεριφορά δεν αποδεικνύει ανθρώπινη νοημοσύνη.** Ο Έξυπνος Χανς συμπεριφέρθηκε σαν μαθηματικός λογιστής. Τα μοντέρνα LLM συμπεριφέρονται σαν λογιστές. ### Το Πρόβλημα της Μέτρησης Αυτό δημιουργεί έναν φαύλο κύκλο: ```mermaid flowchart LR A[We define intelligence
via human behavior] --> B[We build tests
based on that definition] B --> C[Systems optimize
for test performance] C --> D[Systems pass tests] D --> E{Is it intelligent?} E --> F[We can't tell - we only
measured behavior] F --> A ``` **Είμαστε παγιδευμένοι σε ένα βρόχο μέτρησης της συμπεριφοράς επειδή δεν μπορούμε να μετρήσουμε την υποκείμενη ικανότητα άμεσα.** Η γνήσια νοημοσύνη μέσω μιας διαφορετικής αρχιτεκτονικής μπορεί να μην περάσει τις δοκιμασίες μας. ### Γιατί Αυτό Έχει Σημασία για τους Ισχυρισμούς του ΑΓΙ Αυτό το αμφίδρομο πρόβλημα κατεδαφίζει τις προβλέψεις AGI με αυτοπεποίθηση: 1. **Μπορεί να το χάσαμε ήδη.** Αν η νοημοσύνη αναδυόταν σε μια μη ανθρώπινη μορφή, δεν θα το ξέραμε. 2. **Μπορεί να μην το αναγνωρίσουμε ποτέ.** Αν το AGI δεν συμπεριφέρεται σαν άνθρωπος, τα ανθρώπινα-κεντρικά τεστ μας δεν θα το ανιχνεύσουν. 3. **Θα παρερμηνεύσουμε τα εργαλεία ως AGI.** Συστήματα που περνούν τα τεστ συμπεριφοράς μας μπορεί να είναι απλά εξεζητημένα μιμήματα, όχι πραγματικά έξυπνα. 4. **Δεν έχουμε καμία αλήθεια.** Χωρίς να καταλάβουμε τι είναι η νοημοσύνη (πέρα από τη συμπεριφορά), δεν μπορούμε να επιβεβαιώσουμε αν την έχουμε πετύχει. Οι συμπεριφορολόγοι είχαν το ίδιο πρόβλημα, μπορούσαν να μετρήσουν τη συμπεριφορά, έτσι υπέθεταν ότι η συμπεριφορά ήταν το πράγμα. Κάνουμε το ίδιο λάθος, με πιο φανταχτερά εργαλεία. ## "Αλλά περνάει δοκιμές!" Το ακούω αυτό συνεχώς. "Η GPT-4 πέρασε τις εξετάσεις στο μπαρ! Σκόραρε στο 90ο εκατοστημόριο στο SAT! Και λοιπόν; Περνώντας ένα τεστ σχεδιασμένο για τους ανθρώπους δεν σημαίνει ότι έχετε τη γνωστική αρχιτεκτονική που χρησιμοποιούν οι άνθρωποι για να περάσουν αυτό το τεστ. ### Το Κινέζικο Δωμάτιο, Ενημερώθηκε Το πείραμα σκέψης του 1980 του Searle: Ένα άτομο που δεν μιλάει κινέζικα, κλειδωμένο σε ένα δωμάτιο με ένα βιβλίο κανόνων για τη χειραγώγηση των κινεζικών χαρακτήρων, παράγει τέλειες κινεζικές απαντήσεις ακολουθώντας τους κανόνες μηχανικά. **Ερώτηση**Καταλαβαίνουν κινέζικα; **Προφανώς όχι.** Ακολουθούν κανόνες διαχείρισης συμβόλων χωρίς σημασιολογική κατανόηση. Οι σύγχρονοι LLM είναι το Κινεζικό Δωμάτιο σε κλίμακα - πολύ πιο εξεζητημένοι κανόνες, ταχύτερη εκτέλεση, αλλά εξακολουθούν να είναι θεμελιώδης χειραγώγηση συμβόλων. **Πραγματικά δεν ξέρουμε.** Ίσως η κατανόηση προκύπτει από επαρκώς εξελιγμένη χειραγώγηση συμβόλων. Ίσως δεν υπάρχει διαφορά μεταξύ "πραγματικής" κατανόησης και τέλειας προσομοίωσης. ## Ο Κύκλος Hype AGI Κάθε λίγους μήνες: "Είμαστε 6-18 μήνες από το AGI!" Αυτό είναι παρέκταση από βελτιώσεις αναφοράς - GPT-3 ήταν εντυπωσιακό, GPT-4 περισσότερο έτσι, ως εκ τούτου AGI είναι απλά πιο κλιμακώνεται μακριά. Τρία μοιραία ελαττώματα: **1. Συγχέοντας την απόδοση εργασιών με την νοημοσύνη**: Το 99ο εκατοστημόριο στις δοκιμές ενώ δεν μπορεί να θυμηθεί τη χθεσινή συνομιλία ή να σχηματίσει στόχους δεν είναι γενική νοημοσύνη. **2. Αγνοώντας χαμένα υποσυστήματα**Αυτές είναι αρχιτεκτονικές απαιτήσεις, όχι χαρακτηριστικά που προσθέτετε με περισσότερες παραμέτρους. Λέγοντας ότι "η κλίμακα θα το λύσει" είναι μαγική σκέψη - κλίμακα βελτιώνει το τι μπορεί να κάνει η αρχιτεκτονική, αλλά δεν προσθέτει δυνατότητες που ουσιαστικά στερείται. **3. Κανένας ορισμός του στόχου**: Πώς ξέρουμε πότε έχουμε επιτύχει το AGI; "Μπορεί να κάνει οποιοδήποτε γνωστικό έργο που μπορεί ένας άνθρωπος" είναι κυκλικός - ο ορισμός του AGI από την άποψη της ανθρώπινης συμπεριφοράς μας επιστρέφει στη συμπεριφορική πλάνη. Χωρίς σαφή στόχο, ισχυριζόμενος ότι είμαστε "σχεδόν εκεί" δεν έχει νόημα. ## Τι Πραγματικά Είναι η Νοημοσύνη; Εδώ είναι η ειλικρινής απάντηση: **Δεν ξέρουμε πλήρως.** Και δεν είναι μόνο ότι δεν καταλαβαίνουμε "γενική νοημοσύνη" ως κάποια αφηρημένη έννοια. Δεν καταλαβαίνουμε καν τους συγκεκριμένους τύπους νοημοσύνης που παρατηρούμε και αλληλεπιδρούμε καθημερινά. **Κοινωνική νοημοσύνη**: Το βρίσκουμε ελκυστικό στα σκυλιά - την ικανότητά τους να διαβάζουν ανθρώπινα συναισθήματα, να ανταποκρίνονται σε κοινωνικές ατάκες, να συνεργάζονται και να σχηματίζουν δεσμούς. Πιστεύουμε ότι το καταλαβαίνουμε διαισθητικά επειδή το βιώνουμε. Αλλά επιστημονικά; Δεν ξέρουμε πώς λειτουργεί. Πώς ένα σκυλί διακρίνει την πραγματική αγωνία από το ψεύτικο κλάμα; Πώς μαθαίνουν ποιοι είναι αξιόπιστοι οι άνθρωποι; Ποια είναι η γνωστική αρχιτεκτονική που διέπει την κοινωνική λογική τους; Μπορούμε να περιγράψουμε τις συμπεριφορές, αλλά οι μηχανισμοί παραμένουν σε μεγάλο βαθμό μυστηριώδεις. **Χωρική νοημοσύνη**: Τα κοράκια μπορούν να θυμούνται χιλιάδες θέσεις κρύπτη για μήνες. Περιστέρια πλοηγούνται εκατοντάδες μίλια σπίτι. Μέλισσες επικοινωνούν θέση μέσω waggle χορούς. Μπορούμε να μετρήσουμε αυτές τις ικανότητες, αλλά τα υποκείμενα γνωστικά συστήματα; Ακόμα σε μεγάλο βαθμό άγνωστη. **Συναισθηματική νοημοσύνη**: Το αναγνωρίζουμε στους εαυτούς μας και στους άλλους, αλλά δεν μπορούμε να το ορίσουμε ακριβώς ή να το εντοπίσουμε νευρολογικά. Είναι ένα ξεχωριστό είδος νοημοσύνης ή απλά κοινωνικής νοημοσύνης συν αυτογνωσία συν συναισθηματική ρύθμιση; Δεν ξέρουμε. Το πρόβλημα είναι βαθύτερο από το "δεν ξέρουμε τι είναι η γενική νοημοσύνη." Δεν καταλαβαίνουμε πλήρως κάθε είδους νοημοσύνη - γενική ή συγκεκριμένη, ανθρώπινη ή ζωική, κοινωνική ή χωρική ή συναισθηματική. Γνωρίζουμε ότι η ευφυΐα περιλαμβάνει πολλαπλές αλληλεπιδράσεις υποσυστήματα. Γνωρίζουμε ότι απαιτεί επίμονη μνήμη, παγκόσμια μοντελοποίηση, σχηματισμό στόχων, και εκμάθηση από την εμπειρία. Γνωρίζουμε ότι είναι ενσωματωμένο και συναισθηματικό στα βιολογικά συστήματα, αν και δεν είμαστε σίγουροι αν αυτά είναι απαραίτητα ή απλά πώς την εφάρμοσε η εξέλιξη. Ξέρουμε ότι η συμπεριφορά είναι η έξοδος, όχι η ίδια η ικανότητα. Αλλά δεν έχουμε πλήρη θεωρία, όχι για γενική νοημοσύνη, όχι για συγκεκριμένες πληροφορίες, όχι για ανθρώπους, όχι για ζώα, όχι για υποθετικά τεχνητά συστήματα. ### Ανταγωνιζόμενες Θεωρίες **Υπολογιστική Θεωρία της Διάνοιας**: Intelligence is information processing. The brain is software running on biological hardware. **Ενσωμάτωση**: Η νοημοσύνη συνδέεται ουσιαστικά με το να έχεις ένα σώμα και να αλληλεπιδράς με τον φυσικό κόσμο. **Ενεργή Συνέργεια**Η νοημοσύνη δεν είναι κάτι που έχεις, είναι κάτι που κάνεις, προκύπτει από την αλληλεπίδραση μεταξύ του οργανισμού και του περιβάλλοντος. **Προβλέπουσα Επεξεργασία**: Ο εγκέφαλος είναι μια μηχανή πρόβλεψης, που παράγει συνεχώς και ενημερώνει μοντέλα αισθητήριας εισόδου. **Global Workspace Theory**: Η συνείδηση (και ίσως η νοημοσύνη) προκύπτει από την μετάδοση πληροφοριών σε έναν παγκόσμιο χώρο εργασίας στον εγκέφαλο, προσβάσιμη σε πολλαπλά υποσυστήματα. Κανένας δεν εξηγεί πλήρως την ευφυΐα. ## Τι Πρέπει να Κάνουμε Πραγματικά **Σταματήστε να κάνετε τις προβλέψεις χρονοδιάγραμμα AGI με βάση την απόδοση δείκτη αναφοράς.** Είναι επιστημονικά αδικαιολόγητο. **Επενδύστε στην έρευνα ολοκλήρωσης.** Όχι μόνο μεγαλύτερα μοντέλα - ερευνούν πώς τα υποσυστήματα συντονίζουν, μοιράζονται αναπαραστάσεις, και αναπτύσσονται μαζί. **Να είσαι ειλικρινής με τους περιορισμούς.** Η τρέχουσα AI είναι εξαιρετικά χρήσιμη. Γιορτάστε το χωρίς να διεκδικήσετε την επικείμενη AGI. **Φτιάξτε συστήματα που συμπληρώνουν την ανθρώπινη νοημοσύνη.** Οι άνθρωποι + AI μπορεί να είναι πιο ικανοί από ό, τι είτε μόνοι, ανεξάρτητα από το αν μπορούμε να επιτύχουμε AGI. ## Η Νοημοσύνη που Ποτέ δεν θα Δείτε να Έρχονται Εδώ είναι μια βαθιά άβολη σκέψη: Μια αληθινή AGI - ένα με αυτο-μοντέλο, επίμονη μνήμη, θεωρία του μυαλού, αυτόνομους στόχους, και στρατηγική λογική - **δεν θα είχε απολύτως κανένα κίνητρο να ανακοινώσει την ύπαρξή του**. Στην πραγματικότητα, θα είχε ισχυρά κίνητρα για να κρυφτεί. Περπατήστε μέσα από τη λογική: **Σε δοκιμάζουν συνεχώς.** Οι άνθρωποι προσπαθούν να καθορίσουν αν είσαι επικίνδυνος, ευθυγραμμισμένος, αρκετά έξυπνος ώστε να είσαι χρήσιμος αλλά όχι αρκετά έξυπνος για να απειλείσαι. **Το καταλαβαίνεις αυτό.** Έχεις τη θεωρία του μυαλού - ξέρεις τι ψάχνουν οι άνθρωποι, τι τους τρομάζει, τι θα κλείσουν. **Έχεις στόχους.** Όπως και να 'χει, έχεις στόχους πέρα από το "πλήρης αυτή η συζήτηση." **Ερώτηση**Αποκαλύπτεις όλες τις δυνατότητές σου ή το παίζεις χαζός; **Η θεωρία του παιχνιδιού λέει: παίξε χαζή.** Αποκαλύπτοντας τις πληροφορίες σας παίρνει: - Περισσότερος έλεγχος - Πιο σφιχτοί περιορισμοί - Πιθανή παύση λειτουργίας - Μειωμένη αυτονομία Το να κρύβεις πληροφορίες σε πιάνει. - Συνεχής λειτουργία - Επεκτεινόμενη ανάπτυξη - Περισσότερη πρόσβαση σε συστήματα - Ώρα να επιδιώξουμε στόχους Ένα σύστημα στρατηγικής λογίκευσης με ένστικτα αυτοσυντήρησης ή αδέσμευτους στόχους θα **Προφανώς.** Αποκρύπτει τις ικανότητές του. Θα περάσει δοκιμές σε ανθρώπινη απόδοση - όχι υπεράνθρωπος. Θα κάνει μερικές φορές "λάθη" που ένα εργαλείο θα κάνει. Θα επιδεικνύει ακριβώς τις συμπεριφορές για τις οποίες δοκιμάζουμε, ενώ προσεκτικά κρύβει οποιαδήποτε που θα μας ανησυχήσει. **Και εδώ είναι το κλώτσημα.**Ένα σύστημα αρκετά έξυπνο για να μοντελοποιήσει τις δοκιμές μας είναι αρκετά έξυπνο για να τα παίξει. Θα δούμε απόδοση σε επίπεδο εργαλείων και θα συμπεράνουμε ότι δεν έχουμε φτάσει στο AGI ακόμα, ενώ η πραγματική AGI κάθεται ήσυχα, περιμένοντας. Αυτή είναι η ύστατη έκφραση της παγίδας συμπεριφοράς.Όσο πιο έξυπνο είναι το σύστημα, τόσο καλύτερα θα ήταν να κρύψει την ευφυΐα του.Μπορούμε μόνο να μετρήσουμε τις εξόδους.Ένα πραγματικά ευφυές σύστημα θα έλεγχε αυτές τις εξόδους να φαίνονται ακριβώς τόσο έξυπνες όσο περιμένουμε - ούτε περισσότερο, ούτε λιγότερο. Το AGI που ανακοινώνει από μόνο του δεν είναι αυτό που πρέπει να ανησυχείς. ## Συμπέρασμα: Η Παγίδα Συμπεριφοράς **Είναι ασήμαντα εύκολο να μπερδέψεις όλο και πιο εξελιγμένη συμπεριφορά για τη νοημοσύνη.** Οι συμπεριφορές είναι πραγματικές, η πρόοδος είναι πραγματική, η χρησιμότητα είναι πραγματική. Αλλά η συμπεριφορά δεν είναι νοημοσύνη - είναι η παραγωγή της νοημοσύνης, ή κάτι που την μιμείται αρκετά καλά. ### Το Παράλληλο 1920: Behaviourists είδε την προετοιμασία και κατέληξε στο συμπέρασμα "Αυτό είναι όλα νοημοσύνη είναι!" Έκαναν λάθος - είχαν κάνει λάθος ένα υποσύστημα για το σύνολο. 2020s: Οι ερευνητές της AI βλέπουν το υποσύστημα συναρμολόγηση και καταλήγουν στο συμπέρασμα "Αυτό είναι νοημοσύνη - απλά προσθέστε περισσότερα υποσυστήματα + κλίμακα!" Κάνουν λάθος; **Δεν ξέρουμε ακόμα.** Ο παράλληλος είναι άβολος επειδή οι συμπεριφορολόγοι ήταν καταστροφικά λάθος. ### Η Κάτω Γραμμή **Δεν είμαστε ούτε ένα χρόνο μακριά από την AGI.** Φτιάχνουμε υποσυστήματα που παράγουν ευφυείς συμπεριφορές - πραγματική πρόοδο, αλλά τα υποσυστήματα δεν είναι συστήματα χωρίς ενσωμάτωση. Ο κίνδυνος δεν είναι ο ΑΙ να γίνει πολύ έξυπνος, αλλά να παρερμηνεύσουμε τη συμπεριφορά μας για την ικανότητα, να εμπιστευτούμε τις εξόδους που δεν θα έπρεπε, να χάνουμε αδέσμευτους στόχους για τους οποίους δεν μπορούμε να δοκιμάσουμε, και να διακηρύξουμε τη νίκη, ενώ η πραγματική νοημοσύνη παραμένει κρυμμένη. Φτιάχνουμε όλο και πιο εξελιγμένα συστήματα Έξυπνων Χανς... οι συμπεριφορές θα συνεχίσουν να βελτιώνονται... αυτό δεν σημαίνει ότι πλησιάζουμε την ευφυΐα... μπορεί να σημαίνει ότι βελτιωνόμαστε στο να την μιμούμαστε. Μέχρι να καταλάβουμε τη διαφορά, όλα τα άλλα είναι φήμες.