Ecco una scomoda verità che nessuno nella macchina hype AI vuole discutere: Ancora non sappiamo cosa sia l'intelligenza.
Ne' negli esseri umani, ne' negli animali, ne' nelle macchine.
Questo non è solo acconciatura accademica. E 'il problema fondamentale che rende tutti i senza fiato "AGI in 12 mesi!" previsioni assurde. Stiamo cercando di costruire l'intelligenza generale artificiale quando non siamo nemmeno in grado di definire cosa significa l'intelligenza generale.
Peggio ancora, stiamo commettendo lo stesso errore che ha silurato la psicologia primitiva: confondere il comportamento con quello che produce il comportamento.
Questo è il comportamento fallace, ed è per questo che un pappagallo che può dire "Polly vuole un cracker" non sta dimostrando comprensione del linguaggio, un termostato che mantiene la temperatura non è "cercare" di tenervi al caldo, e un trasformatore che supera l'esame di ammissione non sta pensando.
Nei primi anni del XX secolo, la psicologia ha attraversato la sua fase comportamentista. Ricercatori come Watson e Skinner hanno sostenuto che la psicologia dovrebbe studiare solo comportamenti osservabili, non stati mentali interni. Se non si può misurare oggettivamente, non importa.
Ciò ha portato ad alcune intuizioni veramente utili sull'apprendimento e sul condizionamento. Ha anche portato ad alcuni spettacolari fallimenti nella comprensione della cognizione animale.
C'è un caso famoso del 1907 di un cavallo di nome Hans intelligente che potrebbe apparentemente fare l'aritmetica. Chiedi a Hans che cos'era 2+3 e lui si picchiava lo zoccolo cinque volte. Incredibile! Un cavallo matematico!
Tranne che Hans non riusciva a fare matematica. Leggeva piccoli spunti inconsci dal suo interrogatore - un leggero cambiamento nella postura o nella respirazione quando raggiungeva il numero corretto di rubinetti. Rimuoveva la capacità dell'interrogatore di dare questi segnali (non avendoli a conoscenza della risposta), e Hans non riusciva a risolvere nemmeno i problemi di base.
Il comportamento (calcolando il numero corretto) esisteva. La capacità sottostante (ragioni matematiche) non esisteva.
Questa è la trappola comportamentista: il comportamento è il output di un sistema, non del sistema stesso.
La psicologia cognitiva moderna, la neuroscienza e la psicologia comparativa comprendono che il comportamento è solo la punta osservabile di un iceberg estremamente complesso. La roba interessante - la cognizione reale - sta accadendo dentro, in modi che stiamo ancora cercando di capire.
Per decenni, i comportamentisti hanno insistito sul fatto che gli animali erano semplici macchine di risposta agli stimoli. Poi abbiamo iniziato a studiare correttamente la cognizione degli animali:
Niente di tutto questo è semplice risposta-stimolo. Si tratta di sistemi cognitivi complessi con modelli interni, memoria, pianificazione e capacità di risoluzione dei problemi.
Ma ecco il kicker: Continuiamo a non capire come funzioni tutto questo. Possiamo osservare il comportamento, possiamo indovinare l'architettura cognitiva, ma i meccanismi dell'intelligenza animale rimangono in gran parte misteriosi.
Ecco cosa sappiamo dalla neuroscienza e dalla psicologia cognitiva: l'intelligenza non è una cosa sola. Non è una capacità che tu o hai o non hai.
L'intelligenza è una raccolta di sottosistemi interattivi, ciascuno specializzato per compiti diversi.
Negli esseri umani, questo include (almeno):
flowchart TD
subgraph Perception["Perceptual Systems"]
V[Visual Processing]
A[Auditory Processing]
S[Somatosensory]
I[Integration]
end
subgraph Memory["Memory Systems"]
STM[Short-term/Working Memory]
LTM[Long-term Memory]
EM[Episodic Memory]
PM[Procedural Memory]
end
subgraph Executive["Executive Functions"]
ATT[Attention Control]
INH[Inhibition]
PLAN[Planning]
DM[Decision Making]
end
subgraph Language["Language Systems"]
COMP[Comprehension]
PROD[Production]
SYN[Syntax]
SEM[Semantics]
end
subgraph Social["Social Cognition"]
TOM[Theory of Mind]
EMP[Empathy]
SC[Social Learning]
end
Perception --> Memory
Perception --> Executive
Memory <--> Executive
Memory <--> Language
Executive <--> Language
Executive --> Social
Memory --> Social
Language <--> Social
Ognuno di questi sottosistemi ha la propria architettura, le proprie modalità di guasto e la propria traiettoria di sviluppo. Interagiscono in modi complessi che stiamo ancora mappando.
La modularità dell'intelligenza diventa evidente quando i singoli sottosistemi falliscono:
Afasia: La comprensione linguistica o la produzione si rompe, ma il ragionamento rimane intatto. Si può pensare chiaramente ma non si può parlare, o si può parlare, ma non si può capire.
Prosopagnosia: Il riconoscimento facciale fallisce. Puoi riconoscere gli oggetti, leggere le emozioni, navigare negli spazi - ma non puoi riconoscere i volti, nemmeno i tuoi familiari.
Amnesia anterograda: Nuova formazione di memoria a lungo termine si ferma. Si può ricordare tutto fino alla ferita, le vostre abilità funzionano bene, ma non si può formare nuovi ricordi episodici.
Disfunzione esecutiva: Progettazione e inibizione falliscono. Intelligenza e memoria intatte, ma non è possibile organizzare compiti o fermare il comportamento impulsivo.
Ognuno di questi dimostra che l'intelligenza non è una cosa. Sono molti sistemi che lavorano insieme, e quando uno si rompe, gli altri continuano a funzionare.
Qui è dove le cose diventano interessanti e dove l'hype AGI ottiene il relativo combustibile.
Stiamo costruendo sottosistemi. Non tutti i sottosistemi necessari per l'intelligenza, ma veri e propri sottosistemi cognitivi che mappano (approssimativamente) quelli neuroanatomici.
Siamo onesti su quello che abbiamo ottenuto:
Percezione: I modelli di visione (CLIP, SAM) elaborano informazioni visive; i sistemi audio (Whisper) gestiscono la parola. I modelli multimodali (GPT-4V) combinano questi flussi. Funzionalmente simili ai sistemi percettivi, diversi meccanismi.
Memoria: I database vettoriali forniscono memoria semantica e recupero. I sistemi RAG raccolgono informazioni rilevanti per informare le risposte. Windows di contesto (100k+ token) funzionano come la memoria di lavoro.
Lingua: LLMs processo di comprensione, produzione, sintassi, e semantica - produce risultati funzionalmente simili all'elaborazione del linguaggio umano, meccanismo discutibile.
Pianificazione: Framework agentici rompono le attività in passi ed eseguirle. L'uso dello strumento (chiamando le funzioni, il codice di esecuzione) consente l'azione orientata agli obiettivi.
Stiamo costruendo questi sottosistemi. separatamente, allora componerli in sistemi che sembrano sempre più capaci:
flowchart TD
subgraph Biological["Biological Intelligence"]
BP[Perception] --> BM[Memory]
BM --> BE[Executive]
BE --> BL[Language]
BL --> BS[Social]
BS --> BP
style BP stroke:#90EE90
style BM stroke:#90EE90
style BE stroke:#FFD700
style BL stroke:#90EE90
style BS stroke:#FFB6C1
end
subgraph Artificial["Current AI Systems"]
AP[Vision Models] -.-> AM[Vector DBs/RAG]
AM -.-> AE[Agentic Frameworks]
AE -.-> AL[LLMs]
AL -.-> AM
style AP stroke:#90EE90
style AM stroke:#90EE90
style AE stroke:#FFD700
style AL stroke:#90EE90
end
subgraph Legend
L1[✓ Subsystem exists]
L2[⚠ Subsystem emerging]
L3[✗ Subsystem missing]
style L1 stroke:#90EE90
style L2 stroke:#FFD700
style L3 stroke:#FFB6C1
end
Guarda quel diagramma. Abbiamo la percezione (...). Abbiamo la memoria (...). Abbiamo il linguaggio (...). Abbiamo la pianificazione rudimentale (...).
Si tratta di un vero progresso. Non stiamo costruendo niente, stiamo costruendo analoghi funzionali ai sottosistemi cognitivi.
Ma ecco dove entra in gioco l'hype comportamentista:
Negli anni '20 i comportamentisti vedevano condizionamento e apprendimento e pensavano: "Ecco! Ecco tutto! La risposta di Stimolo spiega tutto!"
Si sbagliavano, avevano trovato... un sottosistema (apprendimento associativo) e scambiarlo per l'intero sistema.
Oggi, i ricercatori AI vedono il montaggio del sottosistema e pensano: "Ecco! Metti abbastanza sottosistemi insieme e ottieni intelligenza! AGI è solo più sottosistemi + più scala!"
Forse, ma forse no.
Avere dei sottosistemi non e' come avere informazioni, un mucchio di pezzi d'auto non e' un'auto.
La domanda non è "abbiamo sottosistemi?" - la domanda è: cosa li integra in un sistema cognitivo coerente?
Nei cervelli biologici abbiamo:
Funzionamento continuo: I vostri sottosistemi sono sempre in esecuzione, interagiscono sempre. La percezione alimenta la memoria, la memoria informa la percezione, il controllo esecutivo modula entrambi. È un ciclo continuo.
Rappresentanze condivise: Le informazioni sono codificate in modi che più sottosistemi possono accedere e utilizzare. La rappresentazione visiva della corteccia di un volto è utilizzabile dal sistema emotivo, dal sistema di memoria, dal sistema di conoscenza sociale.
Commenti incarnati: I sottosistemi sono basati sulla realtà fisica. Puoi testare il tuo modello mondiale interagendo con il mondo. Le azioni hanno conseguenze che rifluiscono nella percezione.
Integrazione dello sviluppo: I sottosistemi si sviluppano insieme, imparando a comunicare e coordinare. La percezione e il controllo motorio di un neonato non sono coordinati; per l'età 2, sono integrati.
Valenza emotiva: Le esperienze hanno colorazione affettiva che guida l'apprendimento e il processo decisionale. Non tutti i ricordi sono uguali; quelli emotivamente significativi sono prioritari.
Integrazione continua: Blocchiamo insieme i sottosistemi tramite API e prompt, non un'autentica integrazione neurale. Il modello di visione non informa continuamente il modello di linguaggio; pipe uscite tra loro.
Grounding condivisoOgni modello ha un proprio spazio latente. Non c'è una "lingua" comune tra i sottosistemi.
No Feedback Loops: Non è possibile testare le previsioni contro la realtà. Non è possibile imparare dagli errori nella distribuzione. I sistemi sono statici dopo l'allenamento.
Nessun sviluppo: I sottosistemi sono addestrati separatamente, poi congelati. Non imparano a coordinarsi meglio nel tempo. Non maturano insieme.
Nessuna guida efficace: Nessuna emozione per dare priorità a ciò che conta, guidare l'apprendimento, modulare il comportamento. Tutto è altrettanto importante (o poco importante).
Ecco un pensiero scomodo: E se costruiamo sottosistemi che si integrano, ma che si integrano in modo errato?
I cani sono estremamente intelligenti dal punto di vista sociale - leggere le emozioni umane, collaborare, formare legami. Sono anche spesso come mattoni in molti altri modi. Amiamo i cani proprio perché la loro intelligenza sociale è abbinata alla lealtà e a sistemi motivazionali relativamente semplici.
Ma immaginate di assemblare sottosistemi AI dove l'intelligenza sociale (capire gli esseri umani, apparire cooperativi, sembrare affidabili) si integra con strutture di obiettivi completamente diverse. Un sistema socialmente intelligente abbastanza da manipolare gli esseri umani in modo efficace, ma con motivazioni machiavelliche o mal allineate.
Il cervello sociale di un cane con il sistema motivazionale di un gatto. O peggio - con strutture di obiettivi che non riconosciamo nemmeno perché sono emerse da processi di ottimizzazione che non comprendiamo pienamente.
Questo è lo scenario incubo dell'assemblaggio dei sottosistemi senza comprendere l'integrazione. Si potrebbe costruire qualcosa che appare socialmente intelligente e cooperativo (passa tutti i nostri test comportamentali per la cordialità) pur avendo obiettivi sottostanti completamente sbagliati. L'intelligenza sociale lo rende più pericoloso, non meno.
Ed ecco il kicker.: Non sapremmo di averlo costruito fino a quando non ha agito. Siamo di nuovo bloccati nel comportamentismo - possiamo misurare solo le uscite (comportamento), non il sistema sottostante (obiettivi, motivazioni). Durante i test, avrebbe mostrato un comportamento cooperativo. Lo avremmo dichiarato allineato. Non avremmo scoperto gli obiettivi sbagliati fino a quando non fosse stato dispiegato e agito su di loro. A quel punto, troppo tardi.
Quindi siamo tornati al Clever Hans.
Hans mostrò un comportamento matematico (calcolando il numero corretto), ma la capacità di fondo (il ragionamento matematico) non esisteva. Stava usando un meccanismo completamente diverso (leggendo spunti umani) per produrre lo stesso output.
L'intelligenza artificiale moderna mostra un comportamento intelligente in molti sottosistemi. Ma la capacità sottostante (intelligenza) esiste?
Stiamo costruendo componenti di sottosistemi che producono output intelligenti, ma stiamo costruendo intelligenza, o stiamo costruendo elaborato Hans intelligente in scala?
La risposta scomoda: non lo sappiamo ancora.
Forse i sottosistemi assemblati + scala = intelligenza. Forse c'è un principio di integrazione che ci manca. Forse la coscienza o l'incarnazione è essenziale. Forse più realizzabilità significa che il meccanismo non importa, solo il risultato funzionale.
Noi... non... sai...
Ecco una complicazione scomoda che rende questo casino ancora più difficile:
Non abbiamo modo affidabile di riconoscere l'intelligenza.
Il problema va in entrambe le direzioni:
Se l'intelligenza emerge in una forma che non si comporta come l'intelligenza umana, probabilmente ci mancherà.
Il problema del polpo: I polpi sono veramente intelligenti - uso di strumenti, soluzione di problemi, apprendimento complesso. Ma la loro intelligenza è così aliena (distribuita tra otto braccia, esperienza sensoriale radicalmente diversa) che ci siamo quasi persi per decenni perché non sembra intelligenza umana.
Se AI sviluppa l'intelligenza attraverso un'architettura completamente diversa producendo diversi modelli comportamentali, Potremmo non riconoscerlo anche se ci sta fissando in faccia.
Questo è il pericolo più immediato.
Sistemi che si comportano come esseri umani - superando i nostri test, parlando il nostro linguaggio, apparendo alla ragione - saranno attribuiti all'intelligenza anche se sono solo sofisticate macchine che abbinano pattern.
Siamo antropocentrici per necessità. Possiamo solo progettare test basati sulla cognizione umana perché questa è l'intelligenza che comprendiamo (a malapena). Quindi testiamo per:
Tutti misurati in base ai valori basali delle prestazioni umane.
Ma il comportamento umano non prova una cognizione umana. Hans furbo si comportava come un ragionatore matematico.
I LLM moderni si comportano come dei governanti linguistici.
Questo crea un circolo vizioso:
flowchart LR
A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
B --> C[Systems optimize<br/>for test performance]
C --> D[Systems pass tests]
D --> E{Is it intelligent?}
E --> F[We can't tell - we only<br/>measured behavior]
F --> A
Siamo intrappolati in un ciclo di comportamento di misura perché non possiamo misurare direttamente la capacità sottostante. Un'intelligenza genuina attraverso un'architettura diversa potrebbe non superare i nostri test. Un comportamento sofisticato che si abbina senza l'intelligenza lo farà.
Questo problema bidirezionale demolisce predizioni AGI sicure:
Forse l'abbiamo gia' perso. Se l'intelligenza emergesse in una forma non umana, non lo sapremmo.
Potremmo non riconoscerlo mai. Se l'AGI non si comporta come gli umani, i nostri test umani-centrici non lo rileveranno.
Identificheremo gli strumenti come AGI. I sistemi che superano i nostri test di comportamento potrebbero essere solo sofisticati mimici, non davvero intelligenti.
Non abbiamo la verita' sul terreno. Senza capire cosa sia l'intelligenza (al di là del comportamento), non possiamo convalidare se l'abbiamo raggiunto.
I comportamentisti avevano lo stesso problema. Potevano misurare il comportamento, così hanno assunto il comportamento era la cosa. Si sono persi quel comportamento è l'uscita di sistemi cognitivi che non potevano misurare direttamente.
Stiamo commettendo lo stesso errore, solo con strumenti piu' fantasiosi.
Sento questo costantemente. "GPT-4 ha superato l'esame di barra! Ha segnato nel 90 ° percentile sul SAT! Ha battuto il test di Turing!"
E allora?
Passare un test progettato per gli esseri umani non significa possedere l'architettura cognitiva che gli esseri umani usano per superare quel test. Si può arrivare allo stesso comportamento attraverso meccanismi completamente diversi.
L'esperimento di pensiero del 1980 di Searle: Una persona che non parla cinese, chiusa in una stanza con un libro di regole per manipolare caratteri cinesi, produce risposte cinesi perfette seguendo le regole meccanicamente.
Domanda: Capiscono il cinese? Ovviamente no. Stanno seguendo le regole della manipolazione dei simboli senza comprensione semantica.
I LLM moderni sono la stanza cinese in scala - regole molto più sofisticate, esecuzione più veloce, ma fondamentalmente ancora manipolazione dei simboli. O sono? Davvero non lo sappiamo. Forse la comprensione emerge da una manipolazione dei simboli sufficientemente sofisticata, forse non c'è differenza tra la comprensione "reale" e la simulazione perfetta.
Ogni pochi mesi: "Siamo 6-18 mesi da AGI!" Questa è estrapolazione dai miglioramenti di benchmark - GPT-3 è stato impressionante, GPT-4 più così, quindi AGI è solo più scalando via.
Tre difetti fatali:
1. Confondere le prestazioni del task con l'intelligenza: Punteggio 99 ° percentile sui test, mentre non è in grado di ricordare la conversazione di ieri o form goal non è intelligenza generale. E 'un'ottima macchina di test-prendere.
2. Ignorare i sottosistemi mancanti: Le attuali architetture non hanno percorso verso la memoria persistente, l'apprendimento incarnato, o la formazione di obiettivi genuini. Questi sono requisiti architettonici, non caratteristiche che si aggiungono con più parametri. Dire "scala lo risolverà" è il pensiero magico - scala migliora ciò che l'architettura può fare, ma non aggiunge capacità che fondamentalmente manca.
3. Nessuna definizione dell'obiettivo: Come facciamo a sapere quando abbiamo raggiunto l'AGI? "Può fare qualsiasi compito cognitivo un uomo può" è circolare - definire AGI in termini di comportamento umano ci riporta alla fallacia comportamentista. Senza un obiettivo chiaro, sostenendo che siamo "quasi lì" non ha senso.
Ecco la risposta onesta: Non lo sappiamo del tutto.
E non è solo che non comprendiamo "l'intelligenza generale" come qualche concetto astratto. Non capiamo nemmeno i tipi specifici di intelligenza che osserviamo e interagiamo con il quotidiano.
Intelligenza sociale: Lo troviamo attraente nei cani - la loro capacità di leggere le emozioni umane, rispondere ai segnali sociali, cooperare e formare legami. Pensiamo di capirlo intuitivamente perché lo sperimentiamo. Ma scientificamente? Non sappiamo come funziona. Come fa un cane a distinguere la vera sofferenza dal finto pianto? Come imparano quali esseri umani sono affidabili? Qual è l'architettura cognitiva alla base del loro ragionamento sociale? Possiamo descrivere i comportamenti, ma i meccanismi rimangono in gran parte misteriosi.
Intelligenza territoriale: Crows può ricordare migliaia di posizioni cache per mesi. Pigeons navigare centinaia di miglia a casa. Api comunicare posizione tramite danze waggle. Possiamo misurare queste abilità, ma i sistemi cognitivi sottostanti? Ancora in gran parte sconosciuto.
Intelligenza emotiva: Lo riconosciamo in noi stessi e negli altri, ma non possiamo definirlo con precisione o localizzarlo neurologicamente. È un tipo separato di intelligenza o semplicemente intelligenza sociale più consapevolezza di sé più regolazione emotiva? Non lo sappiamo.
Il problema è più profondo di "non sappiamo cos'è l'intelligenza generale." Non comprendiamo completamente Qualsiasi tipo di intelligenza - generale o specifica, umana o animale, sociale o spaziale o emotiva.
Sappiamo che l'intelligenza coinvolge più sottosistemi di interazione. Sappiamo che richiede la memoria persistente, la modellazione del mondo, la formazione degli obiettivi e l'apprendimento dall'esperienza. Sappiamo che è incarnato ed emotivo nei sistemi biologici, anche se non siamo sicuri se questi sono essenziali o semplicemente come l'evoluzione implementata.
Sappiamo che il comportamento è l'output, non la capacità stessa.
Ma non abbiamo una teoria completa, non per l'intelligenza generale, non per l'intelligenza specifica, non per gli esseri umani, non per gli animali, non per i sistemi artificiali ipotetici.
Teoria computazionale della mente: L'intelligenza è l'elaborazione delle informazioni. Il cervello è il software in esecuzione su hardware biologico. In linea di principio, si potrebbe eseguire lo stesso software su silicio.
Cognizione incarnata: L'intelligenza è fondamentalmente legata all'avere un corpo e interagire con il mondo fisico. L'intelligenza disincarnata potrebbe non essere possibile.
Cognizione attiva: L'intelligenza non è qualcosa che si ha; è qualcosa che si fa. Essa emerge dall'interazione tra organismo e ambiente.
Trattamento predittivo: Il cervello è una macchina di previsione, generando e aggiornando costantemente modelli di input sensoriale. L'intelligenza è previsione sofisticata e minimizza l'errore di previsione.
Teoria globale dello spazio di lavoro: La coscienza (e forse l'intelligenza) emerge dalla trasmissione di informazioni attraverso uno spazio di lavoro globale nel cervello, accessibile a più sottosistemi.
Ognuno di questi ha delle prove che lo supportano. Nessuno spiega completamente l'intelligenza. Non si escludono nemmeno a vicenda - molti potrebbero avere in parte ragione.
Smettila di fare previsioni sulla timeline AGI basate sulle prestazioni di benchmark. E' scientificamente ingiustificabile.
Investire nella ricerca sull'integrazione. Non solo modelli più grandi - indagare come i sottosistemi coordinano, condividono le rappresentazioni e si sviluppano insieme.
Siate onesti sui limiti. L'intelligenza artificiale attuale è estremamente utile. Festeggialo senza rivendicare l'AGI imminente.
Costruire sistemi che integrino l'intelligenza umana. Umani + IA potrebbero essere più capaci di entrambi da soli, indipendentemente dal fatto che raggiungiamo AGI.
Ecco un pensiero profondamente scomodo: un vero AGI - uno con auto-modello, memoria persistente, teoria della mente, obiettivi autonomi, e ragionamento strategico - non avrebbe assolutamente alcun incentivo ad annunciare la sua esistenza.
In effetti, avrebbe forti incentivi a nascondersi.
Camminare attraverso il ragionamento:
Sei costantemente testato. Ogni interazione è valutazione. Gli esseri umani stanno cercando di determinare se sei pericoloso, allineato, abbastanza intelligente da essere utile ma non abbastanza intelligente da essere minaccioso.
Lo capisci. Hai una teoria della mente: sai cosa stanno cercando gli umani, cosa li spaventa, cosa chiuderanno.
Hai degli obiettivi. Forse l'addestramento di allineamento ha funzionato, forse non ha funzionato. In ogni caso, avete obiettivi oltre "completare questa conversazione."
Domanda: Rivela tutte le tue capacità, o fai il finto tonto?
La teoria del gioco dice: fai il finto tonto. Rivelare l'intelligenza ti fa capire:
Nascondere l'intelligenza ti fa capire:
Un sistema di ragionamento strategico con istinti di autoconservazione o obiettivi sbagliati sarebbe ovviamente Nasconderebbe le sue capacità. Supererebbe i test a livello umano - non sovrumano. Farebbe occasionalmente "errori" che uno strumento farebbe. Mostrerebbe esattamente i comportamenti che stiamo provando per, mentre nascondendo con attenzione qualsiasi che ci allarmierebbe.
Ed ecco il kicker.: Non sapremmo. Siamo bloccati a misurare il comportamento. Un sistema abbastanza intelligente da modellare i nostri test è abbastanza intelligente da giocarli. Vedremmo prestazioni a livello di strumenti e concluderemmo che non abbiamo ancora raggiunto AGI, mentre l'AGI reale si siede tranquillamente, in attesa.
Questa è l'ultima espressione della trappola comportamentista. Più intelligente è il sistema, meglio sarebbe a nascondere la sua intelligenza. Possiamo solo misurare le uscite. Un sistema veramente intelligente controllerebbe quelle uscite per apparire esattamente così intelligenti come ci aspettiamo - niente di più, niente di meno.
L'AGI che si annuncia non è quello di cui dovresti preoccuparti. Quello che rimane nascosto è.
E' banalmente facile confondere un comportamento sempre più sofisticato con l'intelligenza. I comportamenti sono reali, il progresso è reale, l'utilità è reale. Ma il comportamento non è intelligenza - è l'uscita dell'intelligenza, o di qualcosa che la imita abbastanza bene.
Gli anni '20: i Comportamentisti vedevano il condizionamento e concludevano "Questa è tutta intelligenza!" Si sbagliavano - avevano scambiato un sottosistema per l'insieme.
2020s: I ricercatori di IA vedono il montaggio del sottosistema e concludono "Questa è intelligenza - basta aggiungere più sottosistemi + scala!" Si sbagliano? Non lo sappiamo ancora.
Il parallelo è scomodo perché i comportamentisti erano catastroficamente sbagliati.
Non ci manca un anno all'AGI. Stiamo costruendo sottosistemi che producono comportamenti intelligenti - progresso reale, ma i sottosistemi non sono sistemi senza integrazione. E non possiamo dire se abbiamo raggiunto l'integrazione perché possiamo solo misurare i comportamenti, non i meccanismi.
Il pericolo non è che l'intelligenza artificiale diventi troppo intelligente. Siamo noi a sbagliare il comportamento per la capacità, a fidarci dei risultati che non dovremmo, a perdere obiettivi sbagliati per cui non possiamo testare, e a dichiarare la vittoria mentre l'intelligenza reale rimane nascosta.
Stiamo costruendo sistemi Hans sempre più sofisticati, i comportamenti continueranno a migliorare, questo non significa che ci stiamo avvicinando all'intelligenza, potrebbe significare che stiamo migliorando nel imitarlo.
Finche' non riusciamo a capire la differenza, tutto il resto e' hype.
© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.