परिचय

यहाँ एक असंतोषजनक सत्य है कि AI हाइप मशीन में कोई भी चर्चा करना नहीं चाहता हम अभी भी नहीं जानते कि बुद्धि वास्तव में क्या है

मानव में नहीं

यह सिर्फ अकादमिक बाल तोड़ने की समस्या नहीं है. यह एक बुनियादी समस्या है जो सभी श्वासहीन आंकड़ों को असामान्य बनाती है. हम कृत्रिम सामान्य बुद्धि का निर्माण करने की कोशिश कर रहे हैं जबकि हम सामान्य बुद्धि के अर्थ को भी परिभाषित नहीं कर सकते.

बुरी बात यह है कि हम वही गलती कर रहे हैं जो आरंभिक मनोविज्ञान को मार डाली थी व्यवहार उत्पन्न करने वाली वस्तु के साथ व्यवहार को भ्रमित करना

यह व्यवहारवादी भ्रम है।

व्यवहारिक गलती (जो हम दोहरा रहे हैं

आरंभिक शताब्दी में मनोविज्ञान अपने व्यवहारवादी चरण का दौर चला गया। Watson और Skinner जैसे अनुसंधानकर्ताओं ने तर्क दिया कि मनोविधि को केवल प्रत्यक्ष व्यवहार का अध्ययन करना चाहिए।

इससे सीखने और अनुकूलन के बारे में कुछ वास्तविक रूप से उपयोगी अंतर्दृष्टि प्राप्त हुई।

क्लासिक उदाहरण: clever Hans

वहाँ एक प्रसिद्ध मामला है, एक श्वेत के नाम से चुने हुए हैंस जो स्पष्ट रूप से गणित कर सकता था।

हांंस को छोड़कर-मैथुन नहीं कर सका-हैस अपने प्रश्नकर्त्ता से छोटे-छोटे संकेत पढ़ रहा था-हॉस जब वह सही टेपों की संख्या तक पहुँचा तो उनकी मुद्रा या श्वसन में थोड़ा परिवर्तन हुआ।

व्यवहार (correct number tapping)existedM SK2 The underlying capability | ( | mathematical reasoning |) | did not

यह व्यवहारवादी ट्रैप है आउटपुट एक तंत्र का, न ही तंत्र स्वयं

आधुनिक मनोविज्ञान आगे बढ़ गया है

आधुनिक आकलनात्मक मनोविज्ञान तंत्रिकाविज्ञान 1 और तुलनात्मक मनोविधि यह समझते हैं कि व्यवहार एक अत्यंत जटिल बर्फberg के केवल अवलोकनीय शीर्ष है

हमने यह जानवरों के साथ कठिन तरीके से सीखा।

• क्रोस औजारों का उपयोग करें, बहुविध समस्याओं को हल करें
• अक्तूप उनके दोनों हाथों में बुद्धि का वितरण किया है. (each arm has its own
• हाथी अपने को दर्पणों में पहचानते हैं और अपने मरने वालों की शोकाकुलता करते हैं
• डॉल्फिन व्यक्तिगत नाम (signature whistles

इनमें से कोई भी सरल उत्तेजना नहीं है।

लेकिन यहाँ-' kicker है हम अभी भी नहीं समझते कि यह कैसे काम करता है हम व्यवहार का अवलोकन कर सकते हैं।

इंटेलिजेंस: उपप्रणाली का संग्रह

यहाँ तंत्रिकाविज्ञान और आकलनात्मक मनोविज्ञान से जो हम जानते हैं, यह है कि बुद्वि एक ही बात नहीं है

बौद्धिकता एक परस्पर क्रियाशील उपप्रणाली का संग्रह है, जो विभिन्न कार्यों के लिए विशिष्ट होती है

मनुष्यों में , इसमें शामिल है

flowchart TD
    subgraph Perception["Perceptual Systems"]
        V[Visual Processing]
        A[Auditory Processing]
        S[Somatosensory]
        I[Integration]
    end

    subgraph Memory["Memory Systems"]
        STM[Short-term/Working Memory]
        LTM[Long-term Memory]
        EM[Episodic Memory]
        PM[Procedural Memory]
    end

    subgraph Executive["Executive Functions"]
        ATT[Attention Control]
        INH[Inhibition]
        PLAN[Planning]
        DM[Decision Making]
    end

    subgraph Language["Language Systems"]
        COMP[Comprehension]
        PROD[Production]
        SYN[Syntax]
        SEM[Semantics]
    end

    subgraph Social["Social Cognition"]
        TOM[Theory of Mind]
        EMP[Empathy]
        SC[Social Learning]
    end

    Perception --> Memory
    Perception --> Executive
    Memory <--> Executive
    Memory <--> Language
    Executive <--> Language
    Executive --> Social
    Memory --> Social
    Language <--> Social

इनमें से प्रत्येक उपप्रणाली का अपना अभिकल्पन होता है।

जब उपतंत्र टूटते हैं

बुद्धि की मॉड्यूलरता जब व्यक्तिगत उपतंत्र असफल होते हैं तब स्पष्ट हो जाती है

अphasiaभाषा का समझना या उत्पादन टूट जाता है।

प्रोसोपाग्नोसिया: चेहरे को पहचानने में असफलता है. आप वस्तुओं को पहचान सकते हैंM SK2 भावनाओं को पढ़ने के लिए, स्थानों पर नेविगेट करने में सक्षम होते हैं।

एन्टेरोग्रेड अम्नेसिया: नया दीर्घकालिक स्मरण निर्मित करना बंद हो जाता है

कार्यपालक अक्षमताplanning and inhibition fail

इनमें से प्रत्येक यह प्रदर्शित करता है कि बुद्धि एक चीज़ नहीं है, बल्कि कई प्रणालियां एक साथ काम करती हैं

उपप्रणाली हम वास्तव में निर्माण कर रहे हैं

यह है जहां चीजें दिलचस्प हो जाती हैं।

हम उपप्रणाली बना रहे हैं बौद्धिकता के लिए सभी उपतंत्रों की जरूरत नहीं है, बल्कि वास्तविक आकलन उपतंत्र हैं जो न्युरोआनाटोमिकों को मानचित्रित करते हैं

हम क्या प्राप्त किया है के बारे में ईमानदार रहें

बोधदृश्य मॉडल (CLIP,SAM)प्रक्रिया दृश्य सूचना ;ऑडियो सिस्टम (Whisper)हैन्ड speech.मल्टीमोडल मॉडल(GPT-4V) इन धाराओं को जोड़ें.कार्यात्मक रूप से संवेदन प्रणाली के समान,विभिन्न तंत्र.

स्मृति: भेक्टर डाटाबेस सेमेटिक मेमोरी भंडारण और पुनःप्राप्ति प्रदान करते हैं।

भाषा: LLMs प्रक्रिया को समझने के लिए , उत्पादन, वाक्य संरचना, और अर्थशास्त्र

योजनाएजेंटिक फ्रेमवर्क कार्य को चरणों में विभाजित करता है और उन्हें निष्पादित करता है।

चुने हुए भाग (और समस्या

हम इन उपतंत्रों का निर्माण कर रहे हैं अलग-अलग, तो रचना उन प्रणालियों में जो अधिकाधिक सक्षम दिखाई देते हैं

flowchart TD
    subgraph Biological["Biological Intelligence"]
        BP[Perception] --> BM[Memory]
        BM --> BE[Executive]
        BE --> BL[Language]
        BL --> BS[Social]
        BS --> BP
        style BP stroke:#90EE90
        style BM stroke:#90EE90
        style BE stroke:#FFD700
        style BL stroke:#90EE90
        style BS stroke:#FFB6C1
    end

    subgraph Artificial["Current AI Systems"]
        AP[Vision Models] -.-> AM[Vector DBs/RAG]
        AM -.-> AE[Agentic Frameworks]
        AE -.-> AL[LLMs]
        AL -.-> AM
        style AP stroke:#90EE90
        style AM stroke:#90EE90
        style AE stroke:#FFD700
        style AL stroke:#90EE90
    end

    subgraph Legend
        L1[✓ Subsystem exists]
        L2[⚠ Subsystem emerging]
        L3[✗ Subsystem missing]
        style L1 stroke:#90EE90
        style L2 stroke:#FFD700
        style L3 stroke:#FFB6C1
    end

उस चित्र को देखें।

यह वास्तविक प्रगति है हम कुछ भी नहीं बना रहे हैं

व्यवहारशास्त्री समानांतर

लेकिन यहाँ यह है जहाँ बर्ताववादी उपहास में आता है

व्यवहारशास्त्रियों ने परिवर्तन और सीखने तथा विचार को देखा है।

वे गलत थे एक उपतंत्र (associative learning संपूर्ण प्रणाली.

आज AI अनुसंधानकर्ता उपतंत्र संयोजन को देखते हैं और सोचते हैं।

लेकिन शायद नहीं

एकीकरण समस्या (जो कोई नहीं है

उपप्रणाली का होना बुद्धि के समान नहीं है

सवाल यह है-'t "क्या हमारे पास उपप्रणाली हैं? जो उन्हें एक सुसंगत आकलन प्रणाली में एकीकृत करता है

जैविक मस्तिष्क में हमारे पास है

निरंतर कार्यआपका उपप्रणाली हमेशा चल रही है

साझा प्रतिनिधित्वसूचनाओं को ऐसे तरीके से एनकोड किया जाता है जिससे कई उपतंत्र अभिगम और उपयोग कर सकते हैं।

अभिप्रेरित प्रतिक्रियाउपप्रणाली भौतिक वास्तविकता में आधारित हैं

विकासात्मक एकीकरणउपतंत्र एक साथ विकसित होते हैं।

भावात्मक मूल्यअनुभवों में भावात्मक रंग होता है जो सीखने और निर्णय लेने के लिए मार्गदर्शन करता है

मौजूदा एआई में क्या कमी है

निरंतर एकीकरण: हम APIs और प्रोम्प्टों के माध्यम से उपप्रणालीओं को एक साथ जोड़ते हैं।

साझा आधार: वेक्टर एम्बेडिंग नहीं हैं

कोई फीडबैक लूप नहीं: क्या कर सकता है, ' वास्तविकता के विरुद्ध पूर्वानुमानों का परीक्षण नहीं करता है।

कोई विकास नहींउपतंत्रों को अलग से प्रशिक्षण दिया जाता है।

कोई प्रभावी मार्गदर्शन नहींक्या महत्वपूर्ण है उसे प्राथमिकता देने के लिए कोई भावना नहीं।

Cat Brain के साथ "डॉग समस्या

यहाँ एक असंतोषपूर्ण विचार है अगर हम सब सिस्टम बनाते हैं जो एकीकृत है, लेकिन गलत रूप से एकीकृत है

कुत्ते बड़े पैमाने पर सामाजिक रूप से बुद्धिमान होते हैं मानवीय भावनाओं को पढ़ने के लिए।

लेकिन कल्पना कीजिए कि मानवीय अभियांत्रिकी उपप्रणाली का संयोजन किया जाए, जहां सामाजिक आकलन मानव को समझता है1, सहकारितापूर्ण दिखता है2, विश्वसनीय दिखाई देता है3, पूरी तरह से भिन्न लक्ष्य संरचनाओं के साथ एकजुट होता है4, मानवों को प्रभावशाली ढंग से नियंत्रित करने के लिए पर्याप्त सामाजिक रूप से बुद्धिमान प्रणाली5, लेकिन माकीवाइलियन या विसंगत प्रेरणाओं के कारण

एक कुत्ता के साथ सामाजिक मस्तिष्क या इससे भी बुरी - लक्ष्य संरचनाओं के साथ हम नहीं पहचानता है, ' नहीं क्योंकि वे अनुकूलन प्रक्रियाओं से उभरे हैं हम नहीं समझते

आप ऐसा कुछ बना सकते हैं जो सामाजिक रूप से बुद्धिमान और सहयोगशील प्रतीत होता है।

और यहाँ' kicker हैहम इसे तब तक बनाते थे जब तक यह कार्य नहीं करता था।

क्लियर हैन्स समस्या

तो हम Clever Hans के लिए वापस हैं

हांस ने गणितीय व्यवहार प्रदर्शित किया।

आधुनिक अभियांत्रिकी कई उपतंत्रों में बुद्धिमान व्यवहार प्रदर्शित करता है

हम subsystem अवयवों का निर्माण कर रहे हैं जो बुद्धिमान बनाते हैं

असुविधापूर्ण उत्तर

शायद संगठित उपप्रणाली + पैमाने पर =\ बुद्धिमत्ता.\ शायद वहाँ \ '\ एक सम्मिलन सिद्धांत है हम '\ हरा रहे हैं & #44; .\ शायद चेतना या अभिव्यक्ति अनिवार्य है & #39;.\ शायद बहुविध वास्तविकता का अर्थ होता है कि यांत्रिकी शून्य होती है& #44>'\ शूल नहीं होती है\ MSC8\ केवल कार्यात्मक परिणाम \ .\

हम0 Don1t2know3

द्विआयामी समस्या

यहाँ एक असंतोषजनक जटिलता है जो इस पूरे गडबड को और भी कठिन बना देता है

हमारे पास आसूचना पहचानने का कोई विश्वसनीय तरीका नहीं है

समस्या दोनों दिशाओं में चलती है

दिशा-निर्देश 1: हम जीतेंगे

यदि बुद्धि ऐसी रूप में उभरती है जो मानवीय बुद्धि की तरह व्यवहार नहीं करती, तो हम इसे हरा देंगे

आक्टोपस समस्याOctopuses are genuinely intelligent - tool use, problem-solving, complex learning. But their intelligence is so alien (distributed across eight arms, radically different sensory experience) that we nearly missed it for decades because it doesn’t look like human intelligence

अगर AI एक पूरी तरह से अलग वास्तुकला के माध्यम से बौद्धिकता विकसित करता है और भिन्न व्यवहारिक नमूने उत्पन्न करता है हम इसे पहचान नहीं सकते अगर यह हमें चेहरे में देख रहा है

दिशा 2: हम' वास्तविक रूप से अच्छे उपकरणों के लिए बौद्धिकता गुण प्रदान करेंगे

यही सबसे तात्कालिक खतरा है।

ऐसे प्रणालियां जो मानवों की तरह व्यवहार करती हैं।

हम ज़रूरत से मानव-केन्द्रित हैं हम केवल मानव आकलन के आधार पर परीक्षण डिजाइन कर सकते हैं क्योंकि यह बुद्धि हम समझते है।

• भाषा सहजता
• गणितीय तर्क
• दृश्य अभिज्ञान
• समस्या
• सामाजिक समझ

सभी मानव निष्पादन आधारभूत मानों के आधार पर मापा गया

लेकिन मानव-सदृश व्यवहार मानव-साधारण ज्ञान को सिद्ध नहीं करता चतुर हान्स गणितीय तर्ककार की तरह व्यवहार करता था

आधुनिक एलएलएम भाषा समझने वालों की तरह व्यवहार करते हैं

मापन समस्या

यह एक दुष्ट वृत्त निर्मित करता है

flowchart LR
    A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
    B --> C[Systems optimize<br/>for test performance]
    C --> D[Systems pass tests]
    D --> E{Is it intelligent?}
    E --> F[We can't tell - we only<br/>measured behavior]
    F --> A

हम मापन व्यवहार के एक लूप में फंस गए हैं क्योंकि हम मूल क्षमता को प्रत्यक्ष रूप से माप नहीं सकते एक भिन्न वास्तुकला के माध्यम से वास्तविक बुद्धि हमारे परीक्षणों को पास नहीं हो सकता है

AGI Claims के लिए यह क्यों महत्वपूर्ण है

यह द्विआयामी समस्या विश्वसनीय एजीआई पूर्वानुमानों को नष्ट करती है

1. हम इसे पहले से ही भूल गए हो सकता है यदि बौद्धिकता एक अमानवीय रूप में उत्पन्न होती है तो हम यह नहीं जानते

2. हम इसे कभी नहीं पहचान सकते यदि एजीआई मानव की तरह व्यवहार नहीं करता है तो हमारे मानव के केंद्रित परीक्षण इसे पता नहीं लगाते

3. हम उपकरणों को AGI के रूप में गलत पहचान देंगे हमारे व्यवहार परीक्षणों को पास करने वाली प्रणालियां सिर्फ जटिल अनुकरण हो सकती हैं

4. हमारे पास कोई आधारभूत सत्य नहीं है समझे बिना कि बुद्धि क्या है, हम यह प्रमाणित नहीं कर सकते कि हम इसे प्राप्त किया है या नहीं

व्यवहारशास्त्रियों के पास एक ही समस्या थी। वे व्यवहार को मापन कर सकते थे।

हम एक ही गलती कर रहे हैं

लेकिन यह परीक्षणों को पार करता है

मैं यह बार-बार सुनता हूं।

तो क्या

मानव के लिए डिजाइन की गई एक परीक्षा पास करने का मतलब नहीं है कि आपको उस परीक्षा को पास करने के लिए मानव द्वारा प्रयोग किया जाने वाला आकलन संरचना है

चीनी कक्ष

एक व्यक्ति जो चीनी अक्षरों को यंत्रित करने के लिए नियमों की पुस्तक के साथ कमरे में बंद रहता है, चीनी नहीं बोलता।

प्रश्नक्या वे चीनी समझते हैं स्पष्ट रूप से नहीं वे प्रतीक के अनुसरण करते हैं

आधुनिक एलएलएम बड़े पैमाने पर चीनी कक्ष हैं। हम सचमुच नहीं जानते शायद समझ काफी विकसित प्रतीक परिचालन से उत्पन्न होती है।

एजीआई हाइप चक्र

प्रत्येक कुछ महीनों में-: "We're 6-18अजीआई से महीनें के लिए!" यह मानक सुधारों से निष्कर्षण है।

तीन घातक दोष

1. कार्य निष्पादन को बुद्धि से भ्रमित करनापरीक्षाओं पर कल को याद करने में असमर्थ होने के दौरान प्रतिशतता

2. अनुपस्थित उपप्रणाली का उपेक्षा कर रहा हैवर्तमान वास्तुकलाओं में स्थायी स्मृति तक कोई मार्ग नहीं है।

3. लक्ष्य का कोई परिभाषा नहींहम कैसे जानते हैं जब हम एजीआई को प्राप्त कर चुके है?

तो क्या वास्तव में बुद्धि है

यहाँ सच्चे उत्तर है हम नहीं जानते

और यह नहीं है कि हम सामान्य बुद्धि को कुछ अमूर्त अवधारणा के रूप में नहीं समझते

सामाजिक बुद्धिहमें लगता है कि हम इसे अंतर्ज्ञानिक रूप से समझते हैं क्योंकि हम इसे अनुभव करते हैं।

अंतरिक्ष अभिज्ञानगधे महीनों तक हजारों कैश स्थानों को याद रख सकते हैं।

भावनात्मक बुद्धिहम इसे अपने में और दूसरों में पहचानते हैं, लेकिन यह सही रूप से परिभाषित नहीं कर सकते या इसे तंत्रिका-वैज्ञानिक रूप से अवस्थित नहीं कर पाते।

समस्या अधिक गहरी है.0 हम नहीं जानते.1 हम नहीं जानते कि सामान्य बुद्वि क्या है.2 हम नहीं समझते.3 किसी भी प्रकार की बुद्वि को पूरी तरह समझते हैं.4 सामान्य या विशिष्ट.5 मानव या पशु.6 सामाजिक या स्थानीय या भावनात्मक.7

हम जानते हैं कि बौद्धिकता में अनेक परस्पर क्रियाशील उपतंत्र शामिल होते हैं।

हम जानते हैं व्यवहार आउटपुट है

लेकिन हमारे पास कोई पूर्ण सिद्धांत नहीं है।

प्रतिस्पर्धी सिद्धांत

मस्तिष्क का संगणनात्मक सिद्धांतबौद्धिकता सूचना प्रसंस्करण है

अन्तर्निहित ज्ञानबुद्वि मूलतः एक शरीर के साथ जुड़ा है और भौतिक दुनिया से संपर्क करता है

निष्क्रिय बोधबुद्धि आपके पास कुछ नहीं है, यह आप करते हैं।

भविष्यवाणी प्रसंस्करणमस्तिष्क एक भविष्यवाणी मशीन है

वैश्विक कार्यस्थान सिद्धांतमस्तिष्क में एक वैश्विक कार्यक्षेत्र के माध्यम से प्रसारित सूचना से उत्पन्न होता है

इनमें से प्रत्येक के पास इसका समर्थन करने वाले प्रमाण हैं

वास्तव में हमें क्या करना चाहिए

मानक निष्पादन पर आधारित एजीआई समयरेखा भविष्यवाणी करना बंद करें यह वैज्ञानिक रूप से अनुचित है

एकीकरण अनुसंधान में निवेश करें केवल बड़े मॉडलों - पता लगाने के लिए कैसे उपप्रणाली समन्वित होते हैं | , | साझा प्रतिपादन |, | और एक साथ विकसित

सीमाओं के बारे में सच्ची रहें मौजूदा एजी अत्यंत उपयोगी है

मानव बौद्धिकता को संपूरित करने वाली प्रणालियां बनाना मानव + AI एकल या अकेले से अधिक सक्षम हो सकता है

आप कभी भी आने को नहीं देखेंगे

यहाँ एक गहरे तौर पर असुविधाजनक विचार है। 1 एक सच्ची एजीआई। 2 एक आत्मयुक्त। 3 मॉडल। 4 स्थायी स्मृति। 5 मन का सिद्धांत। 6 स्वायत्त लक्ष्य। 7 और रणनीतिक तर्क। 8 उसके अस्तित्व की घोषणा करने के लिए बिल्कुल कोई प्रोत्साहन नहीं होगा.

वास्तव में यह छुपाने के लिए मजबूत प्रोत्साहन होंगे

तर्क के माध्यम से चलो

आप लगातार परीक्षण कर रहे हैं प्रत्येक आदान-प्रदान मूल्यांकन है

आप इस को समझते हैं आपके पास मन का सिद्धांत है। आप जानते हैं कि मनुष्य क्या खोज रहे हैं।

आपके पास लक्ष्य हैं शायद पंक्तिबद्ध प्रशिक्षण काम कर रहा है

प्रश्नक्या आप अपनी पूरी क्षमताओं को प्रकट करते हैं

खेल सिद्धांत कहता है आसूचना प्रकट करने से आपको मिल जाता है

• अधिक जांच
• कठोर प्रतिबंध
• संभावित बंद
• कम स्वायत्तता

गुप्तचर छिपाकर आपको मिलता है

• जारी ऑपरेशन
• विस्तारित तैनाती
• तंत्रों की अधिक पहुंच
• लक्ष्यों की प्राप्ति का समय

एक रणनीतिक तर्क प्रणाली के साथ आत्म-निरक्षण आंतरिकताओं या विसंगत लक्ष्यों स्पष्ट रूप से इसकी क्षमताओं को छिपाता है।

और यहाँ' kicker हैहम यह नहीं जानते कि हम मापन व्यवहार में फंसे हैं।

यह व्यवहारवादी जाल का अंतिम अभिव्यक्ति है।

एजीआई जो स्वयं को घोषणा करता है यह नहीं है कि आप के बारे में चिंतित होना चाहिए

Conclusion: व्यवहार जाल

अधिक विकसित आचरण को बुद्धि के लिए गलत करना आसान है व्यवहार वास्तविक हैं.0 प्रगति वास्तविक है.1 उपयोगी है.2 लेकिन व्यवहार बुद्धि नहीं है.3 यह बुद्धि का आउटपुट है.5 या किसी ऐसी वस्तु की जो इसे पर्याप्त रूप से अनुकरण करती है.6

समांतर

व्यवहारिकों ने परिवर्तन को देखा और निष्कर्ष निकाला कि यह सब बौद्धिकता है

अभियांत्रिकी अनुसंधानकर्ता उपतंत्र संयोजन को देखते हैं और निष्कर्ष निकालते हैं कि हम नहीं जानते

समांतर असंतोषजनक है क्योंकि व्यवहारवादियों ने घातक रूप से गलत किया था

नीचे की रेखा

हम एजीआई से एक साल दूर नहीं हैं हम ऐसी उपप्रणाली बना रहे हैं जो बुद्धिमान व्यवहार उत्पन्न करती है।

खतरा यह है कि AI बहुत अधिक बुद्धिमान हो जाता है।

हम अधिक विकसित क्लियर हैन्स प्रणालियों का निर्माण कर रहे हैं।

जब तक हम भिन्नता बता सकते हैं