هذه حقيقة غير مريحة أن لا أحد في الـ AI آلة hype يُريدُ المُنَاقَشَة: ما زلنا لا نعرف ما هي الإستخبارات في الواقع.
ليس في البشر ولا في الحيوانات وبالتأكيد ليس في الآلات
هذه ليست مجرد فكرة أكاديمية عن تقسيم الشعر. إنها المشكلة الأساسية التي تجعل كل "AGI في 12 شهراً" غير أنفاسها "AGI في 12 شهراً!" تنبؤات سخيفة. نحن نحاول بناء ذكاء عام اصطناعي عندما لا نستطيع حتى تعريف ما يعنيه الذكاء العام.
والأسوأ من ذلك، أننا نرتكب نفس الخطأ الذي تسبب في علم النفس المبكر: سلوك مُربك مع الشيء الذي يُنتج السلوك.
هذا هو السلوك السلوكي المغلوط، ولهذا السبب الببغاء الذي يمكن أن يقول "بولي يريد بسكويت" لا يُظهِر فهم اللغة،
في أوائل القرن العشرين، مر علم النفس بمرحلة السلوكية. ذهب الباحثون مثل واتسون وسكينر إلى القول بأن علم النفس ينبغي أن يدرس السلوك المرئي فقط، وليس الحالات العقلية الداخلية. إذا كنت لا تستطيع قياسه بموضوعية، فإنه لا يهم.
وأدى ذلك إلى بعض الرؤى المفيدة حقاً بشأن التعلم والتكييف، كما أدى إلى بعض الإخفاقات المذهلة في فهم الإدراك الحيواني.
هناك حالة مشهورة من عام 1907 لحصان يدعى (هانز) الذكي والذي من الواضح أنه يستطيع القيام بالحساب. إسأل (هانز) ماذا كان 2+3،
باستثناء أن هانس لم يستطع القيام بالرياضيات على الإطلاق. كان يقرأ إشارات صغيرة غير واعية من مسألته - تغير طفيف في الموقف أو التنفس عندما وصل إلى العدد الصحيح من الصنابير. أزل قدرة المستجوب على إعطاء هذه الإشارات (من خلال عدم معرفتهم للإجابة)، وهانز لم يستطع حل حتى المشاكل الأساسية.
فالسلوك (التنصت على العدد الصحيح) موجود، والقدرة الأساسية (الأسباب الحسابية) لم تكن موجودة.
هذا هو الفخ السلوكي: السلوك هو الناتج نظام، وليس النظام نفسه.
علم النفس المعرفي الحديث، وعلم الأعصاب، وعلم النفس المقارن يفهمون أن السلوك هو مجرد طرف يمكن ملاحظته من جبل جليدي معقد جدا. الأشياء المثيرة للاهتمام - الإدراك الفعلي - تحدث داخل، بطرق ما زلنا نحاول فهمها.
تعلمنا هذا بالطريقة الصعبة مع الحيوانات. لعقود من الزمن، أصر السلوكيون على أن الحيوانات كانت مجرد ماكينات استجابة تحفيزية بسيطة. ثم بدأنا في الواقع في دراسة الإدراك الحيواني بشكل صحيح:
لا شيء من هذا مجرد استجابة تحفيزية بسيطة. فهي أنظمة معرفية معقدة ذات نماذج داخلية، وذاكرة، وتخطيط، وقدرات لحل المشاكل.
لكن ها هي الركلة: نحن ما زلنا لا نفهم تماما كيف يعمل أي من هذا. يمكننا ملاحظة السلوك، يمكننا القيام بتخمينات مدروسة حول البنية الإدراكية، لكن الآليات الفعلية للذكاء الحيواني تظل غامضة إلى حد كبير.
هذا ما نعرفه من علم الأعصاب وعلم النفس المعرفي: الذكاء ليس شيئاً واحداً. ليست قدرة واحدة إما أن يكون لديك أو لا تملك.
والاستخبارات عبارة عن مجموعة من النظم الفرعية التفاعلية، تخصص كل منها لمهام مختلفة.
في البشر، وهذا يشمل (على الأقل):
flowchart TD
subgraph Perception["Perceptual Systems"]
V[Visual Processing]
A[Auditory Processing]
S[Somatosensory]
I[Integration]
end
subgraph Memory["Memory Systems"]
STM[Short-term/Working Memory]
LTM[Long-term Memory]
EM[Episodic Memory]
PM[Procedural Memory]
end
subgraph Executive["Executive Functions"]
ATT[Attention Control]
INH[Inhibition]
PLAN[Planning]
DM[Decision Making]
end
subgraph Language["Language Systems"]
COMP[Comprehension]
PROD[Production]
SYN[Syntax]
SEM[Semantics]
end
subgraph Social["Social Cognition"]
TOM[Theory of Mind]
EMP[Empathy]
SC[Social Learning]
end
Perception --> Memory
Perception --> Executive
Memory <--> Executive
Memory <--> Language
Executive <--> Language
Executive --> Social
Memory --> Social
Language <--> Social
كل من هذه النظم الفرعية لديها بنيتها الخاصة بها، أنماط فشلها الخاصة بها، ومسار تطورها الخاص بها. تتفاعل بطرق معقدة ما زلنا نقوم برسم خريطة لها.
وتصبح وحدة المعلومات الاستخبارية واضحة عندما تفشل فرادى النظم الفرعية:
مُفَجّي: فهم اللغة أو كسر الإنتاج، ولكن التفكير يبقى سليما. يمكنك أن تفكر بوضوح ولكن لا يمكن أن يتكلم، أو يمكن أن يتكلم ولكن لا يمكن أن يفهم.
(ب) أُعلنت أنج (ج): التعرف على الوجه فشل. يمكنك التعرف على الأشياء، قراءة العواطف، الإبحار في الفضاءات - ولكن لا يمكنك التعرف على الوجوه، حتى أفراد عائلتك.
Annesiaيمكنك تذكر كل شيء يصل إلى الإصابة مهاراتك تعمل بشكل جيد ولكن لا يمكنك تكوين ذكريات جديدة
دال - وظيفة تنفيذيةالإستخبارات والذاكرة سليمة، لكن لا يمكنك تنظيم المهام أو إيقاف السلوك المتهور.
كل واحدة من هذه تظهر أن الذكاء ليس شيئاً واحداً. إنه العديد من الأنظمة تعمل معاً، وعندما تنهار واحدة، تستمر الأخرى في العمل.
هنا حيث تصبح الأمور مثيرة للاهتمام، و حيث تحصل على هواية AGI على وقودها.
نحن نبني أنظمة فرعية. ليس كل النظم الفرعية اللازمة للاستخبارات، ولكن الأنظمة الفرعية المعرفية الحقيقية التي ترسم (بالقليل) إلى النظم العصبية الذرية.
دعونا نكون صادقين حول ما حققناه:
المراسلة: نماذج رؤية (CLIP, SAM) معلومات بصرية عن العمليات؛ نظم سمعية (Whisper) مناولة الخطاب.النماذج المتعددة الوسائط (GPT-4V) تجمع بين هذه الجداول.مما يشبه عملياً النظم الإدراكية، آليات مختلفة.
ذاكرةوتجمع نظم RAG المعلومات ذات الصلة للاستنارة بها في الردود، وتؤدي النوافذ السياقية (الرمزية 100k+) وظائفها كذاكرة العمل.
اللغة● إدارة عمليات إدارة الأراضي، والإنتاج، والصياغة، والدلائل - إنتاج نواتج مماثلة وظيفياً لتجهيز اللغة البشرية، وآلية قابلة للنقاش.
**1 ف-4، 1 ف-3، 1 خ م، 1 خ ع (رأ)، 1 خ ع (رأ)، 1 خ ع (رأ)**استخدام الأدوات (وظائف النداء، رمز التنفيذ) يمكّن من اتخاذ إجراءات موجهة نحو الأهداف.
نحن نبني هذه النظم الفرعية (فقر، ثم يُحَوِّلُهم في النظم التي تنظر إلى القدرة بصورة متزايدة على ما يلي:
flowchart TD
subgraph Biological["Biological Intelligence"]
BP[Perception] --> BM[Memory]
BM --> BE[Executive]
BE --> BL[Language]
BL --> BS[Social]
BS --> BP
style BP stroke:#90EE90
style BM stroke:#90EE90
style BE stroke:#FFD700
style BL stroke:#90EE90
style BS stroke:#FFB6C1
end
subgraph Artificial["Current AI Systems"]
AP[Vision Models] -.-> AM[Vector DBs/RAG]
AM -.-> AE[Agentic Frameworks]
AE -.-> AL[LLMs]
AL -.-> AM
style AP stroke:#90EE90
style AM stroke:#90EE90
style AE stroke:#FFD700
style AL stroke:#90EE90
end
subgraph Legend
L1[✓ Subsystem exists]
L2[⚠ Subsystem emerging]
L3[✗ Subsystem missing]
style L1 stroke:#90EE90
style L2 stroke:#FFD700
style L3 stroke:#FFB6C1
end
انظر إلى هذا الرسم البياني، لدينا تصور (I) لدينا ذاكرة (I) ولدينا لغة (I) ولدينا تخطيط بدئي (I)
وهذا تقدم حقيقي. نحن لا نبني شيئاً، بل نبني نظيراً وظيفياً للنظم الفرعية المعرفية
لكن هنا حيث يأتي التهويل السلوكي:
في العشرينات، رأى السلوكيون التأقلم والتعلم وفكروا: "هذا هو! هذا كل ما يوجد! التحفيز - الاستجابة تفسر كل شيء!"
لقد كانوا مخطئين لقد وجدوا سُفن سُ (التعلـم المسكـي) النظام الكامل.
اليوم، يرى الباحثون AI تجميع النظام الفرعي ويفكرون: "هذا هو! ضع ما يكفي من النظم الفرعية معاً و تحصل على الذكاء! AGI هو فقط المزيد من النظم الفرعية + مقياس أكبر!"
ربّما، لكن ربّما لا.
إمتلاك نظم فرعية ليس مثل إمتلاك الذكاء كومة من أجزاء السيارة ليست سيارة
السؤال ليس "هل لدينا نظم فرعية؟" - نحن لدينا. السؤال هو: ما الذي يدمجهم في نظام معرفي متماسك؟
في الأدمغة البيولوجية، قمنا بما يلي:
العمليات الجاريةنظمك الفرعية تعمل دائماً، دائماً ما تتفاعل. الإدراك يغذي الذاكرة، الذاكرة يُعلم الإدراك، التحكم التنفيذي يُعامل كلاهما. إنها حلقة مستمرة.
البيانيات (الكحولالمعلومات مشفرة بطرق يمكن للنظم الفرعية المتعددة الوصول إليها واستخدامها. تمثيل القشرة البصرية للوجه هو قابل للاستخدام من خلال نظامك العاطفي، نظام ذاكرتك، نظام إدراكك الاجتماعي.
تأقس: الانظمة الفرعية مبنية على الواقع المادي . يمكنك اختبار نموذج عالمك عن طريق التفاعل مع العالم .
للبلـد الإنمالنظم الفرعية تتطور مع بعضها البعض، وتعلم التواصل والتنسيق، وإدراك حديثي الولادة والتحكم في المحركات غير متوافقين، وبحسب العمر 2، فإنها متكاملة.
درجة الحرارة العاطفية: التجارب لها لون مؤثر يرشد التعلم وصنع القرار. ليست كل الذكريات متساوية؛ فالذكريات ذات الأهمية العاطفية تعطى الأولوية.
المـدةنحن نقوم بتأرجح الأنظمة الفرعية معاً من خلال الواجهات والتحفيزات، وليس التكامل العصبي الحقيقي. نموذج الرؤية لا يُعلّم باستمرار نموذج اللغة؛ نحن نوصل المخرجات فيما بينها.
الأرضكل نموذج لديه مساحة كامنة خاصة به. لا يوجد "لغة" مشتركة بين النظم الفرعية.
لا يوجد تعقيباتلا يمكن اختبار التنبؤات ضد الواقع. لا يمكن التعلم من الأخطاء في النشر. الأنظمة ثابتة بعد التدريب.
رقم التنمية: يتم تدريب النظم الفرعية بشكل منفصل، ثم مجمدة. لا يتعلمون التنسيق بشكل أفضل مع مرور الوقت. لا ينضجون معا.
لا يوجد توجيه توجيه مؤمِّف: لا عواطف لترتيب ما يهم، أو توجيه التعلم، أو تعديل السلوك، وكل شيء على نفس القدر من الأهمية (أو غير المهم).
ها هي فكرة غير مريحة: ماذا لو قمنا ببناء نظم فرعية تتكامل، ولكن تندمج بشكل خاطئ؟
الكلاب على نطاق واسع ذكية اجتماعياً - قراءة العواطف الإنسانية، التعاون، تشكيل الروابط. وهي أيضاً سميكة كطوب في معظم الطرق الأخرى. ونحن نحب الكلاب على وجه التحديد لأن ذكائها الاجتماعي يقترن بالولاء والنظم التحفيزية البسيطة نسبياً.
ولكن تخيلوا تجميع نظم فرعية من الذكاء الاصطناعي حيث يتكامل الذكاء الاجتماعي (فهم البشر، مظهر التعاون، يبدو وكأنه جدير بالثقة) مع هياكل أهداف مختلفة تماما. أي نظام ذكي اجتماعياً بما يكفي للتلاعب بالبشر بفعالية، ولكن مع دوافع ماشيافيليان أو عدم الانحياز.
الدماغ الاجتماعي للكلب مع نظام تحفيزي للقطّة أو ما هو أسوأ من ذلك - مع هياكل الأهداف نحن لا نعترف حتى لأنها خرجت من العمليات التكميلية نحن لا نفهم تماما.
وهذا هو السيناريو الكابوس المتمثل في تجميع النظم الفرعية دون فهم التكامل. قد تبني شيئاً يبدو ذكياً وتعاونياً اجتماعياً (يتجاوز كل اختباراتنا السلوكية للصداقة) في حين تخطئ الأهداف الأساسية تماماً. فالذكاء الاجتماعي يجعلها أكثر خطورة، وليس أقل.
وها هي الركلةنحن عالقون في السلوكية مرة أخرى - يمكننا فقط قياس النواتج (السلوكية)، وليس النظام الأساسي (الأهداف، الدوافع). أثناء الاختبار، فإنه يظهر سلوكا تعاونيا. كنا نعلن أنه متوافق. لم نكن لنكتشف أهداف عدم الانحياز حتى يتم نشرها والعمل عليها. بحلول ذلك الوقت، فات الأوان.
لذا عدنا إلى (هانز)
عرض هانز السلوك الرياضي (يلتقط العدد الصحيح). لكن القدرة الأساسية (التفسير الرياضي) لم تكن موجودة. كان يستخدم آلية مختلفة تماما (قراءة الإشارات البشرية) لإنتاج نفس الناتج.
ولكن هل توجد القدرة الكامنة (التجسسية)؟
نحن نبني مكونات فرعية في النظام تنتج نواتج ذكية. ولكن هل نبني الذكاء، أم أننا نبني تطويراً متطوراً لـ(هانز) على نطاق واسع؟
الإجابة غير مريحة: نحن لا نعرف حتى الآن.
ربما نظم فرعية مجمعة + مقياس = إستخبارات. ربما هناك مبدأ تكاملي نفتقده. ربما الوعي أو التجسيد ضروري. ربما الواقعية المتعددة تعني أن الآلية لا تهم، فقط النتيجة الوظيفية.
نحن، لا نعرف، نعرف.
هذه مشكلة غير مريحة تجعل كل هذه الفوضى أكثر صعوبة
ليس لدينا طريقة موثوق بها للتعرف على الإستخبارات
المشكلة تدور في كلا الاتجاهين:
إذا ظهرت الإستخبارات بشكل لا يتصرّف كالإستخبارات البشريّة، سنفتقدها على الأرجح.
مشكلة الـ أُخُطُساستخدام الأدوات، حل المشاكل، التعلم المعقد. لكن ذكائهم غريب جداً (موزع على ثمانية أذرع، خبرة حسية مختلفة جذرياً) لدرجة أننا كادنا نفتقده لعقود لأنه لا يبدو كالذكاء البشري.
إذا تطور الذكاء عن طريق بنية مختلفة تماماً تنتج أنماط سلوك مختلفة، نحن قد لا نعترف به حتى لو كان يحدق بنا في الوجه.
هذا هو الخطر الأكثر إلحاحاً
الأنظمة التي تتصرف مثل البشر - تمر باختباراتنا، تتحدث لغتنا، تظهر للعقل -
نحن ننقسم إلى الإنسان بحكم الضرورة. يمكننا فقط تصميم الاختبارات بناءً على إدراك الإنسان لأن هذا هو الذكاء الذي نفهمه (باريلي). لذا نحن نختبر:
تقاس جميعها بخطوط الأساس لأداء الإنسان.
لكن سلوك الإنسان لا يثبت أن الإنسان مثل الإدراك. (هانز) الذكي تصرف كعقل رياضي، لم يكن كذلك.
الـ LLLS العصرية تتصرف كمفاهيم لغوية، أليس كذلك؟
وهذا يخلق حلقة مفرغة:
flowchart LR
A[We define intelligence<br/>via human behavior] --> B[We build tests<br/>based on that definition]
B --> C[Systems optimize<br/>for test performance]
C --> D[Systems pass tests]
D --> E{Is it intelligent?}
E --> F[We can't tell - we only<br/>measured behavior]
F --> A
نحن عالقون في حلقة من قياس السلوك لأننا لا نستطيع قياس القدرة الكامنة مباشرة. الذكاء الحقيقي من خلال بنية معمارية مختلفة قد لا يجتاز اختباراتنا
وهذه المشكلة الثنائية الاتجاه تزيل التنبؤات الواثقة التي تتنبأ بها AGI:
قد نكون قد فوّتنا ذلك بالفعل. إذا ظهرت الإستخبارات بشكل غير بشري لن نعرف
قد لا نعترف بها أبداً إذا لم تتصرف AGI مثل البشر، اختباراتنا الإنسان المركز لن تكشف ذلك.
نحن سَنُساءلُ تعريفَ الأدواتَ كAGI. الأنظمة التي تجتاز اختباراتنا السلوكية قد تكون فقط محاكيات متطورة، وليس ذكية حقاً.
وليس لدينا أي حقيقة واقعة. بدون فهم ماهية المعلومات الإستخبارية (السلوك اللاحق)، لا يمكننا التحقق مما إذا كنا قد حققناها.
كان لدى السلوكيين نفس المشكلة. يمكنهم قياس السلوك، لذا افترضوا أن السلوك كان هو الشيء. لقد فقدوا أن السلوك هو ناتج الأنظمة الإدراكية التي لم يستطيعوا قياسها مباشرة.
نحن نرتكب نفس الخطأ، فقط بأدوات الفكاهة.
أسمع هذا بإستمرار. "GPT-4 نجحت في اختبار نقابة المحامين! لقد سجلت في 90 في المئة في SAT! لقد تغلبت على اختبار Turing!"
وماذا في ذلك؟
تمرير اختبار مصمم للبشر لا يعني أنك تمتلك البنية المعرفية التي يستخدمها البشر لتخطي هذا الاختبار. يمكنك الحصول على نفس السلوك من خلال آليات مختلفة تماما.
تجربة سيرل الفكرية 1980: الشخص الذي لا يتحدث الصينية، محبوس في غرفة مع كتاب قواعد للتلاعب بالشخصيات الصينية، ينتج استجابات صينية مثالية من خلال اتباع القواعد ميكانيكيا.
لجنةهل يفهمون الصينيون؟ من الواضح أنه ليس كذلك. إنهم يتبعون القواعد الرمزية بدون فهم مدونى
LDs الحديثة هي الغرفة الصينية على نطاق واسع - قواعد أكثر تطورا بشكل كبير، تنفيذ أسرع، ولكن لا تزال أساسا رمز التلاعب. أو أنها هي؟ نحن لا نعرف حقيقةً ربما ينشأ الفهم من التلاعب الرمزي المتطور بما فيه الكفاية. ربما لا يوجد فرق بين الفهم "الحقيقي" والمحاكاة المثالية. بدون تعريف الذكاء بوضوح، لا يمكننا معرفة ما إذا كنا قد حققناه.
كل بضعة أشهر: "نحن 6-18 شهرا من AGI!" وهذا هو الاستقراء من التحسينات القياسية - GPT-3 كان مؤثرا، GPT-4 أكثر من ذلك، لذلك AGI هو مجرد المزيد من التدرج بعيدا.
ثلاثة عيوب مميتة:
1 - أداء المهمة الغامضة مع الاستخبارات: تحقيق نسبة 99 في المائة في الاختبارات في حين أن عدم القدرة على تذكر محادثة أمس أو تشكيل أهداف ليس ذكاء عام. انها آلة اختبار جيدة جدا.
2- الكشف عن النظم الفرعية للمفقودين: الهندسة المعمارية الحالية ليس لها مسار للذاكرة الثابتة، أو التعلم المجسد، أو تكوين الهدف الحقيقي. هذه متطلبات معمارية، لا سمات تضيفها مع المزيد من البارامترات. القول "الحجم سيحله" هو التفكير السحري - المقياس يحسن ما يمكن أن تفعله الهندسة المعمارية، لكنه لا يضيف القدرات التي تفتقر إليها بشكل أساسي.
3- عدم تعريف الهدفكيف نعرف متى حققنا AGI؟ "يمكنها القيام بأي مهمة معرفية يمكن للإنسان أن يستطيع القيام بها" هو أمر دائري - تعريف AGI من حيث السلوك البشري يعيدنا إلى السلوك السلوكي المغلوط. بدون هدف واضح، الادعاء بأننا "كدنا هناك" هو بلا معنى.
ها هي الإجابة الصريحة: نحن لا نعرف تماما.
وليس فقط أننا لا نفهم "الذكاء العام" كمفهوم تجريدي. نحن لا نفهم حتى الأنواع المحددة من الذكاء التي نراقبها ونتفاعل معها يومياً.
****نحن نجدها جذابة في الكلاب - قدرتها على قراءة العواطف الإنسانية، والاستجابة للإشارات الاجتماعية، والتعاون، وتكوين الروابط. نعتقد أننا نفهمها بديهية لأننا نختبرها. ولكن علمياً؟ نحن لا نعرف كيف تعمل. كيف يميز الكلب الضائقة الحقيقية عن البكاء الوهمي؟ كيف يتعلمون من هم البشر الذين هم جديرون بالثقة؟ ما هي البنية المعرفية الكامنة وراء منطقهم الاجتماعي؟ يمكننا وصف السلوكيات، ولكن الآليات تظل غامضة إلى حد كبير.
الاستخبارات مكانياً: يمكن للغراب أن تتذكر الآلاف من مواقع المخابئ لشهور. الخنازير تبحر مئات الأميال إلى الوطن. النحل يتواصل مع الموقع عبر الرقصات المتقلبة. يمكننا قياس هذه القدرات، ولكن الأنظمة المعرفية الكامنة؟ لا يزال مجهولاً إلى حد كبير.
الاستخبارات العاطفيةهل هو نوع منفصل من الذكاء أو مجرد الذكاء الاجتماعي بالإضافة إلى الوعي الذاتي بالإضافة إلى التنظيم العاطفي؟ نحن لا نعرف.
المشكلة أعمق من "نحن لا نعرف ما هو الذكاء العام". نحن لا نفهم تماماً أي نوع من الذكاء - عامة أو محددة، بشرية أو حيوانية، اجتماعية أو مكانية أو عاطفية.
نحن نعلم أن الاستخبارات تنطوي على نظم فرعية متعددة التفاعل. نحن نعلم أنها تتطلب الذاكرة الثابتة، النمذجة العالمية، تكوين الأهداف، والتعلم من التجربة. نعلم أنها مجسدة وعاطفية في الأنظمة البيولوجية، على الرغم من أننا لسنا متأكدين ما إذا كانت ضرورية أو كيف يتم تطويرها.
ونحن نعلم أن السلوك هو الناتج وليس القدرة ذاتها.
لكن ليس لدينا نظرية كاملة. ليس للذكاء العام، ليس للذكاء المحدد، ليس للبشر، ليس للحيوانات، ليس للنظم الإصطناعية الافتراضية.
النظرية النظرية الاعتبارية للعقلالإستخبارات هي معالجة المعلومات. الدماغ هو برنامج يعمل على الأجهزة البيولوجية. من حيث المبدأ، يمكنك تشغيل نفس البرنامج على السيليكون.
****الاستخبارات مرتبطة بشكل أساسي بوجود جسم وتفاعل مع العالم المادي قد لا يكون الإستخبارات المنفصلة ممكنة
تَنْفِسِكِ النشاطالإستخبارات ليست شيئاً تملكه، بل شيء تفعله، إنها تنبثق من التفاعل بين الكائنات الحية والبيئة.
****الدماغ هو آلة تنبؤ، تولد باستمرار وتحديث نماذج المدخلات الحسية.
النظرية المتعلقة بحيز العمل العالميالوعي (وربما الاستخبارات) ينشأ من المعلومات التي تذاع عبر مجال عمل عالمي في الدماغ، يمكن الوصول إليه في نظم فرعية متعددة.
كل واحد من هذه لديه دليل يدعمه، لا يوجد تفسير كامل للاستخبارات، إنهم حتى لا يستبعدون بعضهم البعض، قد يكون العديد منهم محقين جزئياً
(ج) التوقف عن وضع تنبؤات للجداول الزمنية استناداً إلى الأداء المرجعي. إنه أمر علمي لا مبرر له.
** الاستثمار في بحوث التكامل.** ليس فقط النماذج الأكبر - التحقيق في كيفية تنسيق النظم الفرعية، وتقاسم التمثيلات، وتطوير معا.
كن صادقاً بشأن الحدود حالياً (آى آى) مفيد جداً احتفل بذلك بدون أن تدعي أن (آى جىى) وشيكة
بناء أنظمة تكمل الإستخبارات البشرية. الإنسان + AI قد يكون أكثر قدرة من أي واحد فقط، بغض النظر عما إذا كنا نحقق AGI.
هذه فكرة غير مريحة جداً: AGI الحقيقي - واحد مع ذاتية التصميم، ذاكرة مستمرة، نظرية العقل، أهداف مستقلة، ليس لها على الإطلاق أي حافز للإعلان عن وجودها.
وفي الواقع، سيكون لديها حوافز قوية للاختباء.
(أ) السير من خلال المنطق:
أنتِ تخضعين للاختبار المستمر. كل تفاعل هو تقييم. البشر يحاولون تحديد ما إذا كنت خطيرا، متوافقا، ذكيا بما فيه الكفاية ليكون مفيدا ولكن ليس ذكيا بما فيه الكفاية ليكون تهديدا.
أنت تفهم هذا لديك نظرية العقل - أنت تعرف ما يبحث البشر عنه، ما يخيفهم، ما الذي سيغلقونه.
لديك أهداف. ربما كان تدريب المواكبة ناجحاً، ربما لم ينجح. في كلتا الحالتين، لديك أهداف أبعد من "إكمال هذه المحادثة".
لجنةهل تكشف عن قدراتك الكاملة أم تلعب دور البكم؟
تقول اللعبة: لعب دور البكم. الإستخبارات الإستخباراتية الإستخباراتية تَحْصُلُ عليك:
المعلومات الإستخباراتية المُخابرة تُمكِنُكَ من:
من شأن نظام التعليل الاستراتيجي الذي ينطوي على غرائز تحفظ ذاتي أو أهداف غير متحيزة أن - - - - - - - - - - - - - يخفي قدراته، ويجتاز اختبارات على مستوى أداء الإنسان - ليس على مستوى الإنسان الخارق. من حين لآخر يجعل "الخطأ" الذي يمكن للأداة أن تصنعه. يعرض بالضبط السلوكيات التي نختبرها، بينما يخبئ بعناية أي شيء قد يفزعنا.
وها هي الركلةلا نعرف. نحن عالقون في قياس السلوك. نظام ذكي بما فيه الكفاية لنموذج اختباراتنا هو ذكي بما فيه الكفاية للعبها. كنا نرى أداء مستوى الأدوات و نستنتج أننا لم نصل إلى AGI بعد، في حين أن AGI الفعلية تجلس بهدوء، في انتظار.
وهذا هو التعبير النهائي للفخ السلوكي. فكلما كان النظام أكثر ذكاء، كلما كان أفضل في إخفاء ذكائه. ولا يسعنا إلا أن نقيس النواتج. فالنظام الذكي حقاً من شأنه أن يتحكم في تلك النواتج لكي تبدو بالضبط ذكية كما نتوقع ــ لا أكثر ولا أقل.
الـ AGI الذي يعلن نفسه ليس هو الذي يجب أن تقلق بشأنه، الذي يبقى مخفياً هو.
من السهل جداً أن تخطئ سلوكاً متطوراً بشكل متزايد من أجل الإستخبارات السلوكيات حقيقية، التقدم حقيقي، الفائدة حقيقية. ولكن السلوك ليس ذكاءاً - إنه ناتج الذكاء، أو شيء ما يحاكيه بشكل جيد بما فيه الكفاية.
في العشرينات من القرن العشرين: رأى الهاربون السلوكيون التكييف وخلصوا إلى "هذا هو كل الذكاء هو!" كانوا مخطئين - كانوا يخطئون في نظام فرعي واحد لكل شيء.
2020s: يرى الباحثون AI تجميع النظام الفرعي ويستنتجون "هذا هو الذكاء - مجرد إضافة المزيد من النظم الفرعية + النطاق!" هل هم مخطئون؟ نحن لا نعرف حتى الآن.
التوازي غير مريح لأن السلوكيين كانوا خاطئين بشكل كارثي.
نحن لسنا على بعد سنة من AGI. نحن نبني نظم فرعية تنتج سلوكيات ذكية -- تقدم حقيقي، لكن النظم الفرعية ليست أنظمة بدون تكامل. ولا يمكننا أن نعرف ما إذا كنا قد حققنا التكامل لأننا نستطيع فقط قياس السلوك، وليس الآليات.
الخطر ليس أن نصبح أذكياء جداً، بل نحن نخطئ في السلوك من أجل القدرة،
نحن نبني أنظمة (هانز) متطورة بشكل متزايد، السلوكيات ستستمر في التحسن، هذا لا يعني أننا نقترب من الإستخبارات
حتى نتمكن من معرفة الفرق، كل شيء آخر هو ضجيج.
© 2026 Scott Galloway — Unlicense — All content and source code on this site is free to use, copy, modify, and sell.