# (أ) "Lawyer GPT" لمدونتك - الجزء 1: مقدمة وبنية > تحذير: هذه هي "الوظائف" التي "تُعنى". ومن المرجح أن الكثير مما هو أسفل لن يعمل؛ أنا توليد هذه كما كيف إلى ل ME ومن ثم القيام بجميع الخطوات والحصول على تطبيق العينة العمل... كنت قد تم التسلل ورأيت لهم! أنها سوف تكون على الأرجح جاهزة منتصف كانون الأول/ديسمبر. ## أولاً اربطوا لأن هذه ستكون سلسلة طويلة! > إذا كنت تتبع مع هذه المدونة، ستعرف أنني مهووس قليلاً بإيجاد طرق مثيرة للاهتمام لاستخدام LLMs و AI في التطبيقات العملية. حسناً، لدي مشروع جديد يجمع بين حبي للمدونات، C# و AI: بناء مساعد للكتابة يساعدني في صياغة مقالات جديدة للمدونات باستخدام المحتوى الحالي كقاعدة معرفية. ملاحظة: هذا جزء من تجاربي مع AI (مساعدة في الصياغة) + تحريري الخاص. - نفس الصوت، نفس العمليّة، مجرد أصابع أسرع. - التفكير في الكيفية التي تستخدم بها الممارسات القانونية الحديثة نظم إدارة الأراضي المدربة على السوابق القضائية لصياغة المذكرات والالتماسات والعقود. - إنها لا تبدأ من الصفر -- النظام يشير إلى السوابق ذات الصلة، يقترح لغة مبنية على وثائق الماضي الناجحة، ويحافظ على الاتساق مع الأنماط الراسخة. - هذا بالضبط ما نبنيه هنا، لكن لمحتوى المدونات. - ويتمثل الهدف من ذلك في إنشاء وظيفة مساعد كتابة يعمل تحت إشراف المنظمة الدولية للفرانكوفونية، على النحو التالي: يساعد على صياغة مدوّات جديدة في أسلوبي المستقر[المحتويات ذات الصلة بالموضوع من المواد السابقة إلى](https://www.anthropic.com/index/contextual-retrieval)يجد وظائف متشابهة للحفاظ على الاتساق ## الروابط الداخلية بالمواد ذات الصلة **"أعمال مثل "جيت هوب كوبيان لمدونتك** - **هذه السلسلة ستغطي مبنىً كاملاً**الجيل المعزَّز من استعادة القدرة (RAG) - **النظام في C# الذي يعمل على النوافذ.**سنستخدم أحدث النُهج والأطر، وسأشرح كل تقنية جديدة عندما نصادفها. - **إعدادات عتادي (و الحد الأدنى لمختلف)**آلة التطوير: المجموع*** NVIDIA RTX A4000 (Vram)**وحدة وحدة ### AMD RAZEN 9 9950 XX - ****:: 96/نـزع السلاح - هذا هو وضعي المحدد، ولكن أنت - لست بحاجة إلى هذا الجهاز - **(ب) أن يتبعوا على طول الطريق.**هنا الحد الأدنى لمصفوفات مختلفة: - التسارع GPU (موصى به، غير مطلوب) - **1 ف-5، 1 ف-4، 1 ف-3، 1 خ م، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م أ م و، 1 م أ م**:: نسبة نفيديا إلى نفيديا مع 8 غرامات فيرم (مثل RTX 3060، GTX 1070 Ti) ### جاري تشغيل 7BB نماذج معQ - **& جاري**مُجَز - **)على سبيل المثال، RTX 3060 12GB، RTX 4060 TI(**نفّر نماذج أكبر أو أعلى جودة ككمات - إعدادي - : 16GB (A4000) - يمكن تشغيل 13B نماذج مريحة - المعالج - فقط البديل - 1 ف-5، 1 ف-4، 1 ف-3، 1 خ م، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م أ م و، 1 م أ م ### الموضوع الحديث: العنصر الأساسي - **أولاً -**: 8++ النواة (لتوليد معقول) - كل شيء يعمل على وحدة المعالجة المركزية، فقط أبطأ: - **الجيل الماثل: A-5-10x أبطأ**استنتاجات: - 10 - 50 x أبطأ - ما زالَ تماماً يُستخدَمُ لa مُتَأَكِّد مُسْتَقْبَل! - **الاحتياجات من**1 ف-5، 1 ف-4، 1 ف-3، 1 خ م، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م و، 1 م أ م و، 1 م أ م ### : 16GP System RAM - **المعالج المعالج- فقط استdex لنماذج 7B**مُجَز - **:: 32 GG**أفضل لنماذج أكبر على المعالج ### إعدادي : 96GB - الإفراط في القتل، 32GB هو الكثير - **الخزنة**SS - **(أ) توصية بنموذج تحميل**الفضاء الخارجي - **'20GB للنماذج وقاعدة بيانات ناقلات الأمراض**ماذا عن إنتل / AMD المعالجات؟ **تشتمل المعالجات الحديثة الآن على مسرعات AI مخصصة:**شركة Int*(بحيرة ميتور+) - إنتل BOSst (NPU)*السنة الأولى **(سلسلة 7040/8040) -** - ✅ Great for: On-device inference, battery efficiency (laptops) - ⚠️ Limited for our use: Immature .NET/ONNX Runtime support - ❌ Not ready for: This project's primary path **AMD** 1. **(نقطة الترميز) - ما يصل إلى 50 طان**المهم: المعالجات هي للاستدلال فقط! 2. **أنت لا "تبني" أو تُدرّب نماذج على المعالجات الوطنية - إنها مصمّمة لـ**عُرْض 3. **(أ) نماذج التدريب قبل التدريب بكفاءة.**وتُدرَّب النماذج على وحدات المعالجة الجيوديسية السحابية (أو محطات العمل)، ثم تُحمَّل وتُنشر في وحدات المعالجة الوطنية للاستدلال. 4. **الحالة الراهنة للنماذج الجارية بشأن المعالجات الوطنية (حسب الكتابة):**لماذا ليس NUPs لهذه السلسلة؟ 5. **النظام الإيكولوجي**: CUDA لديها 15 سنة من النضج أكثر من 15 سنة، دعم NPU في الشبكة هو الوليد. **باء - النموذج** - : معظم نماذج نموذج النموذج العالمي للإدارة المتكاملة للغابات تستهدف CUDA/CUDA/CUDA، والنماذج المُحسَّبة في إطار نموذج الوحدة الحضرية نادرة.[الوثائق](https://github.com/microsoft/DirectML)الموارد المحدودة لتطوير وحدة المعالجة دون الوطنية في C# - م م م م - : حالياً أبطأ من المكيفات المنفصلة لعبء عملنا - دعم المشروع المباشر **لا يزال تجريبياً لاستدلال LLL** ```bash # Use DirectML execution provider (supports NPU) dotnet add package Microsoft.ML.OnnxRuntime.DirectML # In code: var sessionOptions = new SessionOptions(); sessionOptions.AppendExecutionProvider("DML"); // DirectML var session = new InferenceSession("model.onnx", sessionOptions); ``` **هل يمكنك استخدام المعالجات الوطنية للاستدلال؟**نعم، ولكن:[المتطلبات](https://onnxruntime.ai/)[يجري تنفيذ التنفيذ في OONNNX وقت العرض](https://github.com/microsoft/DirectML)يجب أن تكون النماذج في شكل OONNX (لا GGGUF) **دعم هو تجريبي**الأداء في الوقت الراهن هو أداء ناقص الأداء ضد شركة CUDA [TOC] ## كيفية تجربة NPU استدلال (المستخدمون المتقدمون): رابعا - النظر في المستقبل 1. **ذات مرة:**وقت التشغيل ONNNNNX 2. **وقد عقد مؤتمراً بشأن** 3. **فَهُمْ سَيَصْبَحُونَ بَعْضَ ٱلْعَالَمِ ٱلْعَالَمِيَّةِ لِلْإِسْتِدْعَايَةِ !**الحد الأدنى 4. **سوف أظهر المسار المتسارع GPU، ولكن سوف تلاحظ بدائل CPU فقط في جميع أنحاء.**يمكنك أن تبدأ CCPU-Now وترفع في وقت لاحق! 5. **ما نحن نبنيه**وسيتكون النظام النهائي من عدة عناصر: 6. **نقطة نقطة نقطة نقطة نقطة نقطة**- تجهز جميع المدوّات، تقطّعها بذكاء، وتولّد المزجّات قاعدة بيانات الفئة ## - مخزنات مزلقات وتمكن من البحث عن محتوى مشابه - - مساعد لكتابة المكتب المكتبي مع فريق التحرير والاقتراح - تكامل LLL - - الاستدلال المحلي في توليد المحتوى - توليد - الوصلات الداخلية والإشارات إلى الوظائف ذات الصلة - - - أنماط تعلم من الوظائف القائمة للحفاظ على الصوت والهيكل - فكّر فيها على أنها "GitHub Copeperation meeting Gramarly" ولكن تدربت خصيصاً على محتوى وأسلوب مدونتك. - لماذا "ماهو الـ ج بي بي" ؟ - وتستخدم شركات القانون الحديث برامج LLLLS المدربة على المكتبات الواسعة للسوابق القضائية للمساعدة في صياغة الوثائق القانونية. عند كتابة الطلب، يقوم النظام بما يلي: ## المراجع المرجعية السوابق ذات الصلة والحجج الناجحة السابقة الأنماط اللغوية التي عملت قبل ### المحافظة على الاتساق مع معايير الكتابة القانونية المصدرات المُسِيّة تلقائياً ### [هذا نموذجنا النموذجي](/blog/building-a-lawyer-gpt-for-your-blog-part2) عندما أبدأ بكتابة "أضف إلى إطار الهيئة لـ..."، يجب على النظام:[اعثر على وظائفي السابقة ذات الصلة EF](https://developer.nvidia.com/cuda-toolkit), [الأنماط الهيكلية التي استخدمتها من قبل](https://developer.nvidia.com/cudnn)عرض مقتطفات من المواد السابقة من الرموز ذات الصلة ### [وصلات التشغيل التلقائي للوظائف ذات الصلة](/blog/building-a-lawyer-gpt-for-your-blog-part3) حافظ على أسلوب كتابتي وعمقي التقني[على عكس مساعدي كتابات AB العامة، نظامنا مبني على المحتوى السابق الفعلي، لذا لن يقترح أشياء متناقضة مع ما كتبته بالفعل.](https://qdrant.tech/)أولا - لمحة[هذا ما سنغطيه خلال الأسابيع القادمة](https://github.com/pgvector/pgvector)). ### [الجزء 1 (هذه الوظيفة): مقدمة وهيكل](/blog/building-a-lawyer-gpt-for-your-blog-part4) سنقوم بتأسيس ما نبنيه ولماذا، بالإضافة إلى تغطية القرارات المعمارية. ### [الجزء 2: تركيبة الجيني وCUDA في C#](/blog/building-a-lawyer-gpt-for-your-blog-part5) تم إنشاء نوافذ تشغيل لـ GPU مع مُعَدّل مُعَدّة لـ[كندا](https://docs.microsoft.com/en-us/dotnet/desktop/wpf/), [قُدْس](https://avaloniaui.net/)وإختبار أن C# يمكن في الواقع رؤية واستخدام الـ GPU الخاص بك.[الجزء 3: فهم قواعد البيانات](https://dotnet.microsoft.com/en-us/apps/maui)عمق الغوص العميق في ما هو في الواقع ما مززز في الواقع، كيف أنها تمكن البحث الداتيكاتيني، واختيار قاعدة بيانات المتجه الصحيحة (التالير: سنستخدم على الأرجح ### [](/blog/building-a-lawyer-gpt-for-your-blog-part6) أو[(ج) مُنْفِجِكَر](https://onnxruntime.ai/), [الجزء 4: بناء خط الامتصاص](https://github.com/ggerganov/llama.cpp)تجهيز الملفات، استراتيجيات القطع الذكية (لا يمكنك فقط تقسيم على الفقرات!) و توليد التضمينات لكل محتوى لدينا. ### [جزء من: جزء 5: المفكّل](/blog/building-a-lawyer-gpt-for-your-blog-part7) اختيار الإطار الصحيح (الإطار المناسب) ### [وُجِسْتُ](/blog/building-a-lawyer-gpt-for-your-blog-part8) المائل ## أو ملاوي ### ، بناء UI، وجعله في الواقع يسر استخدام. الجزء 6: التكامل المحلي 1. **نماذج التشغيل المستخدمة محلياً**وقت التشغيل ONNNNNX 2. **الـ 08 pp**- أو نُهُج أخرى. 3. **الاستفادة الكاملة من ذلك A4000!**الجزء 7: المحتوى 4. **تجميع كل ذلك معاً - البحث الدلالي عن المحتوى ذي الصلة، وإدارة نافذة السياق، والهندسة الفورية للمساعدة في الكتابة، وتقديم اقتراحات متسقة.**الجزء 8: نشر المعالم المتقدمة والإنتاج 5. **(ب) الربط التلقائي بالوظائف ذات الصلة، والتحقق من اتساق الأسلوب، وتقديم اقتراحات شفرات المقتطفات، وجعل النظام في الواقع مفيداً للكتابة اليومية.**لماذا الرافع؟ ### قبل أن نغوص في الهندسة المعمارية، دعونا نتحدث عن لماذا RAG (الجيل المقوي للريتريفال) هو النهج الصحيح هنا. مشكلة الضبط المُحَدَّد المُحَدَّد قد تفكرون: "لماذا لا تقومون فقط بتدقيق LLLM على جميع مقالات المدونات؟" هناك العديد من المشاكل مع ذلك: 1. 2. - الضبط الدقيق مكلف (في الحساب والجهد على حد سواء) 3. : 4. - كل تدوينة جديدة تعني إعادة 5. صندوق أسود - من الصعب أن نفهم ما هو نموذج "تعلمت" - ✅ Always up-to-date (just re-index new posts as you write them) - ✅ Grounded in your actual writing (maintains consistency) - ✅ Traceable (know which past posts influenced suggestions) - ✅ Efficient (no expensive retraining for every new post) - ✅ Flexible (can swap out LLMs or adjust search strategies) - ✅ Privacy-preserving (everything runs locally) ## -لا ضمانة بأن النموذج لن يختلق أشياء ```mermaid graph TB A[Markdown Files] -->|Ingest| B[Chunking Service] B -->|Text Chunks| C[Embedding Model] C -->|Vectors| D[Vector Database] E[User Writing] -->|Current Draft| F[Windows Client] F -->|Embed Context| C C -->|Query Vector| D D -->|Similar Content| G[Context Builder] G -->|Relevant Past Articles| H[Prompt Engineer] H -->|Prompt + Context| I[Local LLM] I -->|Generated Suggestions| J[Link Generator] J -->|Suggestions + Citations| F F -->|Display| K[Editor with Suggestions] class C,I embedding class D,K output classDef embedding stroke:#333,stroke-width:4px classDef output stroke:#333,stroke-width:4px ``` ### لا مُهديات - لا يمكن بسهولة تتبع الردود إلى المصادر - كيف يحلّ هذا - يجمع RAG أفضل من كل من العالمين: قوة LLMs مع دقة البحث لإنشاء توليد محتوى واعي السياق. - والتدفق هو: - يبدأ المستخدم الكتابة (على سبيل المثال، "بناء رقم قياسي للأفضلية مع ASP.net ras...") - Syst syst system يجد مواد سابقة متشابهة من الناحية الدانتين علمياً **نظام التلثات ذات الصلة كسياق إلى LLLM**LLL توليد اقتراحات/مواصلة استناداً إلى المحتوى السابق ### عروض نظامية تتضمن اقتراحات مع إشارات إلى الوظائف الممولة من الموارد وهذا يعني: هيكل النظام دعوني اشرح العناصر الرئيسية التي سنبنيها - ١ - - نقطة نقطة نقطة نقطة نقطة نقطة **العنصر:**مُق قراءة علامات أسفل الملفات من دليل المُدوّل - [اقتباسات فوق الوصف (العنوان، الفئات، التاريخ، عدد الكلمات)](https://www.sbert.net/)قطع ذكية في المحتوى (تركات رموز الحفظ لإعادة الاستخدام) - تحديد الأنماط الهيكلية (كيفية تنظيم الوظائف) - [مصدر معلومات لـ توليد](https://huggingface.co/BAAI/bge-base-en-v1.5)التحدي الرئيسي ### "التعليقات الإستراتيجيّة تتطلّب الكثير من الأمور" صغير جداً وتخسر السياق. **كبير جداً وأنت تُضيّعُ نافذة سياق LLM.**نحن بحاجة إلى قطع من القطع التي هي ذات معنى من الناحية الدلالية - وهي فكرة كاملة أو قسم كامل، وليس كسر الفقرات التعسفية. - **[)٢( A.](https://qdrant.tech/)**النموذج المُزْرِج - **[الـ embeddings هي السحر الذي يجعل البحث الدلالي يعمل.](https://github.com/pgvector/pgvector)**نموذج الترسيخ يأخذ النص ويحوّله إلى متجه عالي الأبعاد (مفصل الأرقام) الذي يلتقط المعنى الدلالي. - **[و ينتهي المطاف بمفاهيم مماثلة بـ "تغلق" في فضاء متجه، حتى لو استخدموا كلمات مختلفة.](https://weaviate.io/)**وعلى سبيل المثال: - **["هجرة قاعدة البيانات" و"تحديث مخطط DB DB" سيكون لهما إضافات متشابهة](https://www.trychroma.com/)**"القط" و"الكيتن" سيكونان أقرب من "القط" و"البيانات" الخيار في التكنولوجيا ### :سنستخدمها أيضاً محول مـن مـن مـبلـ مـ مـ م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م م **[نماذج (يمكن تشغيلها عن طريق ONNX وقت التشغيل في C#)](https://docs.microsoft.com/en-us/dotnet/desktop/wpf/)** - ✅ Mature, stable, lots of resources - ✅ Native Windows performance - ❌ Windows-only - ❌ Looks dated unless you invest in UI libraries **[نماذج OpenAI المدمجة (في API)](https://avaloniaui.net/)** - ✅ Cross-platform (XAML-based) - ✅ Modern, actively developed - ✅ Similar to WPF - ❌ Smaller ecosystem **[نماذج BBGG](https://dotnet.microsoft.com/en-us/apps/maui)** - ✅ Cross-platform - ✅ Microsoft-backed - ❌ Still maturing - ❌ More mobile-focused (مصدر فُتْفَ سِنَّة)**أولاً -[قاعدة بيانات الفئة](https://github.com/Kinnara/ModernWpf)**وتخزن قاعدة بيانات المتجهات التضمينات وتمكّن من البحث السريع عن التشابه.**عندما تكتب عن "Doker Companus"، تجد أن K أكثر محتوى ماضي مماثل من الناحية التماثلية - ليس فقط مباريات الكلمات الرئيسية، ولكن المواد ذات الصلة من الناحية المفاهيمية.**الخيار في التكنولوجيا ### سنقيّم ما يلي: - -حديثة، مكتوبة في (روست)، ممتازة C# عميلة، ودودة - (ج) مُنْفِجِكَر - -امتداد PostgresSQL (نحن بالفعل نستخدم Postgres!) - مُنَي مُنْي **- خيار متين آخر مع دعم جيد.**: **[](https://onnxruntime.ai/)** - - الشعبية في أرض بايثون، أقل من ذلك في C# - أنا أميل إلى (Qdrant) لبساطته وأدائه، أو (pgvector) للحفاظ على كل شيء في Postgres. - أولاً - - **[نحن بحاجة إلى UI لطيفة للكتابة مع مساعدة AI.](https://github.com/ggerganov/llama.cpp)فكّر بمحرّر مقسّم مع إقتراحات.** - خيارات:[WPP (مؤسسة عرض النوافذ)](https://github.com/SciSharp/LLamaSharp)) - المائل - موالي (ملغم-platform AUI) - بما أننا مركزين على النوافذ و أريد شيئاً مستقراً، أنا أميل إلى **[الاتحاد العالمي](https://github.com/dotnet/TorchSharp)** - الحديثة الحداثة - أو - المائل من أجل تلك الإمكانية المتقاطعة.**5 - مكتب الأمم المتحدة في نيويورك**& محلي ### هنا حيث يضيء A4000 GPU. نريد أن ندير LLM محلياً من أجل: - الخصوصية (لا توجد بيانات أُرسلت إلى البلدان - (الاستدلال المحلي هو سريع) - التكلفة (لا توجد رسوم على متوسط أسعار الصرف) - (نحن نختار النموذج) خيارات التكنولوجيا - وقت التشغيل ONNNNNX - إلى تنسيق ONNX - التسارع GPU - دعم دعم محليCC ### الجانب السلبي: ليس كل النماذج تحوّل بشكل جيد الـ 08 pp - الملحقات - &+++ مكتبة مع C مُلزمات - لِمْ لِمْ لِمْ - الدعم المساند - دعم النموذج على نطاق واسع (LLALA وMistral وما إلى ذلك) التنمية النشطة جدا ## الـ PyTorch مُلزمات لـ Nnet 1. **معظم المرونة (المرونة) (المرونة)**منح منحني التعلم 2. **أنا يميل نحو**لِمْ لِمْ لِمْ 3. **لنضجها وسهولة استخدامها مع النماذج الشعبية.**٦ - 4. **إدارة و العرض**ولها نوافذ سياقية محدودة (مثل 4K و8K و32K رمزية). 5. **ونحن بحاجة إلى ما يلي:**احفظ المحتوى الأكثر صلة (Tok K من بحث المتجه) ## اضبطها في نافذة السياق مع المشروع الحالي (هيكـل الرسـل الرسـل للخطـة ### غرفة سفر للمقترحات التي أُعِدّت - **هذا هو الخدعة أكثر مما يبدو.**سنستكشف استراتيجيات مثل: - **الدالة الدالة K اختيار مستند على ما تقوم حالياً بكتابة**إعادة ترتيب المسترجعات بحسب الأهمية ### تَعْبِرُ بِصَرْفِيَةٍ - **[عرض متعدد الصور مع أمثلة من وظائف سابقة](https://onnxruntime.ai/)**7 - لا شيء.**[](https://github.com/SciSharp/LLamaSharp)**كل قطعة تحتاج إلى بيانات فوقية: - **[المصدر الملف/الوظيفة](https://dotnet.microsoft.com/en-us/apps/machinelearning-ai/ml-dotnet)**الوضع في الميضع في المُثَل الأصلية - **تاريخ النشر** ### - **[عندما تولد LLLM اقتراحات، نقوم تلقائياً بإنشاء روابط حدودية لنقاط المصدر وتحديد أنماط شفرات قابلة لإعادة الاستخدام.](https://qdrant.tech/)**مَاذَا يُمْكِنُ أَنْ يَتَغَيَّرَ هٰذَا ؟**[هناك الكثير من دروس RAG هناك، ولكن هذه السلسلة ستكون مختلفة:](https://github.com/pgvector/pgvector)**& أوليC#Fst ### - معظم أمثلة RAG في Python. - **سوف نصبح كاملين****- تحسين قدرة NVIDIA CUDA على النوافذ، لا على لينكس/WSL****[- ليس فقط إثبات التقبل، ولكن الشفرة المستخدمة الفعلية](https://avaloniaui.net/)**المنفذ- الخاصية ### - الاستفادة من المساعدة في كتابة المدونات، وليس من توليد المحتوى العام - **[](https://github.com/xoofx/markdig)**- نحن في الواقع سنشرح "لماذا" وراء القرارات - **[التكنولوجيات التي سنستخدمها](https://www.docker.com/)**ها هي مجموعة التكنولوجيا التي أخطط لها: - **[الإطار الأساسي](https://docs.microsoft.com/en-us/ef/core/)**في العالم ٩ ### (المتأخرات في وقت كتابة التقرير) - **[C# 13](https://developer.nvidia.com/cuda-toolkit)- الملامح اللغوية الحديثة**AI/ML المكتبات - **[وقت التشغيل ONNNNNX](https://developer.nvidia.com/cudnn)**أو ## لِمْ لِمْ لِمْ - الاستدلال ### ميكروسوفt.ML - **- إمكانية القيام ببعض المهام**المحولون عن طريق OONNX - **- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -**قاعدة بيانات الفئة - ****أو - **(ج) مُنْفِجِكَر**- يحدد فيما بعد ### الإطار - **وُجِسْتُ**مع مع - **الحداثة**أو - **المائل**- العصر الحديث URI ### - **&**- يستخدم هذا مسبقاً كعلامة - - **مُصد مُصد مُصد مُكر**- لتسيير الخدمات المقدمة في شكل Qddrent أو غيرها من الخدمات - **إطار عمل الأمم المتحدة**-إذا استخدمنا (بجفيكتور ) - **المجموع**كندا ### )أكشــر( - **(المتأخرات في وقت كتابة التقرير)**قُدْس - **- بدائيات التعليم العميق**لجنة البلدان - **إعدادات الأجهزة المختلفة لها قدرات مختلفة:**مع 8GB VRAM (الحد الأدنى) - **نمط**: 7B نماذج البارامترات مع Q4 ## جاري التجهيز : عملية التزكية في الدفعات الأصغر 1. إدارة الذاكرة 2. : الرصد الحذر المطلوب 3. يَحْمَل جيداً لـ 4. : مساعد في الكتابة، الجيل المدمج 5. مع 12GB+ فيرم (ممول) 6. نمط 7B مع تكرير عالي الجودة (Q5/Q6) ## جاري التجهيز : دفعات كبيرة لنواتج أسرع:**[لا تنفيذ](/blog/building-a-lawyer-gpt-for-your-blog-part2)**: بعض النماذج 13B مع تكهنات عدوانية - مع 16GB+ فرام (تأتي) - نمط - 7B-13B نماذج البارامترات المريحة - جاري التجهيز - :: الدفعات الكاملة، الحد الأدنى من القيود FAF ## أوقات الاستجابة الثانية الفرعية غرفة الاجتماعات - **يمكن أن تجربة مع نماذج مختلفة**المعالج فقط (التراجع) - **كل شيء يعمل**فقط ابطأ ابطأ - **مُحَث**5-10 x أبطأ من الميول - **LL LLDDG**: 10.50 x أبطأ من الميول - **LCLL LCLLL**من أجل مساعد كتابة مع الصبر! دال - مقدمـة مـن ## سوف نبني هذا تدريجياً: ابدأ بمكونات مبسطة (قراءة و قص) إضافة توليد مدمج (يمكن البدء بـ API قبل الذهاب محلياً) بناء أساسUUI ## &LLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLLL LLL LL LL L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L L - **البولندية والتكلوثية**وسيكون كل جزء من هذه الأجزاء قابلا للنشر والاختبار بمفرده. - [لا توجد كوابيس تكاملية كبيرة](/blog/building-a-lawyer-gpt-for-your-blog-part2) - [ما هو التالي؟](/blog/building-a-lawyer-gpt-for-your-blog-part3) - [داخل](/blog/building-a-lawyer-gpt-for-your-blog-part4) - [الجزء 2: تركيبة الجيني وCUDA في C#](/blog/building-a-lawyer-gpt-for-your-blog-part5) - [، نحن سَنُصبحُ مُتَأَكِّدُ على مَع تركيبِ GPU:](/blog/building-a-lawyer-gpt-for-your-blog-part6) - [جاري تركيب CUDA و QDnn على النوافذ](/blog/building-a-lawyer-gpt-for-your-blog-part7) - [تهيئة بيئة التنمية](/blog/building-a-lawyer-gpt-for-your-blog-part8) ## كتابة بسيط C# برنامج للتحقق من وصول GPU إجراء اختبار أساسي مع أونينكس وقت التشغيل - [مقيسة AA4000 لدينا لفهم ما يمكننا القيام به](https://onnxruntime.ai/) - [قد يبدو هذا أمراً أساسياً، لكن الحصول على رزمة الـ GPU بشكل صحيح أمر بالغ الأهمية.](https://github.com/SciSharp/LLamaSharp) - [لقد أضعت ساعات في معالجة القضايا التي جاءت إلى نسخ من عدم التوافق أو فقدان DLLS.](https://qdrant.tech/documentation/) - [لماذا هذا السؤال ؟](https://www.sbert.net/) - [وبعيداً عن كونه مشروعاً رائعاً، فإن لهذا النهج تطبيقات حقيقية:](https://www.anthropic.com/index/contextual-retrieval) [- الحفاظ على أسلوب ثابت عبر مجموعات كبيرة من الوثائق](/blog/building-a-lawyer-gpt-for-your-blog-part2)!