में इस RAG श्रृंखला का भाग 1हमने पुनःप्राप्ति के मूलभूत तत्वों को शामिल किया।

परिचय

यदि आपने पढ़ा नहीं है भाग 1: RAG व्याख्यामैं वहाँ शुरू करने के लिए बुनियादी अवधारणाओं को समझने की सिफारिश करता हूँ

• RAG क्या है और यह क्यों महत्वपूर्ण है
• एम्बेडिंग और भेक्टर खोज कैसे काम करते हैं
• LLM आंतरिक | ( |tokens |, | KV कैश |
• RAG vs fine-tuning और अन्य दृष्टिकोण

इस लेख का मानना है कि आप उन बुनियादी और पर ध्यान केंद्रित समझते हैं क्रियान्वयन.

Real-World RAG अनुप्रयोग इस ब्लॉग पर

मैंने इस ब्लॉग पर कई RAG निर्मित किया है।

1. संबंधित पदों की सिफारिश

प्रत्येक ब्लॉग पोस्ट को अर्थिक समानता का उपयोग करते हुए "संबंधित पोस्ट्स" दिखा सकता है

यह कैसे काम करता है

1. प्रत्येक ब्लॉग पोस्ट प्रकाशित होने पर सम्मिलित होता है
2. एक पोस्ट को देखने पर हम Qdrant से इसकी सम्मिलितता प्राप्त करते हैं
3. सबसे 5 समान पोस्ट सम्मिलितियाँ ढूंढें
4. के रूप में प्रदर्शित करें

टैगों से बेहतर क्यों है

• टैगों को हस्तचालित वर्गीकरण की आवश्यकता है
• अर्थात्मक खोज, टैगों के मिलान के बिना भी संकल्पनागत रूप से संबंधित पोस्टों को पाता है
• "Docker Compose" और "Container orchestrationM SK3 पदों को अर्थिक रूप से संबंधित है

कोड स्निपेट:

public async Task<List<SearchResult>> GetRelatedPostsAsync(
    string currentPostSlug,
    string language,
    int limit = 5)
{
    // Get the current post's embedding
    var currentPost = await _vectorStore.GetByIdAsync(currentPostSlug);

    if (currentPost == null)
        return new List<SearchResult>();

    // Find similar posts
    var similarPosts = await _vectorStore.SearchAsync(
        currentPost.Embedding,
        limit: limit + 1,  // +1 because result includes the current post
        filter: new Filter
        {
            Must =
            {
                new Condition
                {
                    Field = "language",
                    Match = new Match { Keyword = language }
                }
            },
            MustNot =
            {
                new Condition
                {
                    Field = "slug",
                    Match = new Match { Keyword = currentPostSlug }
                }
            }
        }
    );

    return similarPosts.Take(limit).ToList();
}

2. अर्थात्मक ब्लॉग खोज

इस ब्लॉग पर खोज बक्सा RAG का उपयोग करता है

उपयोगकर्ता अनुभव:

• डाटाबेस सेटअप करने के लिए खोज "सेटिंग एक डेटाबेस
• के लिए खोजें "deployment" → Docker के बारे में पोस्ट्स ढूंढता है
• सही शब्दकुञ्जी मिलान के लिए कोई आवश्यकता नहीं

क्रियान्वयन मैं इस निर्माण को एक भावी सदिश डाटाबेसों पर एक लेख में कवर करेंगे

3. वकील GPT

मैं नई ब्लॉग पोस्ट लिखने में मदद करने के लिए एक पूरा RAG सिस्टम बना रहा हूँ

केस का उपयोग करें जब मैं " ASP को प्रमाणीकरण जोड़ने के बारे में लिखना शुरू करता हूँ

1. मेरे वर्तमान ड्राफ्ट को सम्मिलित करता है
2. प्रमाणीकरण के बारे में संबंधित सामग्री के लिए पिछले पोस्टों की खोज करता है
3. प्रासंगिक कोड स्निपेट सिफारिश करता है I'have used before
4. स्वतः-- संबंधित पदों के लिए आंतरिक लिंक उत्पन्न करता है
5. मेरे लेखन शैली के साथ सुसंगतता बनाए रखता है

पूर्ण RAG पाइपलाइन

public async Task<WritingAssistanceResponse> GetSuggestionsAsync(
    string currentDraft,
    string topic)
{
    // 1. Embed the current draft
    var draftEmbedding = await _embeddingService.GenerateEmbeddingAsync(
        currentDraft
    );

    // 2. Retrieve related past content
    var relatedPosts = await _vectorStore.SearchAsync(
        draftEmbedding,
        limit: 5
    );

    // 3. Build context for LLM
    var prompt = BuildWritingAssistancePrompt(
        currentDraft,
        topic,
        relatedPosts
    );

    // 4. Generate suggestions using local LLM
    var suggestions = await _llmService.GenerateAsync(prompt);

    // 5. Extract and format citations
    var response = ExtractCitations(suggestions, relatedPosts);

    return response;
}

यह कार्य में RAG है - पुनःप्राप्ति

सामान्य आरएजी चुनौतियां और समाधान

उत्पादन RAG प्रणालियों का निर्माण trivial नहीं है।

चुनौतियां

समस्या: दस्तावेजों को कैसे विभाजित किया जाता है

समाधान दस्तावेज संरचना पर आधारित हाइब्रिड खंडन

public class SmartChunker
{
    public List<Chunk> ChunkDocument(string markdown, string sourceId)
    {
        var chunks = new List<Chunk>();

        // Parse markdown into sections
        var document = Markdown.Parse(markdown);
        var sections = ExtractSections(document);

        foreach (var section in sections)
        {
            var wordCount = CountWords(section.Content);

            if (wordCount < MinChunkSize)
            {
                // Merge small sections
                MergeWithPrevious(chunks, section);
            }
            else if (wordCount > MaxChunkSize)
            {
                // Split large sections
                var subChunks = SplitSection(section);
                chunks.AddRange(subChunks);
            }
            else
            {
                // Just right
                chunks.Add(CreateChunk(section, sourceId));
            }
        }

        return chunks;
    }
}

सर्वोत्तम प्रथाएं

• दस्तावेज़ संरचना को मानें
• टुकड़ों के बीच ओवरलैप जोड़ें
• कोड ब्लॉकों को पूर्ण रूप से सुरक्षित रखें
• संदर्भ के लिए प्रत्येक खंड में खंड हेडर शामिल करें

चुनौती 2: सम्मिलन गुणवत्ता

समस्या: जेनेरिक एम्बेडिंग मॉडल डोमेन को नहीं पकड़ सकते

समाधान

विकल्प 1: Fine (advanced

# Using sentence-transformers in Python
from sentence_transformers import SentenceTransformer, InputExample, losses

model = SentenceTransformer('all-MiniLM-L6-v2')

# Create training examples from your domain
train_examples = [
    InputExample(texts=['Docker Compose', 'container orchestration'], label=0.9),
    InputExample(texts=['Entity Framework', 'ORM database'], label=0.9),
    InputExample(texts=['Docker', 'apple fruit'], label=0.1)
]

# Fine-tune
train_dataloader = DataLoader(train_examples, shuffle=True, batch_size=16)
train_loss = losses.CosineSimilarityLoss(model)
model.fit(train_objectives=[(train_dataloader, train_loss)], epochs=1)

विकल्प 2: हाइब्रिड एम्बेडिंग (एकाधिक मॉडलों को संयोजित करें

public async Task<float[]> GenerateHybridEmbeddingAsync(string text)
{
    var semantic = await _semanticModel.GenerateEmbeddingAsync(text);
    var keyword = await _keywordModel.GenerateEmbeddingAsync(text);

    // Concatenate or weighted average
    return CombineEmbeddings(semantic, keyword);
}

विकल्प 3: मेटाडेटा फ़िल्टरिंग जोड़ें

var results = await _vectorStore.SearchAsync(
    queryEmbedding,
    limit: 10,
    filter: new Filter
    {
        Must =
        {
            new Condition { Field = "category", Match = new Match { Keyword = "ASP.NET" } },
            new Condition { Field = "date", Range = new Range { Gte = "2024-01-01" } }
        }
    }
);

चुनौती 3: संदर्भ विंडो प्रबंधन

समस्या: LLMs have token limits. How do you fit query | context | + | prompt in the window

समाधान गतिशील संदर्भ चयन और संक्षेपण

public string BuildContextAwarePrompt(
    string query,
    List<SearchResult> retrievedDocs,
    int maxTokens = 4096)
{
    var promptTemplate = GetPromptTemplate();
    var queryTokens = CountTokens(query);
    var templateTokens = CountTokens(promptTemplate);

    // Reserve tokens for: prompt + query + response
    var availableForContext = maxTokens - queryTokens - templateTokens - 500; // 500 for response

    // Add context until we hit limit
    var selectedContext = new List<SearchResult>();
    var currentTokens = 0;

    foreach (var doc in retrievedDocs.OrderByDescending(d => d.Score))
    {
        var docTokens = CountTokens(doc.Text);

        if (currentTokens + docTokens <= availableForContext)
        {
            selectedContext.Add(doc);
            currentTokens += docTokens;
        }
        else
        {
            // Try summarizing the doc if it's important
            if (doc.Score > 0.85)
            {
                var summary = await SummarizeAsync(doc.Text, maxTokens: 200);
                var summaryTokens = CountTokens(summary);

                if (currentTokens + summaryTokens <= availableForContext)
                {
                    selectedContext.Add(new SearchResult
                    {
                        Text = summary,
                        Title = doc.Title,
                        Score = doc.Score
                    });
                    currentTokens += summaryTokens;
                }
            }
        }
    }

    return FormatPrompt(query, selectedContext);
}

चुनौती 4: RAG के बावजूद भ्रम

समस्या: संदर्भ के साथ भी LLM कभी-कभी इसे अनदेखा करते हैं और भ्रमित होते हैं

समाधान

प्रोम्प्ट इंजीनियरिंग

var systemPrompt = @"
You are a technical assistant.

CRITICAL RULES:
1. ONLY use information from the provided CONTEXT sections
2. If the context doesn't contain the answer, say 'I don't have enough information in the provided context to answer that'
3. DO NOT use your training data to supplement answers
4. Always cite the source using [1], [2] notation
5. If you're unsure, say so

CONTEXT:
{context}

QUESTION: {query}

ANSWER (following all rules above):
";

पीछला पेज होम पेज अगला पेज

public async Task<bool> ValidateResponseAgainstContext(
    string response,
    List<SearchResult> context)
{
    // Check if response contains claims not in context
    var responseSentences = SplitIntoSentences(response);

    foreach (var sentence in responseSentences)
    {
        var isSupported = await IsClaimSupportedByContext(sentence, context);

        if (!isSupported)
        {
            _logger.LogWarning("Hallucination detected: {Sentence}", sentence);
            return false;
        }
    }

    return true;
}

3. पुनरावर्ती संशोधन

public async Task<string> GenerateWithValidationAsync(
    string query,
    List<SearchResult> context,
    int maxAttempts = 3)
{
    for (int attempt = 0; attempt < maxAttempts; attempt++)
    {
        var response = await _llm.GenerateAsync(
            BuildPrompt(query, context)
        );

        var isValid = await ValidateResponseAgainstContext(response, context);

        if (isValid)
            return response;

        // Refine prompt for next attempt
        query = $"{query}\n\nPrevious attempt hallucinated. Stick strictly to the context.";
    }

    return "I couldn't generate a reliable answer. Please rephrase your question.";
}

चुनौती 5: अनुक्रमणिका को ऊपर रखने के लिए

समस्या: जब आप नए दस्तावेज जोड़ते हैं

समाधान स्वचालित सूचक पाइपलाइन

public class BlogIndexingBackgroundService : BackgroundService
{
    private readonly IVectorStoreService _vectorStore;
    private readonly IMarkdownService _markdownService;
    private readonly ILogger<BlogIndexingBackgroundService> _logger;

    protected override async Task ExecuteAsync(CancellationToken stoppingToken)
    {
        while (!stoppingToken.IsCancellationRequested)
        {
            try
            {
                await IndexNewPostsAsync(stoppingToken);

                // Check for updates every hour
                await Task.Delay(TimeSpan.FromHours(1), stoppingToken);
            }
            catch (Exception ex)
            {
                _logger.LogError(ex, "Error in indexing service");
            }
        }
    }

    private async Task IndexNewPostsAsync(CancellationToken ct)
    {
        var allPosts = await _markdownService.GetAllPostsAsync();

        foreach (var post in allPosts)
        {
            var existingDoc = await _vectorStore.GetByIdAsync(post.Slug);

            // Check if content changed
            var currentHash = ComputeHash(post.Content);

            if (existingDoc == null || existingDoc.ContentHash != currentHash)
            {
                _logger.LogInformation("Indexing updated post: {Title}", post.Title);

                var chunks = _chunker.ChunkDocument(post.Content, post.Slug);

                foreach (var chunk in chunks)
                {
                    var embedding = await _embeddingService.GenerateEmbeddingAsync(chunk.Text);

                    await _vectorStore.UpsertAsync(
                        id: $"{post.Slug}_{chunk.Index}",
                        embedding: embedding,
                        metadata: new Dictionary<string, object>
                        {
                            ["slug"] = post.Slug,
                            ["title"] = post.Title,
                            ["chunk_index"] = chunk.Index,
                            ["content_hash"] = currentHash
                        },
                        ct: ct
                    );
                }
            }
        }
    }
}

उन्नत RAG तकनीक

अभी हाल के अनुसंधान से काटने की तकनीकों का अध्ययन करें

Hypothetical Document Embeddings

समस्या: उपयोक्ता क्वेरी प्रायः छोटा और खराब रूप से बना होता है।

समाधान hypothetical ideal document that would answer the query

public async Task<List<SearchResult>> HyDESearchAsync(string query)
{
    // Generate hypothetical answer (even if hallucinated)
    var hypotheticalAnswer = await _llm.GenerateAsync($@"
        Write a detailed, technical paragraph that would perfectly answer this question:

        Question: {query}

        Paragraph:"
    );

    // Embed the hypothetical answer
    var embedding = await _embeddingService.GenerateEmbeddingAsync(
        hypotheticalAnswer
    );

    // Search using this embedding
    return await _vectorStore.SearchAsync(embedding);
}

यह काम क्यों करता है hypothetical answer uses similar language and structure to actual documents

क्रें

समस्या: उपयोक्ता क्वेरी अक्सर मेटाडेटा फ़िल्टरों के साथ सेमेटिक खोज मिलाते हैं

उदाहरण: M SK1Docker के बारे में हाल ही में लिखे गए पोस्ट्स" | = semantic |(" | Docker |

समाधान क्वेरी को अर्थात्मक + मेटाडेटा फ़िल्टरों में विश्लेषण करने के लिए LLM का उपयोग करें

public async Task<SearchQuery> ParseSelfQueryAsync(string naturalLanguageQuery)
{
    var parsingPrompt = $@"
        Parse this search query into:
        1. Semantic search query (what the user is looking for)
        2. Metadata filters (category, date range, etc.)

        User Query: {naturalLanguageQuery}

        Output JSON:
        {{
            ""semantic_query"": ""the core concept"",
            ""filters"": {{
                ""category"": ""...",
                ""date_after"": ""..."",
                ""date_before"": ""...""
            }}
        }}
    ";

    var jsonResponse = await _llm.GenerateAsync(parsingPrompt);
    var parsed = JsonSerializer.Deserialize<SearchQuery>(jsonResponse);

    return parsed;
}

// Use parsed query
var parsedQuery = await ParseSelfQueryAsync("Recent ASP.NET posts about authentication");
// semantic_query: "authentication"
// filters: { category: "ASP.NET", date_after: "2024-01-01" }

var results = await _vectorStore.SearchAsync(
    embedding: await _embeddingService.GenerateEmbeddingAsync(parsedQuery.SemanticQuery),
    filter: BuildFilter(parsedQuery.Filters)
);

3. Multi-Query RAG

समस्या: एकल क्वेरी में प्रासंगिक दस्तावेजों को वाक्यांश के कारण गुम हो सकता है

समाधान सभी के साथ क्वेरी की बहुविध भिन्नताएं उत्पन्न करें

public async Task<List<SearchResult>> MultiQuerySearchAsync(string query)
{
    // Generate query variations
    var variations = await _llm.GenerateAsync($@"
        Generate 3 different ways to phrase this search query:

        Original: {query}

        Variations (one per line):
    ");

    var queries = variations.Split('\n', StringSplitOptions.RemoveEmptyEntries)
        .Prepend(query) // Include original
        .ToList();

    // Search with all variations
    var allResults = new List<SearchResult>();

    foreach (var q in queries)
    {
        var embedding = await _embeddingService.GenerateEmbeddingAsync(q);
        var results = await _vectorStore.SearchAsync(embedding, limit: 10);
        allResults.AddRange(results);
    }

    // Deduplicate and merge scores
    var merged = allResults
        .GroupBy(r => r.Id)
        .Select(g => new SearchResult
        {
            Id = g.Key,
            Text = g.First().Text,
            Title = g.First().Title,
            Score = g.Max(r => r.Score) // Take best score
        })
        .OrderByDescending(r => r.Score)
        .ToList();

    return merged;
}

4. संदर्भात्मक संकुचन

समस्या: प्राप्त खंडों में अप्रत्यक्ष सूचनाएं हैं. इसे सभी बर्बादी टोकन भेज रहा है

समाधान प्राप्य संदर्भ को केवल प्रासंगिक भागों में दबाने के लिए छोटे LLM का उपयोग करें

public async Task<string> CompressContextAsync(
    string query,
    List<SearchResult> retrievedDocs)
{
    var compressed = new List<string>();

    foreach (var doc in retrievedDocs)
    {
        var compressionPrompt = $@"
            Extract only the sentences from this document that are relevant to answering the question.

            Question: {query}

            Document:
            {doc.Text}

            Relevant excerpts (maintain original wording):
        ";

        var relevantExcerpt = await _smallLLM.GenerateAsync(compressionPrompt);

        if (!string.IsNullOrWhiteSpace(relevantExcerpt))
        {
            compressed.Add($"From '{doc.Title}':\n{relevantExcerpt}");
        }
    }

    return string.Join("\n\n", compressed);
}

5. पुनरावर्ती पुनःप्राप्ति

समस्या: जटिल प्रश्नों के लिए कई स्रोतों से सूचना की आवश्यकता होती है, जो जोड़ी जानी चाहिए

उदाहरण: " ब्लॉग का क्या डेटाबेस उपयोग करता है और कैसे सेमेटिक खोज लागू किया जाता है

• ढूंढें क्या डाटाबेस का उपयोग किया जाता है
• Hop 2: यह पता लगा कि कैसे सेमेटिक खोज उस डाटाबेस के साथ काम करता है

समाधान पुनरावर्ती पुनर्प्राप्ति और संश्लेषण

public async Task<string> MultiHopRAGAsync(string complexQuery, int maxHops = 3)
{
    var currentQuery = complexQuery;
    var allContext = new List<SearchResult>();

    for (int hop = 0; hop < maxHops; hop++)
    {
        // Retrieve for current query
        var results = await SearchAsync(currentQuery, limit: 5);
        allContext.AddRange(results);

        // Check if we have enough information
        var synthesisPrompt = $@"
            Original question: {complexQuery}

            Context so far:
            {FormatContext(allContext)}

            Can you answer the original question with this context?
            If yes, provide the answer.
            If no, what additional information do you need? (be specific)
        ";

        var synthesis = await _llm.GenerateAsync(synthesisPrompt);

        if (synthesis.Contains("yes", StringComparison.OrdinalIgnoreCase))
        {
            // We have enough information
            return ExtractAnswer(synthesis);
        }

        // Extract what we need for next hop
        currentQuery = ExtractNextQuery(synthesis);
    }

    // Final synthesis with all gathered context
    return await GenerateFinalAnswerAsync(complexQuery, allContext);
}

RAG के साथ 6. लंबा-Term Context मेमोरी

समस्या: आप किस तरह एआई प्रणालियों का निर्माण करते हैं जो महीनों या वर्षों पहले के वार्तालाप को याद रखते हैं

समाधान आरएजी को प्रगतिशील संक्षेपण से जोड़कर स्थायी स्मृति निर्मित करें

इस दृष्टिकोण में प्रयोग किया जाता है डायरेक्टेड सिंथेटिक एवोल्यूशन एक उन्नत सिस्टम I'm निर्माण है जो RAG युक्त संदर्भ स्मृति का उपयोग साझा वार्तालाप इतिहास अपरिभाषित रूप से बनाए रखने के लिए करता है

उदाहरण परिदृश्य:

User (Today): "Remember George's specs?"
AI: "Yes, you discussed George's prescription requirements in our conversation
     from 5 years ago (2019-03-15). He needed progressive lenses with..."

यह कैसे काम करता है

flowchart TB
    A[User Message] --> B[Store in RAG Memory]
    B --> C[Extract Key Entities & Topics]
    C --> D[Link to Past Conversations]

    E[Periodic Summarization] --> F[Summarize Old Conversations]
    F --> G[Store Summary with High-Level Tags]
    G --> H[Keep Original for Retrieval]

    I[Future Query: 'George's specs'] --> J[Semantic Search in RAG]
    J --> K[Find: 2019 conversation]
    K --> L[Retrieve Original Context]
    L --> M[LLM generates response with 5-year-old context!]

    style B stroke:#f9f,stroke-width:3px
    style J stroke:#bbf,stroke-width:3px

कार्यान्वयन दृष्टिकोण

public class LongTermConversationalMemory
{
    private readonly IVectorStoreService _vectorStore;
    private readonly IEmbeddingService _embeddingService;

    public async Task StoreConversationAsync(
        string conversationId,
        string userId,
        List<ConversationTurn> turns,
        DateTime timestamp)
    {
        // Extract key entities and topics
        var entities = await ExtractEntitiesAsync(turns);
        var topics = await ExtractTopicsAsync(turns);

        // Create searchable representation
        var conversationText = string.Join("\n", turns.Select(t =>
            $"{t.Speaker}: {t.Message}"));

        // Generate embedding
        var embedding = await _embeddingService.GenerateEmbeddingAsync(
            conversationText);

        // Store in RAG with rich metadata
        await _vectorStore.IndexDocumentAsync(
            id: $"conv_{conversationId}",
            embedding: embedding,
            metadata: new Dictionary<string, object>
            {
                ["user_id"] = userId,
                ["timestamp"] = timestamp.ToString("O"),
                ["entities"] = entities,  // ["George", "specs", "prescription"]
                ["topics"] = topics,      // ["healthcare", "eyewear"]
                ["full_text"] = conversationText,
                ["turn_count"] = turns.Count
            }
        );
    }

    public async Task<List<PastContext>> RetrieveRelevantPastAsync(
        string currentQuery,
        string userId,
        int limit = 5)
    {
        // Embed the current query
        var queryEmbedding = await _embeddingService.GenerateEmbeddingAsync(
            currentQuery);

        // Search past conversations
        var results = await _vectorStore.SearchAsync(
            queryEmbedding,
            limit: limit,
            filter: new Filter
            {
                Must =
                {
                    new Condition { Field = "user_id", Match = new Match { Keyword = userId } }
                }
            }
        );

        return results.Select(r => new PastContext
        {
            ConversationId = r.Id,
            Timestamp = DateTime.Parse(r.Metadata["timestamp"].ToString()),
            Entities = (List<string>)r.Metadata["entities"],
            FullText = r.Metadata["full_text"].ToString(),
            Relevance = r.Score
        }).ToList();
    }

    // Periodic summarization to keep memory manageable
    public async Task SummarizeOldConversationsAsync(DateTime olderThan)
    {
        var oldConversations = await _vectorStore.FindByDateRangeAsync(
            endDate: olderThan);

        foreach (var conv in oldConversations)
        {
            // Generate summary using LLM
            var summary = await _llm.GenerateAsync($@"
                Summarize this conversation, preserving key facts and entities:

                {conv.FullText}

                Summary:");

            // Update document with summary while keeping original
            await _vectorStore.UpdateAsync(
                id: conv.Id,
                additionalMetadata: new Dictionary<string, object>
                {
                    ["summary"] = summary,
                    ["summarized_at"] = DateTime.UtcNow.ToString("O")
                }
            );
        }
    }
}

यह क्यों शक्तिशाली है

1. अनन्त स्मृति विस्तार - वर्षों से हुए वार्तालाप कल की तरह ही पहुँच योग्य हैं
2. वैचारिक खोज - "GeorgeM SK2s specs" वार्तालाप को पाता है, चाहे वह भंडारित किया गया हो.
3. इकाई लिंकिंग सभी वार्तालाप जो "George" का उल्लेख करते हैं कनेक्टेड हैं
4. गोपनीयता - उपयोक्ता स्मृति अलगाव को लागू कर सकता है
5. लागत - सारांश खोज योग्य बनाए रखने के दौरान भंडारण विस्फोट को रोकता है

DiSE से Real-world उदाहरण

स्मरण करने के लिए DiSE इस दृष्टिकोण का उपयोग करता है

• औज़ार आमंत्रण से महीनों पहले (जो काम करता है
• कोड पैटर्न जो पिछले परियोजनाओं में सफल थे
• उपयोक्ता प्राथमिकताएँ पहले के वार्तालापों में स्थापित
• डोमेन ज्ञान समय के साथ संचित

यह एक ऐसा AI सिस्टम बनाता है जो वास्तविक रूप से प्रत्येक आदान-प्रदान से सीखता है और प्रत्येक सत्र को नए शुरू करने के बजाय संस्थागत स्मृति निर्मित करता है

विचार करने के लिए चुनौतियां

1. गोपनीयता: पुराने वार्तालाप को एक उपयोक्ता के लिए उचित रूप से अलग किया जाना चाहिए
2. प्रासंगिकता ह्रास: सभी पुराने सूचना प्रासंगिक नहीं रह रही है
3. भंडारण लागत: पैमाने के लिए सारांश रणनीति की आवश्यकता है
4. सुसंगतता: सारांशों को मूल के साथ समन्वित रखना
5. पुनःप्राप्ति सूक्ष्मता: हाल ही में और ऐतिहासिक रूप से महत्वपूर्ण संदर्भ के बीच संतुलन

इस तकनीक से RAG को "में के दस्तावेज़ ढूंढने के लिए "के रूप में परिवर्तित किया जाता है।

जब RAG का उपयोग नहीं किया जाना है

RAG कभी भी जवाब नहीं है।

1. सामान्य ज्ञान प्रश्न

• फ्रांस की राजधानी क्या है
• RAG बिना लाभ के लंबितता और लागत को जोड़ता है

रचनात्मक लेखन

• कविता
• आरएजी मौजूदा पाठ के आधार पर सृजनशीलता को प्रतिबंधित करता है

3. वास्तविक

• स्टॉक कीमतें, रीवी खेल स्कोर्स
• API एकीकरण से बेहतर सेवाएँ

4. गणितीय तर्क

• "Calculate
• LLMs गणित कर सकते हैं

5. बहुत कम ज्ञान आधार

• यदि आपका ज्ञान आधार संदर्भ विंडो में फिट है, तो यह सब शामिल करें
• RAG ऊपरी खर्च ' दस्तावेजों के लिए यह मूल्य नहीं है

जब आप LLM को नियंत्रित करते हैं

• यदि आप अपने डेटा पर एक मॉडल को शून्य से प्रशिक्षण कर रहे हैं, तो
• आरएजी सबसे अच्छा है जब पहले प्रयोग किया जाता है

आर. ए. जी. के साथ आरंभ करना

अपने own RAG तंत्र का निर्माण करना चाहते हैं

सप्ताह 1: प्रारंभ सरल

लक्ष्य कोई LLM के साथ काम करने के लिए बुनियादी खोज प्राप्त करें

// 1. Choose an embedding service (start with API for simplicity)
var openAI = new OpenAIClient(apiKey);

// 2. Embed a few test documents
var docs = new[]
{
    "Docker is a containerization platform",
    "Kubernetes orchestrates containers",
    "Entity Framework is an ORM for .NET"
};

var embeddings = new List<float[]>();
foreach (var doc in docs)
{
    var response = await openAI.GetEmbeddingsAsync(
        new EmbeddingsOptions("text-embedding-3-small", new[] { doc })
    );
    embeddings.Add(response.Value.Data[0].Embedding.ToArray());
}

// 3. Implement basic search (in-memory for now)
var query = "container orchestration";
var queryEmbedding = await GetEmbeddingAsync(query);

var results = embeddings
    .Select((emb, idx) => new
    {
        Text = docs[idx],
        Score = CosineSimilarity(queryEmbedding, emb)
    })
    .OrderByDescending(r => r.Score)
    .ToList();

// 4. Verify search works
foreach (var result in results)
{
    Console.WriteLine($"{result.Score:F3}: {result.Text}");
}
// Expected: Kubernetes scores highest

सप्ताह 2: भेक्टर डाटाबेस जोड़ें

लक्ष्य वास्तविक दस्तावेज संग्रह में मापन करें.

क्रियान्वयन के लिए अगले कदम

1. डकर में क्वैंट चलाएँ
2. अपने दस्तावेजों का अनुक्रमण करें
3. खोज अंतबिन्दु लागू करें

मैं यह एक भावी सदिश डाटाबेस पर एक लेख में विस्तृत रूप से कवर करेंगे

सप्ताह 3: LLM उत्पादन जोड़ें

लक्ष्य RAG पाइपलाइन को पूरा करें

// 1. Retrieve context
var context = await SearchAsync(query, limit: 3);

// 2. Build prompt
var prompt = $@"
    Answer the question using this context:

    {FormatContext(context)}

    Question: {query}

    Answer:";

// 3. Generate (start with API)
var response = await openAI.GetChatCompletionsAsync(new ChatCompletionsOptions
{
    Messages =
    {
        new ChatMessage(ChatRole.System, "You are a helpful assistant."),
        new ChatMessage(ChatRole.User, prompt)
    },
    Temperature = 0.7f,
    MaxTokens = 500
});

return response.Value.Choices[0].Message.Content;

सप्ताह 4: अनुकूलन और पोलैंडी

• कैचिंग जोड़ें (एपीआई लागत पर बचत करें
• खंडन रणनीति सुधारें
• मेटाडेटा फ़िल्टरिंग जोड़ें
• हाइब्रिड खोज लागू करें
• उद्धरण निष्कर्ष जोड़ें

स्थानीय जा रहा है (वैकल्पिक

एक बार बुनियादी कार्य , स्थानीय inference में स्थानांतरित करें |( |I | ' |मैं आने वाले लेखों में इसे शामिल करेंगे

• GPU त्वरण के साथ स्थानीय LLM निष्कर्ष
• ऑनिक्स रनटाइम के साथ CPU-friendly embeddings

निष्कर्ष

RAG (RetrievalM SK1Augmented Generation) LLMs को अधिक सटीक बनाने के लिए एक शक्तिशाली तकनीक है।

1. पुनः प्राप्त करें अर्थात्मक खोज का प्रयोग करते हुए ज्ञान आधार से प्रासंगिक सूचना
2. वृद्धि लाया गया संदर्भ के साथ LLM's प्रवर्धन
3. उत्पन्न करें जवाब जो असली स्रोतों में आधारित हैं और उद्धृतियों के साथ

RAG के मुख्य लाभ

• हमेशा अद्यतन करें-toM SK1date (just update your knowledge base
• स्रोतों में आधारित (भ्रम को कम करता है
• स्पष्ट (स्रोतों को उद्धरण कर सकता है
• लागत-प्रभावी (किसी किफायती पुनर्प्रशिक्षण नहीं
• गोपनीयता-preserving (can run entirely locally
• डोमेन-विशेष (अपने दस्तावेजों का उपयोग करें

RAG को कब प्रयोग करना है

• ज्ञान
• सूचना का बार-बार अद्यतन
• निजी/स्वामित्व डेटा
• उद्धरणों और लेखापरीक्षा की आवश्यकता
• लागत और सरलता का विषय

RAG को कब टालना है

• सामान्य ज्ञान प्रश्न
• रचनात्मक लेखन
• वास्तविक | - | समय डेटा |( | इसके बजाय APIs का उपयोग करें
• बहुत कम ज्ञान आधार

यह क्षेत्र HyDE जैसे उन्नत तकनीकों के साथ तेजी से विकसित हो रहा है।

सरल आरंभ करें, मापन परिणामों को मापेंM SK1 और फिर से चलाएँ. RAG आज विश्वसनीय AI प्रणालियों के निर्माण का सबसे व्यावहारिक तरीका है

क्या है

अब आप दोनों बुनियादी बातें समझ रहे हैं (भाग 1आने वाले लेखों में ) और RAG के व्यावहारिक अनुप्रयोगों को मैं आपको दिखाएँगा कि कैसे सी में पूरी तरह से तैयार RAG प्रणालियां बनाना है

शीघ्र आ रहा है

• CPU-Friendly Semantic Search - किसी भी VPS पर GPU आवश्यकताओं के बिना चलाने वाले ONNX एम्बेडिंगों के साथ सेमेटिक खोज बनाना
• Self-Hosted भेक्टर डाटाबेस - Docker के साथ Qdrant के लिए पूर्ण सेटअप गाइड
• RAG लेखन सहायक बनाना - आपके मौजूदा विषयवस्तु को ज्ञान आधार के रूप में उपयोग करने के लिए एक AI निर्मित करने पर एक पूरी श्रृंखला

ये लेख आपको सिद्धांत से व्यवहार तक ले जाएंगे।

इस आरएजी ज्ञान को कार्य प्रणाली में बदलने वाले कार्यान्वयन मार्गदर्शकों पर हाथ के लिए अनुकुलित रहें

संसाधन

आधारभूत कागजात

• पुनःप्राप्ति-ज्ञान के लिए उन्नत जनन-सभी एनएलपी कार्य - मूल RAG कागज
• ओपन- डोमेन प्रश्न उत्तरण के लिए दाने पासेजtrieval आरडीपी
• ध्यान सब कुछ है जो आपको चाहिए - ट्रांसफॉर्मर्स

उपकरण और फ्रेमवर्क

• क्वारंटCity name (optional, probably does not need a translation) - मैं प्रयोग करता हूँ भेक्टर डाटाबेस
• ऑनिक्स रनटाइम - स्थानीय सम्मिलन के लिए
• लामाशर्प - स्थानीय LLM निष्कर्ष के लिए
• वाक्य ट्रांसफार्मर्स - सम्मिलन मॉडल

आगे पढ़ने:

• मानवीय: संदर्भीय खोज - उन्नत RAG तकनीक
• तंत्रिका मशीन अनुवाद कैसे काम करता है - एम्बेडिंग के पीछे AI मॉडलों को समझना
• RAG स्पष्ट किया गया: भाग 1 - बुनियादी पियर

सौभाग्यपूर्ण भवन