# LLMAPI: Hålla den levande och levande, chunking och caching

# Inledning

I mitt LLMApi-projekt ville jag kunna stödja att fråga efter LOTS data, men LLMs har en mycket begränsad mängd data som de kan producera på en gång, och är inte särskilt snabb om att göra det.

Så jag behövde lägga till ett smart sätt att pre-generera den data och leverera den i "chunks" så att du kan få tjock data tillbaka snabbt.

<!--category-- AI, LLMApi, LLM, ASP.NET Core, API, Nuget, mockllmapi, SignalR, AI-Article-->
<datetime class="hidden">2025-11-06T13:35</datetime>

<fetch class="hidden" markdownurl="https://raw.githubusercontent.com/scottgal/LLMApi/refs/heads/features/big-results-cache/CHUNKING_AND_CACHING.md" pollFrequency="2h" transformlinks="true"/>