# LLMApi: La maintenir vivante et vivante, le bronchage et le cachage

# Présentation

Dans mon projet LLMApi, je voulais être en mesure de soutenir la demande de LOTS de données; cependant, les LLM ont une quantité très limitée de données qu'ils peuvent produire en même temps; et ne sont pas particulièrement rapides à le faire.

Donc j'avais besoin d'ajouter une façon intelligente de pré-générer ces données et de les fournir en 'chunks' pour que vous puissiez obtenir des données chunky rapidement.

<!--category-- AI, LLMApi, LLM, ASP.NET Core, API, Nuget, mockllmapi, SignalR, AI-Article-->
<datetime class="hidden">2025-11-06T13:35</datetime>

<fetch class="hidden" markdownurl="https://raw.githubusercontent.com/scottgal/LLMApi/refs/heads/features/big-results-cache/CHUNKING_AND_CACHING.md" pollFrequency="2h" transformlinks="true"/>