# LLMAPI: Κρατώντας το ζωντανό και ζωντανό, το Chunking και το Caching

# Εισαγωγή

Στο έργο μου LLMApi ήθελα να είμαι σε θέση να υποστηρίξω την αίτηση για LOTS δεδομένων· ωστόσο, οι LLMs έχουν πολύ περιορισμένο αριθμό δεδομένων που μπορούν να παράγουν ταυτόχρονα· και δεν είναι ιδιαίτερα γρήγοροι για να το κάνουν.

Έτσι, έπρεπε να προσθέσω έναν έξυπνο τρόπο προ-παράδοσης των δεδομένων και να τα παραδώσω σε "τσούνκς" έτσι ώστε να μπορείτε να πάρετε ψιλοκομμένα δεδομένα πίσω γρήγορα.

<!--category-- AI, LLMApi, LLM, ASP.NET Core, API, Nuget, mockllmapi, SignalR, AI-Article-->
<datetime class="hidden">2025-11-06T13:35</datetime>

<fetch class="hidden" markdownurl="https://raw.githubusercontent.com/scottgal/LLMApi/refs/heads/features/big-results-cache/CHUNKING_AND_CACHING.md" pollFrequency="2h" transformlinks="true"/>