Meilisearch
généralMoteur de recherche et de récupération IA open source ultra-rapide
LLM 4
Cette catégorie regroupe les outils construits autour des grands modèles de langage : infrastructure pour déployer, affiner par réglage fin, évaluer et surveiller les LLM en production. Avec 369 outils répertoriés, c'est l'une des catégories les plus techniques du site, destinée principalement aux développeurs et aux ingénieurs en apprentissage automatique plutôt qu'aux utilisateurs finaux.
L'écosystème d'outils pour LLM a explosé en même temps que les modèles eux-mêmes, et la catégorie couvre désormais plusieurs problématiques distinctes. Les outils de déploiement et de serving comme PeriFlow et Dstack aident les équipes à faire tourner les modèles efficacement à grande échelle. Les outils d'évaluation et d'observabilité comme UpTrain et AIWatch suivent la qualité des modèles, leur dérive et leurs coûts dans le temps. Les outils de mémoire et de récupération comme Cognee ajoutent du contexte persistant ou des capacités RAG aux applications LLM. Pour choisir, les questions clés portent sur l'adéquation à l'infrastructure (cloud, on-premise ou hybride), la compatibilité des modèles (exclusivement OpenAI ou modèles open source), et si l'outil répond à votre vrai goulot d'étranglement, que ce soit la latence, le coût, la précision ou la productivité des développeurs. Les structures tarifaires varient : certains outils facturent par token traité, d'autres par utilisateur ou par appel API. Des options open source existent dans la plupart des sous-catégories, ce qui mérite attention pour les équipes ayant la capacité technique d'auto-héberger.