PeriFlow
généralOptimisez l'inférence LLM pour réduire les coûts et améliorer la vitesse
LLM 369
Cette catégorie regroupe les outils construits autour des grands modèles de langage : infrastructure pour déployer, affiner par réglage fin, évaluer et surveiller les LLM en production. Avec 369 outils répertoriés, c'est l'une des catégories les plus techniques du site, destinée principalement aux développeurs et aux ingénieurs en apprentissage automatique plutôt qu'aux utilisateurs finaux.
Dstack
généralPlan de contrôle pour le provisionnement GPU sur clouds et clusters
Cognee
généralGraphe de connaissances pour entreprises
UpTrain
généralÉvaluer et surveiller les applications LLM en entreprise
Gestell
généralConvertit des données non structurées en bases de données interrogeables pour l'IA
LochBot
généralTeste vos prompts LLM contre 31 patterns de jailbreak et d'injection
AIWatch
généralTableau de bord de statut en temps réel pour plus de 30 services IA
Embedding Similarity Calculator
généralComparez des embeddings vectoriels avec plusieurs métriques de distance
Credyt
généralMonétisation à l'usage et facturation pour produits IA
L'écosystème d'outils pour LLM a explosé en même temps que les modèles eux-mêmes, et la catégorie couvre désormais plusieurs problématiques distinctes. Les outils de déploiement et de serving comme PeriFlow et Dstack aident les équipes à faire tourner les modèles efficacement à grande échelle. Les outils d'évaluation et d'observabilité comme UpTrain et AIWatch suivent la qualité des modèles, leur dérive et leurs coûts dans le temps. Les outils de mémoire et de récupération comme Cognee ajoutent du contexte persistant ou des capacités RAG aux applications LLM. Pour choisir, les questions clés portent sur l'adéquation à l'infrastructure (cloud, on-premise ou hybride), la compatibilité des modèles (exclusivement OpenAI ou modèles open source), et si l'outil répond à votre vrai goulot d'étranglement, que ce soit la latence, le coût, la précision ou la productivité des développeurs. Les structures tarifaires varient : certains outils facturent par token traité, d'autres par utilisateur ou par appel API. Des options open source existent dans la plupart des sous-catégories, ce qui mérite attention pour les équipes ayant la capacité technique d'auto-héberger.