PeriFlow
generalOptimiza la inferencia de LLM en coste y velocidad
LLMs 369
Esta categoría recoge herramientas construidas en torno a los grandes modelos de lenguaje: infraestructura para desplegar, aplicar ajuste fino, evaluar y monitorizar LLM en producción. Con 369 herramientas listadas, es una de las categorías más técnicas del sitio, dirigida principalmente a desarrolladores e ingenieros de aprendizaje automático, no a usuarios finales.
Dstack
generalPanel de control para aprovisionamiento de GPU en nubes y clústeres
Cognee
generalGrafo de conocimiento para empresas con IA y búsqueda semántica
UpTrain
generalEvalúa y monitoriza aplicaciones LLM en tu propia nube
Gestell
generalConvierte datos no estructurados en bases de datos consultables para IA
LochBot
generalAnaliza prompts de LLM frente a 31 patrones de jailbreak e inyección
AIWatch
generalPanel de estado en tiempo real para más de 30 servicios de IA
Embedding Similarity Calculator
generalCompara embeddings vectoriales usando múltiples métricas de distancia
Credyt
generalMonetización y facturación por uso para productos de IA
Las herramientas para LLM han crecido al mismo ritmo que los modelos, y la categoría abarca ahora varios problemas bien diferenciados. Las de despliegue y servicio, como PeriFlow y Dstack, ayudan a los equipos a ejecutar modelos de forma eficiente a escala. Las de evaluación y observabilidad, como UpTrain y AIWatch, hacen seguimiento de la calidad del modelo, la deriva y el coste a lo largo del tiempo. Las de memoria y recuperación, como Cognee, añaden contexto persistente o capacidades RAG a las aplicaciones basadas en LLM. A la hora de elegir, las preguntas clave son el encaje con la infraestructura disponible (nube, local o híbrido), la compatibilidad con modelos (solo OpenAI o también modelos open source de pesos abiertos) y si la herramienta resuelve tu cuello de botella real, ya sea latencia, coste, precisión o velocidad de desarrollo. Las estructuras de precios varían: algunas herramientas cobran por token procesado, otras por puesto o por llamada a la API. Existen opciones open source en la mayoría de las subcategorías, lo que vale la pena considerar para equipos con capacidad técnica para alojarlas ellos mismos.