Ve el gasto antes que finanzas. Y recórtalo.
Gran parte de la factura de IA de la mayoría de empresas es desperdicio: el modelo más grande para cada llamada, prompts que repiten el mismo contexto, sin caché y sin presupuesto por funcionalidad. Primero medimos, luego recortamos, y solo entregamos un cambio cuando las evaluaciones demuestran que la calidad no se ha movido.
Reduce costes de IA
Selección de modelos, caché, compresión de prompts y presupuestos de tokens, con observabilidad incluida.
Qué hacemos
Auditoría de costes
A dónde va cada token: por funcionalidad, por cliente, por modelo. Dos semanas de trazas dicen más verdad que la factura.
Enrutado de modelos
Modelos pequeños para tareas fáciles, grandes para las difíciles. Lo decide la batería de evaluaciones, no una intuición.
Caché y compresión
Caché de prompts, deduplicación, contextos más cortos y procesamiento por lotes para todo lo que no necesita respuesta inmediata.
Presupuestos y alertas
Presupuestos de tokens por funcionalidad o cliente, atribución de costes en Langfuse y una alerta antes de que el número sea una sorpresa.
Cómo funciona
- 1
Medir
Instrumentamos tus llamadas con trazas y dejamos que dos semanas de tráfico real construyan el mapa de costes.
- 2
Montar la red de seguridad
Una batería de evaluaciones que puntúa las salidas que te importan, para que cada optimización tenga un antes y un después.
- 3
Recortar, un cambio cada vez
Enrutado, caché, compresión, presupuestos. Cada cambio se entrega solo si pasa las evaluaciones.
- 4
Mantenerlo
Cuadros de mando, presupuestos y una revisión mensual para que la factura no vuelva a subir sin que nadie lo vea.
Qué recibes
- Mapa de costes por funcionalidad, cliente y modelo
- Capa de enrutado y caché en tu código
- Batería de evaluaciones con resultados antes y después
- Cuadro de mando de costes, presupuestos y alertas
Encaja si
- Una factura mensual de LLM que ya se nota o crece con los usuarios
- Tráfico en producción, para que haya algo que medir
- Un equipo dispuesto a dejar que decidan las evaluaciones
No encaja si
- Un prototipo sin tráfico todavía (mejor construirlo bien desde el principio)
- Una llamada al día, donde la factura no es el problema
Stack que usamos
Preguntas
¿Bajará la calidad?
Solo se entregan los cambios que pasan la batería de evaluaciones, y ves el antes y el después de cada uno.
¿Con qué proveedores trabajáis?
Con cualquiera. Somos neutrales y a menudo mezclamos proveedores, con modelos abiertos en Ollama donde tiene sentido.
¿Necesitamos Langfuse?
Vale cualquier sistema de trazas. Usamos Langfuse por defecto porque es código abierto y puedes alojarlo tú.