Ayer, 2 de noviembre, Graphwise publicó un número: 54x menos tokens recuperados usando un grafo semántico en vez de meter todo el contexto al prompt. Lo publicaron como un argumento de venta de su base de datos. Y sin proponérselo, cerraron el argumento que este blog dejó abierto el día anterior.
Porque el domingo publicamos una factura: $3,41 por 446.913.299 tokens, con 99,43% de acierto de caché, en un modelo de gama baja, durante 72 horas de hackatón. Ese artículo medía una capa del stack. El de Graphwise mide otra. Y hay una tercera que Alex Karp venía afirmando desde julio sin que nadie la hubiera medido igual.
Tres vendedores. Tres capas distintas. Tres incentivos que se contradicen entre sí. Y un mismo diagnóstico.
La tesis, en una línea. El costo de la IA no vive en el tamaño del modelo: vive en lo que pones dentro del contexto. Tres proveedores con intereses opuestos —uno vende harness, otro vende soberanía, otro vende bases de datos semánticas— midieron tres capas distintas del mismo stack y llegaron a la misma conclusión. No hace falta creerle a ninguno: basta notar que sus sesgos se anulan entre sí.
0. Nota de método: qué es hecho, qué es cálculo propio y qué no vamos a afirmar
Este artículo cita tres mediciones de tres empresas que tienen algo que vender. Eso no las invalida, pero obliga a separar con cuidado. Igual que ayer, hay tres tipos de afirmación y conviene no mezclarlas.
| Tipo | Qué incluye | Cómo leerlo |
|---|---|---|
| Hecho verificable | Los 54x de Graphwise, el dataset y el método declarado, los $3,41 y el 99,43% del hackatón, el −95% de Karp citado en CNBC, las frases textuales de cada fuente | Fuente citada. Se puede ir a leer. |
| Cálculo propio | La conversión de tokens a costo, el techo teórico de reducción en cargas agénticas, la comparación entre capas | Supuestos explícitos y mostrados. Cambia un supuesto y cambia el resultado — y lo decimos. |
| Interpretación | Que las tres capas converjan en una sola conclusión de mercado, y qué implica para el pricing de los laboratorios | Es lectura, no hecho. La marcamos como tal. |
Lo que no vamos a afirmar: que 54x menos tokens sea 54x menos costo (no lo es), que estos tres números se puedan multiplicar entre sí (no se puede: son capas distintas), ni que construir un grafo semántico sea gratis (es capex y opex real). Lo que sí afirmamos es más estrecho y más incómodo: la palanca de costo se movió tres veces, en tres lugares distintos, y ninguna de las tres es el modelo.
1. Las tres mediciones
Empecemos por el cuadro completo, porque el artículo entero es una lectura de esta tabla.
| Quién midió | Qué capa | Métrica declarada | Qué vende |
|---|---|---|---|
| Wagner Solutions blog #173 · 2-nov-2026 |
Caché y enrutamiento qué se reutiliza del contexto |
$3,41 por 446.913.299 tokens 99,43% de acierto de caché ratio entrada/salida 242:1 |
Harness |
| Palantir / Alex Karp CNBC · 1-jul-2026 |
Ontología y dominio cómo se estructura el conocimiento |
−95% de costo «exceed the frontier» licencia de pesos a $0 |
Soberanía |
| Graphwise LinkedIn · 2-nov-2026 |
Retrieval sobre grafo qué entra al contexto |
54x menos tokens recuperados 11 preguntas · mismo tokenizador · mismo día |
GraphDB |
Los tres venden algo distinto al stack. Y ahí está lo interesante: ninguno de los tres se beneficia de que los otros dos tengan razón.
Wagner vende harness: si el número fuerte fuera la ontología, nuestro argumento se debilita. Palantir vende soberanía y despliegue: si el número fuerte fuera el caché —que cualquier proveedor de API puede activar con una bandera— su diferenciador se vuelve commodity. Graphwise vende una base de datos semántica: si el problema se resolviera con caché y enrutamiento, no necesitarías construir un grafo.
Y sin embargo, los tres apuntan al mismo lugar. Ese es el argumento: no es una coincidencia entre aliados, es una convergencia entre competidores. Cuando tres partes con incentivos encontrados dicen lo mismo, la explicación más barata es que están mirando el mismo hecho desde tres ángulos.
📐 LAS TRES CAPAS, EN ORDEN DE INTERVENCIÓN
1. Retrieval (qué entra al contexto) → 2. Caché (qué se reutiliza del contexto) → 3. Ontología (cómo se estructura lo que hay dentro). Son acumulativas en efecto, pero no multiplicativas en aritmética. Cada una reduce una parte distinta de la misma factura. Lo explicamos en la sección 3, porque es exactamente ahí donde este artículo se puede arruinar.
2. Qué midió Graphwise exactamente
El experimento es más sólido de lo que suele ser un post de LinkedIn, y eso es lo que lo hace citable. Vale la pena mirar el detalle antes de usar el número.
| Elemento | Dato |
|---|---|
| Corpus | 6.000+ empresas · 15.500 filings · 3.000.000 de hechos financieros · 139.000 documentos narrativos, en un solo store |
| Fuentes | SEC EDGAR, clasificaciones SIC y NAICS, registros de patentes USPTO, datasets de entidades |
| Arquitectura A | Context stuffing: meter al prompt todo lo que pueda ser relevante y dejar que el modelo encuentre la respuesta |
| Arquitectura B | Grafo de conocimiento con GraphDB, ontologías y taxonomías W3C, y recuperación tipo GraphRAG |
| Control | Las mismas 11 preguntas, contadas con el mismo tokenizador, el mismo día |
| Resultado | 54x menos tokens recuperados con el grafo |
| Caveat propio | «a focused experiment across 11 questions and one knowledge graph, not a universal benchmark» |
Hay tres cosas que hacen este número usable, y una que lo hace especialmente relevante para nosotros.
Primera: el control es limpio. Mismo tokenizador, mismo día, mismas preguntas. No están comparando un modelo nuevo contra uno viejo, ni un prompt bueno contra uno malo. Están comparando dos formas de decidir qué entra al contexto, con todo lo demás fijo. Eso es un experimento de arquitectura, no una demo de producto.
Segunda: el caveat es honesto y está en el propio post. Once preguntas y un grafo no son un benchmark universal. Nosotros acabamos de publicar una factura con n=1 y lo dijimos igual: una prueba de existencia no es un promedio. Que ellos hagan la misma distinción es la razón por la que les creemos el número.
Tercera: el efecto es de selección, no de generación. El grafo no hace que el modelo escriba menos tokens ni que razones menos. Hace que reciba menos basura. Es una intervención sobre la entrada, y eso importa muchísimo para lo que viene en la sección 4.
Y la cuarta —la que casi nadie está mirando— aparece en una frase del post que no contiene ningún número:
✅ LA FRASE QUE VALE MÁS QUE EL 54x
«The evidence remained traceable to its original sources.»
La evidencia permaneció trazable a sus fuentes originales. Volvemos a esto en la sección 6, porque es exactamente el principio sobre el que está construido Expediente — y es el argumento que ningún proveedor de contexto puede copiar con una bandera de configuración.
3. La aritmética honesta: lo que este número NO dice
Acá es donde el artículo se puede arruinar. Un número como 54x es demasiado bueno para no exagerarlo, y la exageración destruye la credibilidad de todo lo demás. Tres cosas que no se pueden decir:
| ❌ No decir | ✅ Decir | Por qué |
|---|---|---|
| «54x más barato» | «54x menos tokens recuperados» | La reducción aplica a la entrada. Los tokens de salida y de razonamiento no cambian. |
| «54x × 99,43% de caché = ahorro gigante» | Son capas distintas, no factores que se multiplican | Multiplicarlos produce un número que no existe. Es el error que convierte un análisis en marketing. |
| «El grafo es gratis» | «54x menos tokens a cambio de construir y mantener el grafo» | Ontologías, ingesta, reconciliación de entidades y mantenimiento son capex y opex reales. |
Y una tabla que ordena el efecto, porque es la que va a usar cualquiera que esté decidiendo dónde invertir el próximo trimestre:
| Componente del costo | ¿Se reduce con retrieval sobre grafo? | Comentario |
|---|---|---|
| Tokens de entrada (contexto recuperado) | Sí — hasta 54x | Es exactamente lo que midieron |
| Tokens de salida / razonamiento | No | No cambia el esfuerzo de generación |
| Costo de construir el grafo | No — lo aumenta | Modelado, ingesta, mantenimiento, reconciliación |
| Latencia de recuperación | Depende | Menos tokens al prompt, pero una consulta al grafo en el camino |
| Costo por tarea exitosa | Probablemente sí, a escala | Es la métrica que importa — y la que casi nadie mide |
El encuadre honesto, entonces, no es «el grafo abarata la IA». Es el mismo trade que el harness: no es gratis, es más barato por tarea a escala. La diferencia entre un proveedor serio y un folleto es si te dice el costo de la parte que no se mide con tokens.
🩻 EL PRINCIPIO GENERAL
Toda optimización de contexto mueve costo, no lo elimina. La pregunta correcta nunca es «¿cuánto ahorro por token?» sino «¿cuánto cuesta una tarea exitosa, incluyendo el sistema que la hace posible?». Si un proveedor te muestra un multiplicador y no te muestra su capex, te está vendiendo la mitad del balance.
4. Por qué en cargas agénticas el número sí pega completo
Acá hay una excepción real, y no es menor: es la clase de carga que está creciendo.
En un chatbot, la proporción entre entrada y salida ronda 5:1. Preguntas cortas, respuestas largas. En esa carga, reducir la entrada a la mitad mueve poco la factura: el costo está repartido.
En una carga agéntica, la proporción se invierte brutalmente. Nuestra factura del hackatón: 445 millones de tokens de entrada contra 1,84 millones de salida — 242:1. Eso significa que el 99,6% de los tokens facturados fueron entrada. El agente releyó un contexto enorme mil cuatrocientas sesenta y nueve veces.
Y si el 99,6% del costo está en la entrada, entonces una intervención que ataca exactamente la entrada deja de ser marginal.
| Escenario | Entrada | Salida | Total relativo |
|---|---|---|---|
| Carga agéntica sin optimizar (242:1) | 99,6 | 0,4 | 100 |
| Entrada reducida 54x | 1,84 | 0,4 | ≈ 2,24 → 45x menos total |
| Carga tipo chatbot (5:1) | 83,3 | 16,7 | 100 |
| Misma reducción de entrada en chatbot | 1,54 | 16,7 | ≈ 18,2 → 5,5x menos total |
El techo teórico: si toda la entrada fuera recuperable y se redujera 54x, el costo total de una carga agéntica caería alrededor de 45x; el mismo efecto en un chatbot caería a 5,5x. Ocho veces más impacto en la misma intervención, solo por la forma de la carga.
Y hay que decir la parte incómoda de este cálculo: es un techo, no una promesa. En la práctica no toda la entrada es recuperable —hay system prompt, instrucciones, esquema de herramientas, historial que no se puede tirar—, y el 54x de Graphwise aplica solo a los tokens recuperados, no al total. El número real será menor. Pero el orden de magnitud del argumento se sostiene: mientras más agéntica es la carga, más pesa la decisión de qué entra al contexto.
Y las cargas agénticas son, precisamente, las que están creciendo.
5. Lo que Karp afirmó y Graphwise acaba de medir
En julio, Alex Karp dijo en CNBC que el ajuste fino sobre modelos abiertos, combinado con su ontología, había superado a la frontera en menos de 48 horas a 95% menos costo. En su momento se leyó como lo que era: una afirmación comercial de alguien que vende soberanía. Difícil de falsificar, imposible de replicar sin su stack.
Lo que pasó ayer es distinto en una sola cosa, y esa cosa lo cambia todo: alguien midió una pieza del mecanismo en condiciones reproducibles.
| Karp (julio) | Graphwise (noviembre) | |
|---|---|---|
| Tipo de afirmación | Aserción comercial | Medición publicada |
| Alcance | El sistema completo (modelo + ontología + despliegue) | Una capa aislada (retrieval sobre grafo) |
| Verificabilidad | Baja sin acceso al stack | Media: método declarado, mismo tokenizador, mismo día |
| Número | −95% de costo | 54x menos tokens recuperados |
| Qué aporta | Dirección | Magnitud en una capa |
No son el mismo número y no hay que presentarlos como si lo fueran. Pero juntos dicen algo que ninguno dice solo: la ontología no es una metáfora de consultoría, es una estructura de datos con un efecto medible sobre el consumo de tokens. Karp puso la dirección; Graphwise puso la primera cifra auditable del mecanismo.
Y para nosotros tiene un valor adicional, porque es la misma categoría de infraestructura que MillenniumDB: grafos semánticos, consultas, trazabilidad. Que un par europeo —GraphDB nace de la fusión de Ontotext y Semantic Web Company— publique este experimento no nos amenaza. Nos valida la arquitectura y nos ahorra el trabajo de tener que demostrarla desde cero.
6. El ángulo que falta: no solo es más barato, es auditable
La mayoría de los artículos sobre grafos se dividen en dos escuelas: los que hablan de costo y los que hablan de precisión. Graphwise acaba de juntar las dos, y añadió una tercera sin darse cuenta de lo que estaba escribiendo.
Su frase: la evidencia permaneció trazable a sus fuentes originales.
En un context stuffing, el modelo recibe un montón de material y produce una respuesta. Si la respuesta es incorrecta, no hay forma barata de saber de dónde salió: el contexto era una masa. En un grafo, cada afirmación está anclada a una entidad y a un documento. La respuesta se puede reconstruir hacia atrás hasta la fuente.
Eso, en un mercado regulado, no es una feature de eficiencia. Es la condición de admisibilidad.
✅ EL PRINCIPIO QUE COMPARTIMOS CON EXPEDIENTE
En Expediente trabajamos con una regla simple: si una afirmación no se puede trazar a un documento y una página, se borra. No importa cuán probable parezca. Graphwise acaba de demostrar que la arquitectura que permite hacer eso también es la más barata en tokens. No es una coincidencia: es la misma propiedad vista desde dos lados. Un grafo es caro de construir precisamente porque obliga a decidir qué es una entidad y qué relación la sostiene — y ese trabajo es el que después te permite citar.
Por eso la lectura que hacemos es más fuerte que la del post original: el grafo no es solo más barato. Es la única arquitectura de contexto que puede firmar lo que dice.
En Chile, con la Ley 21.719 empujando obligaciones de evidencia y con compras públicas donde una alerta sin expediente no sirve para sancionar, esa diferencia deja de ser técnica. Un sistema que responde bien pero no puede mostrar de dónde salió es un sistema que produce opiniones. Uno que puede mostrar la cadena es un sistema que produce prueba.
7. Qué significa para tu stack
Si las tres capas son reales, la pregunta práctica no es «¿cuál elijo?». Es en qué orden intervenir, porque cada una tiene un costo de entrada distinto.
| Orden | Capa | Costo de entrada | Qué te da |
|---|---|---|---|
| 1º | Caché y prefijo estable | Bajo — es configuración y disciplina de diseño | El mayor ahorro por hora invertida. Empieza acá. |
| 2º | Retrieval selectivo | Medio — índice, chunking, evaluación de relevancia | Menos tokens al prompt y respuestas más precisas |
| 3º | Ontología / grafo | Alto — modelado, ingesta, mantenimiento | Selección fina y trazabilidad a la fuente |
Y una advertencia que sale de la tabla anterior: no empieces por el grafo. Si tu caché está rota —prefijo inestable, un datetime.now() en el system prompt, historial que se reescribe— vas a construir una ontología preciosa para seguir pagando de más. El grafo optimiza la selección; el caché optimiza la reutilización. Son distintas, y la segunda es casi gratis.
La arquitectura que queda, sumando las tres mediciones:
📐 EL STACK CON LAS TRES MEDICIONES
Retrieval decide qué entra (54x menos tokens, Graphwise) → Caché decide qué se reutiliza (99,43%, nuestra factura) → Modelo reemplazable decide cuánto pagas por token de lo que queda. Cada capa tiene un número. Y ninguna de las tres es «tener el modelo más grande».
8. Cierre: la convergencia vale más que cualquier testimonio
El resumen honesto cabe en tres frases.
Uno. Tres vendedores con incentivos que se contradicen midieron tres capas distintas del mismo stack. Wagner midió caché y dijo $3,41. Karp afirmó ontología y dijo −95%. Graphwise midió retrieval y dijo 54x. Ninguno de los tres puede ser descartado por su interés, porque sus intereses no coinciden.
Dos. Los números no se multiplican, no se suman y no prometen lo mismo. El 54x es de tokens recuperados, no de costo total. El −95% es del sistema completo de Karp, no del grafo. Y el 99,43% es de una arquitectura de caché concreta durante 72 horas. La honestidad de no mezclarlos es lo que hace que el conjunto sea creíble.
Tres. Pero los tres apuntan al mismo lugar, y ese lugar no es el modelo. Es lo que pones dentro del contexto, cómo lo reutilizas y cómo lo estructuras. Ahí está el costo, ahí está la trazabilidad, y ahí está la parte que ningún proveedor de tokens te va a vender — porque venderla es admitir que el motor no era el producto.
La conclusión que importa para decidir dónde construir mañana: no es «usa modelos abiertos» ni «compra un grafo». Es más precisa: el costo vive en lo que entra al contexto, y la trazabilidad vive en cómo lo estructuras. Las dos cosas se diseñan. Ninguna se compra por token.
¿Sabes cuánto te cuesta una tarea exitosa? No un token, no una licencia, no un asiento: una tarea terminada, verificada y trazable. Construimos el harness que junta las tres capas —retrieval selectivo, caché con prefijo estable, memoria en tu infraestructura— con modelos reemplazables y evidencia que resiste una auditoría.