La presión sobre el costo de inferencia genera su propia economía de arbitraje

Cuatro noticias de los últimos cinco días comparten un driver: el costo de inferencia de IA es lo suficientemente alto como para que sea rentable construir negocios enteros a su alrededor. Groq recaudó $350M para dejar de hacer chips y convertirse en neocloud. Writer construyó su propio modelo para escapar la factura de API. Kog encontró margen optimizando GPUs para cargas agentic. Y en paralelo, emerge una economía de revendedores de créditos de IA que arbitra precios entre labs. Cuatro respuestas distintas al mismo problema.

El problema que no se cierra solo

Los labs han bajado precios varias veces en los últimos dos años. Pero la demanda de inferencia ha crecido aún más rápido, de modo que el gasto efectivo de las empresas sigue en alza. El patrón es claro: cada reducción de precio que los labs anuncian como victoria para el ecosistema es absorbida casi de inmediato por más uso, más aplicaciones, y más cargas de trabajo.

Para las empresas que integran IA en sus productos, el precio de inferencia ya no es un costo marginal: es un costo de estructura. Y cuando un costo de estructura es alto y los proveedores son pocos, el mercado responde generando capas de intermediación. Lo que estamos viendo esta semana es ese proceso acelerándose. La dinámica complementa lo que ya señalaba la carrera de velocidad de inferencia como síntoma de comoditización: cuando la velocidad se iguala, el precio se convierte en el único diferenciador real.

Tres respuestas distintas al mismo problema de márgenes

La primera respuesta es la integración vertical: construir tu propio modelo para no pagarle a nadie. Writer tomó GLM-5.2, el modelo open source de Z.ai, e hizo post-training específico para sus casos de uso enterprise. El resultado es un modelo más barato de operar para sus propios clientes, con prestaciones comparables a las APIs que antes les facturaban. Es exactamente lo que hacen las aerolíneas cuando se convierten en sus propias agencias de viaje: capturar el margen que antes se iba al intermediario.

La segunda respuesta es la especialización de infraestructura. Kog parte de la premisa de que los GPUs están mal aprovechados para cargas agentic y construye software que extrae más inferencia por dólar gastado. No compite con los labs: le permite a sus clientes pagar menos por el mismo resultado. Es una apuesta a que la ineficiencia del stack actual es permanente.

La tercera es la más reveladora: la arbitración pura. Los token brokers compran créditos de IA en volumen con descuento y los revenden con margen a empresas que no califican para descuentos directos. El modelo es idéntico al de los brokers de energía eléctrica o los mayoristas de SMS en telecomunicaciones. Cuando un mercado tiene precios diferenciados por volumen, los intermediarios aparecen siempre — y su existencia indica que el mercado no está en equilibrio.

El pivot de Groq como diagnóstico del mercado

Groq es el caso más instructivo porque su pivot revela lo que los inversores creen que vale. La empresa gastó años construyendo un chip propio para inferencia más rápida — una propuesta técnica genuinamente impresionante. Pero recibió $350M para convertirse en neocloud, usando chips de Nvidia, porque el margen de operar infraestructura con hardware de terceros es más predecible que el de vender chips propios en un mercado que se mueve rápido.

La señal es: el valor no está en el silicio, está en el acceso al cómputo y en la capacidad de gestionarlo. Groq lo entendió y pivotó. A $3.500 millones de valuación post-ronda, los inversores le creyeron. El movimiento se enmarca en la misma lógica que la captura de distribución de IA por parte de los incumbentes: quien controla el acceso captura el margen, independientemente de quién construyó el modelo subyacente.

Quién gana y la consecuencia no buscada

El ecosistema en general gana más opciones. Pero hay un efecto no buscado: cada capa de intermediación que se consolida reduce la presión directa sobre los labs para bajar precios. Si las empresas pueden resolver el problema del costo vía brokers, modelos propios o infraestructura alternativa, la urgencia de que OpenAI o Anthropic bajen tarifas disminuye. Los intermediarios estabilizan precios en niveles que los labs prefieren mantener.

El paralelo más claro es la telefonía móvil en los 90 y 2000: mientras existieron los operadores virtuales, los precios de los operadores incumbentes bajaron más despacio. El mercado se segmentó por precio, pero el precio base no colapsó hasta que la tecnología cambió radicalmente el costo marginal.

Conclusión falsable

Si los precios de inferencia de los labs principales bajan más del 50% en los próximos doce meses — como ocurrió con el cómputo cloud en su primera década — la economía de intermediación pierde su razón de existir y la mayoría de estos modelos de negocio colapsan o se consolidan en pocos actores.

Qué mirar: los márgenes brutos que declaren los token brokers en 2027 y si Groq logra rentabilidad como neocloud antes de que los labs lancen sus propios programas agresivos de descuento por volumen. Para un decisor en LATAM: la oportunidad inmediata no es construir un proveedor de modelos propio sino evaluar si hay token brokers o proveedores de cómputo alternativo que ofrezcan mejores condiciones que las APIs directas para el volumen actual de uso. El arbitraje ya existe — la pregunta es si su empresa lo está aprovechando o está pagando precio de lista.