Las consultoras venden IA y se autoincineran con sus propios informes

Existe una ironía difícil de ignorar: las firmas que cobran cientos de millones de dólares asesorando a corporaciones sobre cómo adoptar inteligencia artificial no están logrando hacerlo sin accidentes propios. En los últimos días, dos episodios pusieron eso en evidencia con una claridad incómoda.

Cuando el informe sobre IA colapsa por IA

KPMG retiró un reporte sobre uso de IA después de que circularan capturas mostrando errores factuales que apuntaban claramente a alucinaciones del modelo utilizado para generarlo. No era un documento menor: era un análisis sobre adopción de IA en el sector empresarial, distribuido con el peso institucional de una de las cuatro grandes consultoras globales. The Register documentó el episodio con el tono que merece: el informe sobre IA se convirtió en una demostración involuntaria de por qué la IA todavía no puede auditarse a sí misma.

El retiro es significativo no por el error en sí —los modelos alucinan, eso ya se sabe— sino por lo que revela sobre los procesos internos. Publicar un reporte sin verificación humana suficiente sugiere que la presión por producir contenido «con IA» está superando los controles de calidad. Exactamente el riesgo que KPMG le cobra a sus clientes por gestionar.

El otro flanco: IA que encarece, no que ahorra

Mientras eso ocurría, PwC publicó un informe señalando que la IA está inflando las facturas médicas. El mecanismo es más sofisticado que un simple «la tecnología cuesta cara»: los sistemas de IA usados para codificación clínica y pre-autorización están generando más items facturables, más rápido, y con menos fricción que los procesos manuales anteriores. El resultado es un incremento en el gasto, no una reducción.

Esto contradice la narrativa dominante en el sector salud, donde la IA se vendió principalmente como herramienta de eficiencia y reducción de costos administrativos. Lo que PwC describe es el efecto inverso: una optimización que optimiza en la dirección equivocada desde la perspectiva del pagador.

El problema estructural detrás de los titulares

Ambos casos son distintos en su naturaleza —uno es un error de proceso, el otro un hallazgo de investigación— pero comparten una raíz común: la adopción acrítica de IA como señal de modernización, sin suficiente atención a los incentivos y controles que rodean su uso.

Las consultoras grandes tienen un problema específico: venden transformación digital a sus clientes mientras intentan transformarse a sí mismas en tiempo real, bajo presión competitiva y expectativas de los propios clientes de ver IA en todo. Ese contexto empuja a publicar antes de verificar, a deployer antes de auditar, a prometer antes de entender. No es un fenómeno aislado: la semana que concentró tres fallos institucionales de IA mostró que el patrón se repite en sectores tan distintos como la consultoría y las fuerzas de seguridad.

El caso de salud es diferente. Ahí el problema no es que la IA «falle» —técnicamente está funcionando— sino que el incentivo al que está optimizando (maximizar lo facturable dentro de lo permitido) produce un resultado sistémico indeseable. La IA no tiene juicio sobre si eso es conveniente; hace lo que el sistema de incentivos le indica.

Qué mirar y qué exigir

Para decision-makers que están evaluando o ya adoptando IA en contextos de consultoría, análisis o procesos administrativos, estos episodios sugieren tres preguntas concretas:

Primero, ¿qué proceso de verificación existe sobre los outputs generados por IA antes de que salgan al mundo con el logo institucional? Si la respuesta es «el propio modelo lo revisa», eso no es suficiente. La tensión entre velocidad de despliegue y control de calidad tiene un costo real, como documenta el debate sobre cuánto cuestan los guardrails estrictos frente a su ausencia.

Segundo, ¿hacia qué métrica está optimizando el sistema? En salud, el resultado de PwC muestra que «eficiencia» sin definir bien qué se eficientiza puede producir lo contrario de lo que se buscaba.

Tercero, cuando un proveedor presenta un caso de éxito con IA, ¿tiene auditoría externa o es auto-reportado? Después del episodio KPMG, esa pregunta tiene más peso. Y en contextos donde el output de IA tiene consecuencias legales o financieras, la responsabilidad editorial sobre contenido generado automáticamente ya está siendo litigada.

En los próximos meses, vale prestar atención a si otros grandes estudios o consultoras actualizan sus protocolos de revisión —y si el sector salud produce regulación específica sobre cómo se auditan los sistemas de codificación automatizada. Los dos episodios de esta semana son señales tempranas de tensiones que van a escalar.