Policía de Inglaterra y Gales recibe orden de detener uso de AI en declaraciones judiciales

Es la primera prohibición explícita de AI en cadena de custodia legal en una jurisdicción major. El razonamiento implícito: los modelos de lenguaje pueden alterar hechos, inventar detalles, o suavizar/endurecer tono de manera que cambia interpretación judicial. En derecho anglosajón, donde el wording exacto de testimony importa, eso es inadmisible.

Lo interesante es que la prohibición no viene de legisladores (que suelen ir lentos) sino de autoridades policiales mismas, sugiriendo que ya hubo casos internos problemáticos. Alguien usó AI para «limpiar» una declaración y algún abogado defensor lo detectó, o peor, no lo detectó pero luego salió a luz.

Esto abre un frente nuevo en adopción enterprise de AI: ¿en qué procesos el output de un LLM tiene consecuencias legales suficientes como para prohibirlo? Contratos, compliance, HR, medical records. La lista es larga. UK acaba de trazar la primera línea roja clara.