Policía en el Reino Unido investigado por fabricar evidencia judicial con IA

Este caso va más allá del individuo: revela la ausencia de controles institucionales sobre el uso de IA en entornos de alto impacto. Si un oficial puede usar herramientas de IA para fabricar evidencia en múltiples casos, el problema no es tecnológico sino de gobernanza. La pregunta relevante es: ¿quién audita los outputs de IA antes de que entren al sistema judicial?

El patrón es consistente con lo visto en el caso KPMG y en los agentes autónomos que causaron daños la semana pasada: los sistemas de accountability no escalan al mismo ritmo que las herramientas. Las organizaciones adoptan IA para ganar eficiencia y olvidan que los errores, o los fraudes, también se vuelven más eficientes.

Para decision-makers que implementan IA en procesos con consecuencias reales, legales, médicas o financieras: este es el argumento más fuerte para establecer logging, revisión humana obligatoria y trazabilidad de todos los outputs antes de que lleguen a una decisión.