El contenido falso ya colonizó las fuentes que los modelos de IA citan

La degradación de la capa de confianza del internet no empezó esta semana, pero esta semana quedó documentada con una claridad inusual. En el curso de dos días, tres datos distintos convergieron en la misma lectura: el ecosistema de contenidos digital tiene un problema de autenticidad que los mecanismos actuales no pueden resolver, y los modelos de lenguaje están en el centro de ese problema como consumidores y como productores.

El ciclo que se cierra sobre sí mismo

Un informe publicado esta semana documentó algo que muchos intuían pero pocos habían medido: tres sitios web fabricaron 215.128 páginas de «mejor software» — generadas con IA, sin revisión editorial — optimizadas para posicionar en buscadores. El objetivo no era engañar a humanos directamente, sino posicionar ante los sistemas de recuperación de información que alimentan a los chatbots de IA. Perplexity las cita. La cadena es completa: los bots generan el contenido, los modelos lo citan como fuente, los usuarios lo consumen como recomendación verificada.

Este ciclo tiene una propiedad especialmente problemática: es autorreferencial. Cuanto más contenido generado por IA circula en la web, más se convierte en datos de entrenamiento para modelos futuros. El problema no es estático — se retroalimenta.

La detección llega tarde, y lo sabe

Max Spero de Pangram, que construye herramientas de detección de IA, describió la situación como «peligrosamente cercana» a la dead internet theory: la idea de que la mayor parte del contenido online está producido por bots y que la interacción humana genuina se ha vuelto minoritaria. Lo que hace un año era una teoría conspirativa de foros de internet hoy es una preocupación que los fundadores de startups de detección enuncian en entrevistas de negocios.

La dificultad técnica de la detección es real. Los modelos de detección de IA entrenan sobre contenido generado por versiones anteriores de modelos. Cuando sale una nueva versión, el detector queda desactualizado. Es una carrera armamentista donde el ofensivo siempre lleva ventaja, porque el generador evoluciona antes que el auditor.

La respuesta de las plataformas: filtros que llegan tarde

Instagram anunció limitaciones al alcance de los perfiles de IA no declarados como respuesta a la presión de usuarios y creadores. La medida es correcta en dirección pero insuficiente en alcance: afecta solo a perfiles que no se declaran como IA, no al contenido generado por IA publicado en perfiles humanos, que es la parte más difícil de detectar y la más voluminosa.

El patrón de respuesta es consistente: las plataformas reaccionan a la presión pública con medidas que resuelven el problema más visible, no el más grande. El problema visible son los perfiles de IA que se hacen pasar por humanos; el problema grande es que la mayor parte del contenido que circula — reseñas, comentarios, artículos — no puede ser verificado como humano con los sistemas actuales.

El diagnóstico del post-AI internet captura bien la consecuencia no buscada: el internet post-IA no es necesariamente peor en calidad promedio, pero es peor en señal-ruido. El costo de producir contenido cayó a casi cero; eso también hizo caer a casi cero el valor informativo de encontrar un resultado en un buscador o una recomendación en un chatbot.

Conclusión falsable: qué mirar

La tesis es que el problema de fuentes fabricadas para alimentar chatbots se resolverá primero mediante infraestructura de confianza — firmas criptográficas, bases de datos verificadas de publicaciones editoriales — antes que mediante detección. La detección es un juego de carrera armamentista que el ofensivo siempre gana; la infraestructura de confianza es un problema de coordinación que los actores con incentivos alineados pueden resolver.

La señal que confirmaría la tesis: alguno de los grandes modelos — Perplexity, OpenAI Search, Google Gemini — anuncia en los próximos seis meses un sistema de certificación de fuentes que prioriza contenido de editores verificados sobre contenido rastreado genéricamente. La señal que la refuta: ningún actor grande hace ese movimiento, porque el costo de excluir fuentes no verificadas es perder cobertura y los usuarios se quejan.

Para un decisor en medios o en cualquier organización que produce contenido público: el momento de certificar y firmar digitalmente tus publicaciones como origen humano verificado es ahora, antes de que los sistemas de los modelos lo exijan. Los que llegan tarde a ese registro perderán visibilidad en los resultados de IA más rápido de lo que la perdieron en los buscadores.