Los labs fichan doomers al board para no tener que escucharlos

Durante las últimas semanas, el debate sobre seguridad de la IA acumuló señales que convergen en el mismo patrón: los grandes laboratorios responden a la presión existencial no desacelerando, sino absorbiendo a los críticos dentro de sus estructuras de gobernanza. Lo que parecía un gesto puntual se repite con suficiente regularidad como para revelar la lógica de incentivos que atrapa a todos los actores del sector.

Un investigador sale, un doomer entra — y el ciclo se completa

La semana cerró con dos noticias que se leen mejor juntas. El investigador de Anthropic Jacob Coxon renunció públicamente declarando que construir IA autoevolutiva equivale a apostar con nuestras vidas, y pidiendo acuerdos de desaceleración entre labs. Días después, OpenAI sumó a Paul Christiano al board de su fundación — el investigador de alineación que, en los círculos técnicos, es precisamente el tipo de crítico cuya opinión importa.

No es coincidencia de calendario. El patrón tiene lógica propia: la presión externa sobre la seguridad genera dimisiones con declaraciones dramáticas, que generan cobertura mediática, que generan respuesta institucional en forma de cambios de gobernanza. Incorporar al crítico al board convierte la alarma en capital reputacional, desplaza el debate hacia adentro de la estructura donde es más difícil de amplificar externamente, y deja al investigador con influencia real pero acceso limitado a las decisiones de despliegue operativo. El debate sobre si se debe permitir la superinteligencia no desaparece — pero deja de estar fuera de la empresa y pasa a ser un asunto interno de comité.

La trampa de incentivos en la que nadie puede moverse solo

El problema no es la mala fe de ningún actor en particular — es la estructura de payoffs en la que todos operan. Frenar unilateralmente es una propuesta de valor negativa en el mercado: si Anthropic desacelera y OpenAI no, Anthropic pierde posición, talento y financiamiento. El acuerdo de pacing que Coxon pide requeriría coordinación multilateral con mecanismos de verificación que ningún gobierno tiene hoy capacidad técnica de implementar.

En ese vacío, la señal de seguridad más eficiente disponible es la gobernanza simbólica. El board, el cargo de Chief Safety Officer, el comité de ética — todos son respuestas óptimas dentro del juego tal como está diseñado. ControlAI argumenta que la superinteligencia no es un arma que alguien puede usar sino un adversario que nadie controla. Si eso es cierto, el problema no se resuelve con mejores boards: se resuelve con regulación que cambie los payoffs del juego. Ningún laboratorio puede hacer eso solo. El historial de incidentes de agentes sin proceso de investigación externo es precisamente el tipo de registro que un board de fundación no puede auditar desde adentro.

El debate también tiene sus propios excesos. Un análisis en Genes, Minds and Machines argumenta que los riesgos existenciales más inmediatos — supervirus diseñados por IA, por ejemplo — están sobreestimados en la conversación pública. Puede que tengan razón en puntos específicos. Pero la dinámica del ciclo dimisión-board no depende de si el riesgo es inminente: depende de si existen mecanismos externos que cambien los incentivos del sector. Por ahora, no los hay.

Quién gana con la institucionalización del disenso

El lab que incorpora al crítico obtiene un escudo reputacional valioso: Christiano es creíble para la comunidad técnica, y su presencia dificulta acusar a OpenAI de ignorar los riesgos. La presión mediática disminuye. Los legisladores, que ya tenían dificultades para entender los modelos técnicos, ven un sector que «ya está tomando medidas» y el impulso regulatorio pierde urgencia en el ciclo de noticias.

El que pierde es la posibilidad de regulación efectiva. No porque los boards sean inútiles — pueden no serlo — sino porque su existencia sustituye conversaciones más difíciles sobre auditorías externas, estándares de evaluación de capacidades, y cronogramas de despliegue con consecuencias reales. Es el mismo mecanismo que ya documentamos con los labs que piden regulación mientras acumulan contratos del Estado: pedir supervisión externa, cuando uno ya controla la conversación interna, es una forma de encuadrar el debate sin abrirlo realmente.

Conclusión falsable: qué mirar en los próximos 18 meses

Si Paul Christiano produce recomendaciones de desaceleración concretas desde el board de la OpenAI Foundation, y OpenAI las implementa materialmente — no como statement de política, sino como cambio observable en el calendario de despliegue — la tesis del governance theater queda refutada. Si en 18 meses el cargo no ha producido ninguna decisión de despliegue observable, quedará confirmada.

Para un decisor en LATAM o España: la señal práctica está en Europa. Con el AI Act en implementación, las estructuras de gobernanza interna van a ser testeadas contra requisitos externos auditables. La diferencia entre un board bien compuesto y un proceso auditable es exactamente lo que el próximo ciclo regulatorio pondrá a prueba — y las empresas que quieran operar en ese mercado necesitan prepararse para ambos frentes antes de que el regulador llegue a pedirles que demuestren la diferencia.