Gobernanza de IA, menos policías y más orquestadores

De un tiempo a esta parte noto una evolución en las preocupaciones de los CIOs y directores de tecnología. Por un lado, después de rodar pilotos durante meses, finalmente aparecieron casos prometedores que necesitan “pasar a producción”. Por otro, el hype de la IA está empujando a las organizaciones a una carrera frenética por ser "IA first".

La necesidad ahora es "escalar la IA, pero gobernándola". El desafío, claro, es lograrlo sin construir una muralla china de comités y aprobaciones que terminen asfixiando la innovación antes de que el primer prompt llegue a producción. Es lo que Gartner define como la necesidad de una supervisión ágil (Agile Oversight). El problema es que, en la práctica, muchos confunden supervisión con burocracia.

Cuidado: la gobernanza es necesaria. Estamos hablando de privacidad, ética y cumplimiento. Pero si nuestro marco de control tarda tres meses en aprobar un experimento que la IA resuelve en tres segundos, el problema ya no es la tecnología, sino nuestra gestión.

Muchos consultores y gerentes creen que por sumar controles están más seguros. Es un error de concepto. Lo único que logran es incentivar la "Shadow AI": áreas de negocio que resuelven por izquierda lo que la estructura formal no les permite. Como ya dijimos, primero viene la eficacia y luego la eficiencia. Una gobernanza que nadie usa puede ser muy eficiente en los papeles, pero es totalmente ineficaz para el negocio.

La clave está en ajustar el gobierno al impacto y al riesgo real. No todo proyecto de IA necesita el mismo nivel de escrutinio. No es lo mismo una herramienta que resume minutas de reunión que un modelo que decide el otorgamiento de un crédito hipotecario. El rol del líder tecnológico hoy es dejar de ser un stopper para convertirse en un orquestador. Ser el líder no significa controlar cada bit, sino asegurar que los recursos y los permisos estén alineados con la estrategia.

Para orquestar en serio hay que abandonar la mentalidad de los marcos rígidos. Con la velocidad de innovación actual, la gobernanza debe ser un ente vivo con tres características que para mí son innegociables:

1. Basada en riesgo: Hay que saber diferenciar el "juguete" de la "herramienta crítica".
2. Transparente: El usuario tiene que entender por qué se le dice que no (explicabilidad).
3. Veloz: Si no puede ir al ritmo del negocio, simplemente no sirve.

Les dejo un pequeño test para cerrar: Si hoy un analista de tu equipo encuentra una forma de ahorrar 20 horas semanales usando una IA nueva, ¿tu sistema de gobernanza le permite probarlo mañana o lo obliga a llenar formularios hasta el mes que viene?

Si la respuesta es la segunda, quizás tu gobernanza no es un seguro de vida, sino un ancla.

Seguimos pensando...