Gobernanza de IA, menos policías y más orquestadores
De un tiempo a esta parte noto una evolución en las preocupaciones de los CIOs y directores de tecnología. Por un lado, después de rodar pilotos durante meses, finalmente aparecieron casos prometedores que necesitan “pasar a producción”. Por otro, el hype de la IA está empujando a las organizaciones a una carrera frenética por ser "IA first".
La necesidad ahora es "escalar la IA, pero gobernándola". El desafío, claro, es lograrlo sin construir una muralla china de comités y aprobaciones que terminen asfixiando la innovación antes de que el primer prompt llegue a producción. Es lo que Gartner define como la necesidad de una supervisión ágil (Agile Oversight). El problema es que, en la práctica, muchos confunden supervisión con burocracia.
Cuidado: la gobernanza es necesaria. Estamos hablando de privacidad, ética y cumplimiento. Pero si nuestro marco de control tarda tres meses en aprobar un experimento que la IA resuelve en tres segundos, el problema ya no es la tecnología, sino nuestra gestión.
Muchos consultores y gerentes creen que por sumar controles están más seguros. Es un error de concepto. Lo único que logran es incentivar la "Shadow AI": áreas de negocio que resuelven por izquierda lo que la estructura formal no les permite. Como ya dijimos, primero viene la eficacia y luego la eficiencia. Una gobernanza que nadie usa puede ser muy eficiente en los papeles, pero es totalmente ineficaz para el negocio.
La clave está en ajustar el gobierno al impacto y al riesgo real. No todo proyecto de IA necesita el mismo nivel de escrutinio. No es lo mismo una herramienta que resume minutas de reunión que un modelo que decide el otorgamiento de un crédito hipotecario. El rol del líder tecnológico hoy es dejar de ser un stopper para convertirse en un orquestador. Ser el líder no significa controlar cada bit, sino asegurar que los recursos y los permisos estén alineados con la estrategia.
Para orquestar en serio hay que abandonar la mentalidad de los marcos rígidos. Con la velocidad de innovación actual, la gobernanza debe ser un ente vivo con tres características que para mí son innegociables:
- Basada en riesgo: Hay que saber diferenciar el "juguete" de la "herramienta crítica".
- Transparente: El usuario tiene que entender por qué se le dice que no (explicabilidad).
- Veloz: Si no puede ir al ritmo del negocio, simplemente no sirve.
Les dejo un pequeño test para cerrar: Si hoy un analista de tu equipo encuentra una forma de ahorrar 20 horas semanales usando una IA nueva, ¿tu sistema de gobernanza le permite probarlo mañana o lo obliga a llenar formularios hasta el mes que viene?
Si la respuesta es la segunda, quizás tu gobernanza no es un seguro de vida, sino un ancla.
Seguimos pensando...
Hola Ernesto. Tal cual como lo escribís y me sucedió...Ahora, si el analista se ahorra ese tiempo y por cuestiones de backlog en IT, gobernanza no ágil, etc, no lo pueden revisar, qué haces? Creo que la gobernanza es fundamental porque ese usuario con su nueva IA tal vez genera un código que a su vez utiliza librerías con malware.
ResponderBorrarUna posibilidad podría ser un intermedio, que las pruebas de concepto de usuarios con nuevas IA's corran en equipos controlados en la nube y que los utilicen hasta que el sector de IT pueda dar el OK de que corran en máquinas locales.
Este equilibro de flexibilidad y gobernanza realmente es un dolor de cabeza para no terminar siendo el enemigo del usuario.
Hola Roberto, gracias por tu comentario. Claro que es difícil encontrar el punto intermedio razonable para una empresa en particular y ese es el desafío del CIO o del líder tecnológico. Como alguien dijo por ahí "si fuera fácil, no tendríamos trabajo". :-)
Borrar