El consejo frente a la inteligencia artificial
La inteligencia artificial modifica procesos y decisiones empresariales, pero no desplaza responsabilidades corporativas. El consejo debe conocer usos relevantes, riesgos, controles y límites sin pretender convertirse en supervisor tecnológico operativo.
Durante décadas, el gobierno corporativo ha construido su arquitectura alrededor de personas identificables. El consejo resuelve; el director general ejecuta; los funcionarios administran; los auditores revisan y los responsables de control verifican. La inteligencia artificial introduce una alteración relevante en esa lógica porque determinadas actividades que anteriormente dependían directamente del juicio humano pueden ahora ser recomendadas, clasificadas o ejecutadas mediante sistemas tecnológicos. Una institución financiera puede utilizar modelos para analizar operaciones; una empresa puede automatizar la selección preliminar de candidatos, pronosticar demanda, definir inventarios, detectar irregularidades, revisar contratos o recomendar condiciones comerciales. La pregunta para el consejo no debería ser si la empresa “utiliza inteligencia artificial”, expresión demasiado amplia para producir una conclusión útil. La pregunta relevante es qué decisiones empresariales están siendo modificadas por esos sistemas y qué consecuencias puede producir un error.
Esta perspectiva permite evitar dos respuestas igualmente deficientes. La primera consiste en tratar la inteligencia artificial como un asunto exclusivamente tecnológico que debe permanecer bajo responsabilidad del área de sistemas. La segunda pretende llevar al consejo cada herramienta, modelo o aplicación utilizada por la empresa. Ninguno de los extremos resulta razonable. El gobierno debe seguir la materialidad: cuanto mayor sea la capacidad de un sistema para afectar patrimonio, derechos, continuidad, información, reputación o cumplimiento, mayor debe ser la claridad sobre quién responde por su utilización.
El consejo debe comenzar por conocer dónde se utiliza
Una organización difícilmente puede gobernar aquello que desconoce. Antes de elaborar políticas sofisticadas, resulta conveniente construir un inventario razonable de los usos relevantes de inteligencia artificial. No se trata de registrar cada función automatizada de una aplicación de oficina, sino de identificar sistemas capaces de intervenir materialmente en procesos o decisiones.
Ese inventario debería responder cuestiones prácticas: qué sistema se utiliza, para qué finalidad, qué información procesa, quién es responsable y qué ocurre si produce una respuesta incorrecta. Esta clasificación permite diferenciar herramientas de productividad de aplicaciones capaces de generar consecuencias significativas.
No todos los usos merecen el mismo control
Utilizar inteligencia artificial para resumir un documento interno no presenta necesariamente el mismo riesgo que emplearla para determinar condiciones crediticias, evaluar empleados o generar información destinada a inversionistas. Aplicar controles idénticos a todos los casos puede volver impracticable la política.
La supervisión debería ser proporcional a impacto, autonomía y sensibilidad de los datos utilizados. Un sistema de bajo impacto puede admitir controles sencillos; uno que interviene en decisiones relevantes puede requerir validación, documentación, revisión humana y seguimiento más riguroso.
La responsabilidad no desaparece detrás del proveedor
Muchas empresas consumirán inteligencia artificial mediante servicios desarrollados por terceros. Esta circunstancia puede generar una peligrosa conclusión: si el sistema pertenece a un proveedor reconocido, el riesgo también le pertenece.
No necesariamente. La empresa continúa decidiendo para qué utilizar la herramienta, qué información proporcionarle y hasta qué punto confiar en sus resultados. Los contratos pueden distribuir determinadas responsabilidades entre las partes, pero no sustituyen el análisis interno sobre la conveniencia y legalidad del uso.
La contratación debe preguntar más que el precio
Antes de incorporar una solución relevante conviene conocer condiciones sobre confidencialidad, tratamiento de información, propiedad intelectual, continuidad del servicio, modificaciones del modelo, subcontratación y mecanismos de terminación.
La inteligencia artificial puede recomendar una decisión, clasificar un riesgo e incluso ejecutar determinadas tareas; lo que no puede hacer es absorber la responsabilidad jurídica del órgano que decidió utilizarla.
También debe analizarse la dependencia tecnológica. Si un proceso crítico queda construido alrededor de una sola plataforma, migrar posteriormente puede resultar costoso. El consejo no necesita negociar cada contrato tecnológico, pero debería conocer concentraciones capaces de convertirse en riesgos estratégicos.
Los datos son parte del problema de gobierno
Un modelo puede ser técnicamente extraordinario y producir resultados deficientes porque recibe información incompleta, incorrecta o sesgada. Por ello, gobernar inteligencia artificial exige también gobernar datos.
Origen, calidad, acceso, conservación y autorización de uso adquieren importancia. Introducir información confidencial en herramientas sin controles puede producir exposiciones aunque el resultado generado sea aparentemente correcto. La facilidad tecnológica para procesar información no elimina las obligaciones jurídicas que puedan existir respecto de ella.
La automatización puede amplificar un error
Una persona puede tomar una decisión incorrecta cien veces. Un sistema automatizado puede reproducirla cientos de miles de veces antes de que alguien advierta el patrón. La escala constituye simultáneamente una de las mayores ventajas y uno de los mayores riesgos de estas tecnologías.
Por ello, los controles no deberían concentrarse exclusivamente en la validación inicial. Debe existir seguimiento sobre resultados, excepciones e incidentes. Un sistema adecuado al momento de implementarse puede deteriorar su desempeño cuando cambian datos, condiciones comerciales o comportamiento de los usuarios.
La supervisión humana necesita contenido real
Incorporar una casilla que indique “revisión humana” no garantiza control. Si la persona encargada aprueba sistemáticamente cualquier resultado porque supone que el algoritmo conoce mejor la materia, la intervención humana es solamente ceremonial.
Debe quedar claro qué debe revisar, cuándo puede apartarse de la recomendación y qué ocurre cuando identifica una anomalía. El supervisor necesita autoridad y conocimientos suficientes. De lo contrario, la organización conserva formalmente una decisión humana mientras, en realidad, ha transferido el criterio a la máquina.
Explicabilidad no significa comprender cada línea de código
Los consejeros no necesitan convertirse en científicos de datos. Sí deberían poder comprender, respecto de aplicaciones materiales, cuál es la finalidad del sistema, qué variables generales utiliza, cuáles son sus limitaciones conocidas y cómo se controla su desempeño.
Cuando nadie dentro de la empresa puede explicar razonablemente por qué se utiliza una herramienta crítica o cómo se evalúa su resultado, existe un problema de gobierno independientemente de la sofisticación tecnológica del proveedor.
El riesgo reputacional puede aparecer antes que el jurídico
Una decisión automatizada puede ser técnicamente permitida y, aun así, resultar difícil de explicar a clientes, empleados o accionistas. La posibilidad de defender públicamente un uso constituye una prueba práctica valiosa.
El consejo debería preguntarse si la organización podría explicar con claridad por qué utiliza inteligencia artificial en determinada decisión, qué controles aplica y qué mecanismo existe para corregir errores. Si la respuesta depende de mantener el proceso invisible, conviene revisar su diseño.
La inteligencia artificial generativa exige especial cuidado documental
Los sistemas generativos pueden producir textos, análisis y recomendaciones con enorme velocidad, pero también incorporar errores, referencias inexistentes o afirmaciones no verificadas. Cuando sus resultados se utilizan en documentos jurídicos, financieros o corporativos, la revisión humana continúa siendo indispensable.
La facilidad para generar un documento convincente no demuestra su exactitud. Cuanto más importante sea el uso posterior, mayor debe ser la verificación. El riesgo no reside solamente en que la herramienta se equivoque, sino en que lo haga con una presentación suficientemente persuasiva para que nadie cuestione el resultado.
El consejo necesita conocer los incidentes, no cada equivocación
Reportar cualquier error producido por una herramienta saturaría al órgano. Deben establecerse criterios de escalamiento conforme a impacto y materialidad.
Un incidente que compromete información confidencial, afecta a un número significativo de personas, genera pérdidas relevantes o revela una falla sistémica puede requerir atención superior. Los errores menores deben gestionarse dentro de la operación. La política debe distinguirlos previamente para evitar tanto silencio como sobrerreporte.
La auditoría debe evolucionar con los procesos
Cuando una actividad relevante se automatiza, los procedimientos de control y auditoría también deben adaptarse. Revisar exclusivamente el resultado final puede ser insuficiente si nadie examina datos, reglas, accesos o modificaciones del sistema.
Auditoría interna, cuando exista, puede desempeñar un papel importante conforme a sus competencias y capacidades. En determinados casos será necesario incorporar especialistas externos. Lo esencial es que la sofisticación tecnológica no cree una zona de la organización que nadie se considere capaz de revisar.
El riesgo de fraude también cambia
Las mismas herramientas que aumentan productividad pueden facilitar suplantaciones, documentos falsos, comunicaciones engañosas y manipulación de información. Los controles tradicionales basados exclusivamente en reconocer una voz, un correo o una apariencia documental pueden perder eficacia.
El verdadero desafío para el consejo no consiste en comprender cómo funciona cada algoritmo, sino en saber cuándo la empresa está delegando a una tecnología una decisión que merece supervisión humana.
Procedimientos para pagos extraordinarios, cambios de cuentas bancarias y autorizaciones sensibles deberían considerar estos escenarios. La respuesta no es desconfiar de toda comunicación digital, sino incorporar verificaciones independientes en transacciones donde un engaño pueda producir consecuencias relevantes.
El talento debe formar parte de la discusión
La inteligencia artificial no solamente cambia herramientas; modifica funciones. Algunas tareas disminuirán, otras requerirán capacidades nuevas y determinados puestos cambiarán de manera sustancial.
La dirección debe anticipar estas transformaciones. Capacitación, rediseño de procesos y contratación pueden ser tan importantes como la adquisición de tecnología. Implementar sistemas sin preparar a las personas puede generar resistencia, uso incorrecto o dependencia excesiva de proveedores externos.
La productividad no debe medirse únicamente por reducción de personal
Una implementación puede crear valor mediante mayor velocidad, mejor calidad, reducción de errores o capacidad para atender más clientes. Concentrar el análisis exclusivamente en cuántos puestos pueden eliminarse produce una visión limitada.
El consejo debería relacionar la inversión con la estrategia. La pregunta es qué capacidad empresarial mejora y cómo se medirá. Si la única justificación es que “todas las empresas están utilizando inteligencia artificial”, probablemente todavía no existe un caso de negocio suficientemente desarrollado.
El consejo también puede utilizar estas herramientas
Preparación de sesiones, análisis documental y búsqueda de información son actividades donde las nuevas tecnologías pueden resultar útiles para los propios órganos corporativos. Pero la sensibilidad de los materiales exige controles adecuados.
Actas, operaciones futuras, información financiera y asuntos jurídicos pueden contener datos particularmente confidenciales. Utilizar herramientas externas sin conocer sus condiciones puede generar exposiciones innecesarias. La comodidad tecnológica no debe desplazar la obligación de proteger información corporativa.
La LGSM mantiene la responsabilidad en personas y órganos
La Ley General de Sociedades Mercantiles (LGSM) establece, particularmente en sus artículos 142 y siguientes, el marco de administración de la sociedad anónima. La utilización de inteligencia artificial no crea por sí misma un nuevo órgano societario ni desplaza las competencias atribuidas legal o estatutariamente a administradores, consejo, asamblea u otros participantes.
Si un sistema proporciona una recomendación para una decisión que corresponde al consejo, la competencia continúa perteneciendo al órgano. La herramienta puede ampliar la información disponible, pero no sustituye la resolución corporativa ni la responsabilidad que derive del ejercicio de las funciones correspondientes.
La responsabilidad de los administradores no puede automatizarse
La utilización de tecnología debe insertarse dentro de la estructura de facultades y controles existente. Un administrador no debería asumir que la recomendación de un sistema constituye justificación suficiente para dejar de analizar una decisión material.
La diligencia debe evaluarse conforme al marco jurídico aplicable y a las circunstancias concretas. En este sentido, la inteligencia artificial modifica las herramientas disponibles para decidir, pero no elimina la necesidad de ejercer juicio.
La LMV exige especial atención cuando resulte aplicable
En sociedades comprendidas en la Ley del Mercado de Valores (LMV), los deberes de diligencia y lealtad, las funciones del consejo, de los directivos relevantes y de los órganos intermedios continúan siendo aplicables cuando las decisiones o procesos incorporan sistemas automatizados.
Si una herramienta afecta información financiera, control interno, riesgos o procesos relevantes, deberá analizarse su utilización dentro de las responsabilidades previstas por el régimen correspondiente. La innovación tecnológica no constituye una excepción general frente a las obligaciones societarias.
El Código ofrece principios trasladables a esta materia
El Código de Principios y Mejores Prácticas de Gobierno Corporativo (Código) aporta referencias útiles sobre administración de riesgos, control interno, información, responsabilidades del consejo y órganos intermedios. Estos principios permiten incorporar la inteligencia artificial dentro de la arquitectura general de gobierno sin necesidad de tratarla como una realidad completamente separada.
El punto central consiste en asignar responsabilidades, identificar riesgos y proporcionar información suficiente al órgano competente. La tecnología cambia; la necesidad de saber quién decide y quién responde permanece.
Una política debe permitir innovar
El temor puede producir políticas que prohíban prácticamente cualquier uso. El resultado probable será que las personas utilicen herramientas fuera de los canales institucionales, creando precisamente los riesgos que se pretendían evitar.
Una política eficaz debería distinguir usos permitidos, restringidos y aquellos que requieren aprobación especial. También debe establecer reglas sobre información confidencial, revisión humana, proveedores e incidentes. El objetivo no es detener la experimentación, sino proporcionar límites comprensibles.
La pregunta decisiva es quién conserva el juicio
A medida que los sistemas mejoren, sus recomendaciones serán más convincentes y su utilización más frecuente. Precisamente entonces será más importante determinar en qué decisiones la empresa desea conservar una intervención humana sustantiva.
No todas requerirán el mismo grado de supervisión. Pero en aquellas capaces de producir consecuencias materiales, el consejo debería saber quién puede cuestionar al sistema y quién tiene autoridad para apartarse de su recomendación.
La inteligencia artificial obligará a revisar numerosos procesos, pero no modifica una premisa esencial del gobierno corporativo: las organizaciones necesitan personas y órganos identificables que respondan por las decisiones relevantes. La tecnología puede procesar más información de la que cualquier consejero podría revisar y encontrar patrones que ningún ejecutivo detectaría; esas capacidades deben aprovecharse. Lo que no debería ocurrir es que la sofisticación del sistema vuelva imposible identificar dónde terminó la recomendación tecnológica y dónde comenzó la decisión corporativa.
El desafío no consiste en elegir entre criterio humano e inteligencia artificial, sino en diseñar una relación adecuada entre ambos. La empresa que rechace estas herramientas puede perder capacidad competitiva; la que las adopte sin gobierno puede transferir silenciosamente decisiones importantes a sistemas que nadie supervisa suficientemente. El consejo debe procurar que la innovación amplíe la capacidad de decidir, sin diluir la responsabilidad de quienes jurídicamente continúan obligados a hacerlo.
Sobre el autor
Mtro. Benjamín Serna Liogol
Sigue leyendo
