Con más de 25 años a sus espaldas trabajando con empresas y organismos relacionados con las nuevas tecnologías, a Javier Peris no le ha tomado por sorpresa el asenso de la inteligencia artificial. Este consultor de estrategia de negocio especializado en IT es titular de una larga recua de certificaciones y ostenta puestos de responsabilidad en varias entidades vinculadas a las normas ISO.
Peris nos cuenta cómo el impacto que pueden tener las normativas ISO en el campo de la inteligencia artificial. Ya existen algunos estándares orientados específicamente a la IA, pero también hay otros que influirán en la evolución de la tecnología, por cuestiones organizacionales, de gestión de procesos y sistemas, en general.
Hay diferentes normas ISO que se refieren a la inteligencia artificial y que se refieren a distintas partes de las empresas. ¿Cómo empezamos a entender esto?
En todas las organizaciones, públicas, privadas, grandes, pequeñas o medianas, incluso startups, con o sin ánimo de lucro, siempre existen tres niveles de responsabilidad bien diferenciados. Por un lado existe un órgano rector, en forma de Consejo de Administración, Comité de Dirección o dueño, que tiene el derecho de definir el propósito y la responsabilidad de gobernar la entidad adecuadamente. Es el nivel de gobierno. Además de este órgano de gobierno existe un segundo nivel de responsabilidad más involucrado en la definición y gestión de la estrategia que conducirá la organización hacia el logro de los objetivos y su propósito definido por el gobierno y explicitado por la gobernanza, es decir el nivel de gestión. Por último, existe un tercer nivel de responsabilidad, más táctico y operativo que se dedica a llevar a cabos los trabajos y tareas rutinarios, cotidianos o diarios supervisados en todo momento por la gestión.
¿Cómo se define qué responsabilidad tiene cada parte en la implementación o despliegue de un servicio de inteligencia artificial?
En este entorno organizacional, a la hora de la implementación, adopción o prestación de un determinado servicio cada nivel de responsabilidad deberá tener claro cómo le impacta en su día a día y, sobre todo, cuál es su papel y responsabilidad en la toma de riesgos o decisiones relacionados con cualquier nuevo paradigma, siendo una responsabilidad que no se puede eludir ni delegar.
Pero lo cierto es que el ser humano es eminentemente táctico, nos lanzamos a la acción de manera apresurada confundiendo agilidad con precipitación. Adoptamos las tecnologías con buenismo sin pensar en los riesgos, amenazas e implicaciones que conlleva lamentándonos luego con el habitual “si lo hubiéramos pensado antes”.
¿Y las normas ISO deben estar para evitar esta coyuntura?
Desde los Comités de Normalización, en la que invierten impresionantes esfuerzos, determinados grupos de profesionales trabajan de manera intensa e incesante para dar solución a los retos y necesidades que nos plantea la sociedad y en concreto ayudar a las organizaciones que quieren implementar Inteligencia artificial de manera responsable para no tener que lamentar el “si lo hubiéramos pensado”, creando normas y estándares para cada nivel de responsabilidad.
Para la IA existen las normas ISO/IEC 42001:2023 y la ISO/IEC 38507:2022, ¿hasta qué punto están vinculadas?
La Norma ISO 38507 es un estándar especifico de gobierno para organizaciones de cualquier tamaño, sector o naturaleza, que deseen implementar Inteligencia artificial de manera responsable y adecuadamente gobernada gracias al establecimiento de un marco de gobernanza para la Inteligencia artificial. Y para tal fin se darán las instrucciones para que el órgano rector tenga la seguridad de que no se cometen errores de bulto, no se llevan a cabo prácticas inadecuadas, se observa adecuadamente la ética y se aprende de los errores consiguiendo cada vez mayor madurez en el uso de este nuevo paradigma.
Por otro lado, la ISO 420011 es un estándar específico de gestión también para organizaciones de cualquier tamaño, sector, o naturaleza que desen implementar inteligencia artificial de manera efectiva, eficiente y adecuadamente gestionada gracias al establecimiento de un sistema de inteligencia artificial responsable de establecer los controles necesarios para que la voluntad de gobierno se haga cumplir y realmente el uso de la Inteligencia artificial pueda tener un impacto positivo a lo largo y ancho de la organización.
Por tanto, independientemente de la Inteligencia artificial que se adopte en la organización, esta implementación estará adecuadamente gobernada gracias a la ISO 38507 y adecuadamente gestionada gracias a la ISO 42001.
¿Qué importancia tienen las normas ISO para desarrollar o desplegar sistemas de IA?
Tanto si desarrollamos herramientas que al final van a prestar servicios de inteligencia artificial como si lo que pretendemos es llevar a cabo una adecuada implementación de la Inteligencia artificial en nuestra organización, las normas ISO sirven de guía perfecta para este fantástico viaje.
A la hora de abordar cualquier iniciativa relacionada con la adopción de una nueva tecnología o un nuevo paradigma debemos asumir que no se trata de un “proyecto”, el asunto es bastante más complejo pues se trata realmente de un “programa de proyectos” y, por tanto, debe acometerse a través de la metodología adecuada para ello, como es el “programme management”, no solo desde el “project management”.
¿Qué recomendaciones daría a una entidad que quiera desarrollar o desplegar sistemas de IA?
La Inteligencia artificial, tanto en el ámbito de uso por parte de una organización como si se trata de una prestación de servicios por parte de un prestador de servicios de Inteligencia artificial, no es meramente un resultado. Es una nueva capacidad o un nuevo servicio y, por tanto, va a disfrutarse, o en peor de los casos, sufrirse durante mucho tiempo más allá de la vida de cualquier proyecto. Por tanto, las organizaciones deben definir desde la estrategia qué niveles de capacidad y madurez van a alcanzar respecto de la Inteligencia artificial en su organización y en qué periodos temporales. Esto clarificará y ayudará a definir planes realistas de adopción que lograrán incluir a la Inteligencia artificial en la estrategia organizacional.
Abordar proyectos inconexos, dispares o fugaces de inteligencia artificial en el ámbito de las organizaciones es pan para hoy y hambre para mañana, hacerlo mal o de manera equivocada abrirá el perímetro de riesgos de la organización y propiciará la aparición de más problemas incluso que aquellos que se pretenden resolver.
Es decir, ¿se necesita una estrategia pensada de antemano y claramente definida?
A estas alturas del siglo XXI toda organización debe tener una estrategia clara de Inteligencia artificial en su porfolio, tanto si se trata de una adopción como si se trata de la prestación de servicios de inteligencia artificial, involucrando desde el minuto cero a sus órganos de gobierno y gestión.
Primero definamos ‘por qué’ queremos la Inteligencia artificial y luego definamos adecuadamente el ‘para qué’ y el ‘qué’. Evitemos a toda costa adoptar este nuevo y fantástico paradigma a salto de mata, a lo loco, o sin haber hecho un análisis de nuestras debilidades, fortalezas, amenazas y oportunidades, sobre todo de nuestras capacidades y recursos disponibles. Y hagamos dueños del programa de inteligencia artificial al órgano de gobierno, pues sin su adecuada implicacion activa y consciente jamás podremos alcanzar el éxito.
Como bien nos dejó escrito Sun Tzu en su famoso libro ‘El Arte de la Guerra’: “La Estrategia sin Táctica es el camino más lento hacia la victoria. La Táctica sin Estrategia es el ruido que precede a la derrota”.
Zertia
En un sector en auge como lo es el de la inteligencia artificial, donde los beneficios de su implantación son tan elevados, la demanda de empresas capaces de llevar a cabo auditorías que garanticen este tipo de certificados ISO es cada vez mayor. Pese a que este nicho de mercado se encuentra más desarrollado en Norteamérica, podemos encontrar pioneros como Zertia en España.
Esta joven auditoría centra sus objetivos en ofrecer servicios de vanguardia para garantizar que los modelos y algoritmos de IA cumplan con los más altos estándares y regulaciones globales. Las posesión de titulaciones ISO no solo son una muestra de calidad, sino que también aseguran una mayor confianza empresarial, asegurando que el uso de la IA sea justo, transparente, escalable, explicable y sostenible.