La parte más visible de la IA son los productos y servicios que se basan en esta tecnología. Cualquier modelo, empaquetado como un software comercial, entra dentro de esta categoría. El propio ChatGPT se puede considerar un servicio de IA. Más aún, a partir de su modelo, GPT-4 o GPT-4o, un tercero puede crear su propio servicio. Y de esta forma, crece el catálogo de productos e iniciativas basadas en inteligencia artificial.
El modelo GPT-4 solo es un ejemplo. Podríamos decir lo mismo del sistema de Google, Gemini, o de Claude, desarrollado por la startup Anthropic. Pero hay muchas aplicaciones en el mercado y muchas otras están por llegar. Ante esta presumible avalancha de nuevos servicios y productos cobran importancia las normas que los sujetan a un marco definido. En este caso, el estándar ISO/IEC 17065:2012 especifica una serie de requisitos para entidades que certifiquen productos, procesos y servicios. Estas deben ajustarse a unos criterios descritos en la norma, de forma que su trabajo sea una garantía para los usuarios de estos productos.
El ISO/IEC 17065:2012 no se refiere únicamente a la IA. De hecho, esta tecnología llega tarde, al menos en su versión generativa, que solo se ha despertado tras el lanzamiento de ChatGPT. La norma es de 2012 y, aunque ya entonces se encontraba inteligencia artificial en aplicaciones de software comercial, la necesidad perentoria de enmarcar la tecnología es más reciente.
Así, es ahora cuando adquiere mayor relevancia esta norma en relación con las aplicaciones basadas en IA. Pero antes de vincularla con la inteligencia artificial, vamos a entender cómo funciona.
Cuál es el objetivo de ISO/IEC 17065:2012
El estándar está pensado para asegurar que las entidades que certifican productos operen de forma competente, consistente e imparcial. Es una manera de garantizar que todo lo que certifican estas organizaciones tenga un nivel de calidad parejo.
La propia norma lo define así: “El objetivo general de la certificación de productos, procesos o servicios es proporcionar confianza a todas las partes interesadas en que un producto, proceso o servicio cumple los requisitos especificados. El valor de la certificación es el grado de confianza que se estable mediante una demostración imparcial y competente por una tercera parte del cumplimiento de los requisitos especificados”.
Requisitos de la norma
A la hora de certificar productos, servicios o procesos, las entidades tienen que tener en cuenta una serie de requisitos. Sin ellos no podrán obtener el estándar. En primer lugar deben garantizar que mantienen una imparcialidad en su actividad. Esto incluye la ausencia de conflictos de intereses.
Además, las entidades que aspiren a obtener el estándar necesitan acreditar que son competentes para realizar las certificaciones. Esto implica contar con recursos, tanto de personal como técnicos, adecuados a los productos que van a evaluar. En cuanto a los equipos de personas destinadas a esta tarea, la entidad también debe asegurar su competencia formándolos y examinando sus capacidades.
Asimismo, las organizaciones están obligadas a contar con un sistema de gestión destinado a preservar los requerimientos que exige el estándar. Aquí hablamos de establecer políticas y procedimientos para garantizar la calidad de la actividad de certificación, así como su integridad.
La norma también impone requisitos para el propio proceso de certificación. Abarca todas sus etapas, desde la evaluación a la revisión, pero también pasando por la toma de decisiones y las tareas de vigilancia. Entre los valores que se buscan para ser consecuentes con el estándar están la transparencia, la consistencia y una documentación detallada de todas las fases del proceso de certificación.
Cómo se relaciona el estándar ISO/IEC 17065:2012 con la IA
Será interesante ver cómo se aplica la norma ISO/IEC 17065:2012 al mercado de la inteligencia artificial. La actividad certificadora en el sector apenas ha comenzado y aún tiene que desencadenarse. Pero ya hay indicios de los campos a los que afectará este estándar.
Es fácil prever que los algoritmos, ya sea de IA analítica o generativa, así como sistemas que basen su funcionamiento en esta tecnología serán objeto de evaluación. Hay muchos factores que se deberán tener en cuenta, como el cumplimiento de legislación específica, el rendimiento de los productos o su adecuación a una ética comúnmente aceptada por todos.
Otro de los objetos de las certificaciones serán dispositivos donde la IA juegue un papel fundamental. Un ejemplo de ello podrían ser los coches autónomos. Pero no hace falta saltar al futuro, encontramos ejemplos en dispositivos de domótica y otros equipos digitales.
Además, el estándar también servirá a las entidades para certificar procesos. Y aquí entraría el desarrollo de modelos de IA o de productos que integran inteligencia artificial. Pero la certificación también podría abarcar la parte del despliegue, vinculada a la parte operativa. Las organizaciones deberían garantizar que la programación, el entrenamiento de los modelos, su actualización y la gestión de los datos se ajuste a las mejores prácticas.