Cuando hablamos de la regulación de la inteligencia artificial muchas veces pensamos en las legislaciones de gran calado. El Reglamento de Inteligencia Artificial, aprobado por la UE, es quizá lo primero que se viene a la cabeza. Sin embargo, pasará tiempo hasta que veamos sus efectos. La entrada en vigor es progresiva y se extenderá a lo largo de meses. Hasta los dos años, desde su aprobación, no se completará este proceso. Sin embargo, hay otras normas que rigen el mercado de la IA, incluso aunque no se mencione específicamente a la tecnología en ellas.
Los estándares ISO son un buen ejemplo de este otro tipo de reglas. Son de común aceptación a nivel internacional, pero no forman parte de corpus legislativos aprobados por Estados o gobiernos regionales. Existen miles de normas y, entre ellas, algunas tienen un especial interés para el mercado de la inteligencia artificial. La ISO/IEC 17021-1:2015 se cuenta entre ellas. Define los requisitos que deben tener las empresas que realicen auditorías y evaluaciones de sistemas de gestión que otras entidades ponen en marcha.
Para la inteligencia artificial, este estándar tendrá un impacto en la forma de desarrollo y despliegue de los productos y modelos. Existen normas destinadas a productos y servicios, pero la ISO/IEC 17021-1:2015 afecta a procesos, en general. Y esto quiere decir que las empresas que desarrollen un sistema de IA, si quieren estar certificadas tendrán que acudir a una compañía que cumpla con la norma.
Solo estas compañías, poseedoras del estándar, estarán capacitadas para certificar los procesos de aquellas que desarrollen —u operen— un modelo de IA. Así, de una forma indirecta, pues el estándar no se pensó para la inteligencia artificial, la ISO/IEC 17021-1:2015 impondrá un nivel de calidad en el mercado de esta tecnología.
Llamada a la excelencia y uniformidad
La norma ISO actuará en el mercado de la inteligencia artificial como un factor de empuje de la calidad en los proyectos. Al promover auditorías rigurosas impulsará el desarrollo de modelos competentes. No solo porque sean útiles para los usuarios sino porque desde el punto de vista técnico tengan garantías.
Esto quiere decir que deben guardar ciertos estándares de calidad, algo crucial en áreas como la seguridad o la privacidad. Es decir, va más allá del rendimiento, un campo donde también habrá un incentivo para alcanzar la excelencia.
Cabe asumir que las entidades poseedoras de la norma que certifiquen a otras compañías se centrarán en ciertos factores, a la hora de evaluar. Uno de ellos será el personal dedicado, con lo que cobrará importancia contar con un equipo técnico con talento detrás de un sistema de IA. Pero las empresas evaluadas también deberán tener procesos claros a la hora de desarrollar y desplegar un servicio de IA. Esto implica contar con políticas definidas de puesta en marcha, operación, control de riesgos y solución de problemas.
Teniendo en cuenta cómo avanza el mercado de la inteligencia artificial, otro de los aspectos que las entidades certificadoras podrían buscar en las compañías de IA será su capacidad de formar a sus empleados. Una actualización continuada del personal técnico será clave para que este se considere bien preparado para afrontar los retos de la tecnología.
Todo esto, a su vez, asegurará que los productos que la empresa evaluada cree o opere sean de calidad. Aunque para que sea así hay otro factor determinante: la consistencia. El estándar señala que se ha de auditar de la misma forma a todas las empresas. Como consecuencia, las garantías que tendrán los sistemas de las compañías auditadas —cada uno en su campo— deberán ser equivalentes. Y lo serán por un motivo sencillo: se habrán medido por el mismo rasero.
Es una forma de minimizar los paracaidismos y las improvisaciones de empresas poco preparadas para desarrollar u operar modelos de IA. Será positivo para el mercado que se mantenga, por ejemplo, un cierto marco de actuación a la hora de recoger datos y entrenar los sistemas.
Una compañía certificada por otra que posea el ISO/IEC 17021-1:2015 será propensa a adquirir ciertas ventajas en el mercado. Para empezar, ofrecerá mayor confianza a sus clientes. Pero esta credibilidad se transmitirá también a los reguladores y a otro tipo de entidades, como proveedores y posibles partners. Al final, lo que propulsará serán mayores oportunidades de negocio.
Promoción de la IA ética
Uno de los requisitos que deben cumplir las empresas que tengan el estándar ISO/IEC 17021-1:2015 es la imparcialidad. Esto quiere decir que deben ser independientes y no tener conflictos de intereses con las empresas que evalúen. Y esta independencia es básica a la hora de dar el visto bueno al funcionamiento de un algoritmo.
En inteligencia artificial cada vez se presta más atención a los posibles sesgos de los modelos de IA. Cuando hablamos de personas, estos pueden llevar a favorecer a ciertos grupos sociales en base al género, al origen étnico o a otros factores irrelevante para la finalidad del sistema. Contar con el principio de imparcialidad lleva, de nuevo, a medir con el mismo nivel a todas las empresas y sus sistemas. Dado que el estándar impulsa a buscar la excelencia en los sistemas, impulsará a buscarla en todos los evaluados.
Zertia
En un sector en auge como lo es el de la inteligencia artificial, donde los beneficios de su implantación son tan elevados, la demanda de empresas capaces de llevar a cabo auditorías que garanticen este tipo de certificados ISO es cada vez mayor. Pese a que este nicho de mercado se encuentra más desarrollado en Norteamérica, podemos encontrar pioneros como Zertia en España.
Esta joven auditoría centra sus objetivos en ofrecer servicios de vanguardia para garantizar que los modelos y algoritmos de IA cumplan con los más altos estándares y regulaciones globales. Las posesión de titulaciones ISO no solo son una muestra de calidad, sino que también aseguran una mayor confianza empresarial, asegurando que el uso de la IA sea justo, transparente, escalable, explicable y sostenible.
