Quando falamos sobre a regulamentação da inteligência artificial, geralmente pensamos em uma legislação importante. O Regulamento de Inteligência Artificial da UE talvez seja a primeira coisa que vem à mente. No entanto, levará algum tempo até vermos seus efeitos. A entrada em vigor é progressiva e se estenderá por meses. O processo não será concluído antes de dois anos após sua aprovação. No entanto, há outras normas que regem o mercado de IA, mesmo que a tecnologia não seja mencionada especificamente nelas.
As normas ISO são um bom exemplo desse outro tipo de regras. Elas são comumente aceitas internacionalmente, mas não fazem parte de corpos de legislação adotados por estados ou governos regionais. Há milhares de regras e, entre elas, algumas são de interesse especial para o mercado de inteligência artificial. A ISO/IEC 17021-1:2015 está entre elas. Ela define os requisitos para empresas que realizam auditorias e avaliações de sistemas de gerenciamento implementados por outras entidades.
Para a inteligência artificial, essa norma terá um impacto na maneira como os produtos e modelos são desenvolvidos e implantados. Há normas voltadas para produtos e serviços, mas a ISO/IEC 17021-1:2015 afeta os processos em geral. E isso significa que as empresas que desenvolvem um sistema de IA, se quiserem ser certificadas, terão que procurar uma empresa que esteja em conformidade com a norma.
Somente essas empresas, que possuem a norma, poderão certificar os processos das empresas que desenvolvem - ou operam - um modelo de IA. Assim, de forma indireta, pelo fato de a norma não ter sido concebida para a inteligência artificial, a ISO/IEC 17021-1:2015 imporá um nível de qualidade no mercado para essa tecnologia.
Pedido de excelência e uniformidade
A norma ISO atuará no mercado de inteligência artificial como um impulsionador da qualidade nos projetos. Ao promover auditorias rigorosas, ela impulsionará o desenvolvimento de modelos competentes. Não apenas porque eles são úteis para os usuários, mas também porque do ponto de vista técnico eles têm garantias.
Isso significa que eles devem atender a determinados padrões de qualidade, o que é crucial em áreas como segurança e privacidade. Ou seja, vai além do desempenho, um campo em que também haverá um incentivo para alcançar a excelência.
Pode-se presumir que as entidades detentoras de padrões que certificam outras empresas se concentrarão em determinados fatores ao avaliar. Um deles será a equipe dedicada, em que ter uma equipe técnica talentosa por trás de um sistema de IA se tornará importante. Mas as empresas avaliadas também precisarão ter processos claros ao desenvolver e implantar um serviço de IA. Isso significa ter políticas definidas para inicialização, operação, controle de riscos e solução de problemas.
Considerando o avanço do mercado de IA, outro aspecto que os certificadores poderão procurar nas empresas de IA será a capacidade de treinar seus funcionários. A atualização contínua da equipe técnica será fundamental para garantir que ela seja considerada bem preparada para enfrentar os desafios da tecnologia.
Isso, por sua vez, garantirá que os produtos que a empresa que está sendo avaliada cria ou opera sejam de alta qualidade. Mas, para que isso aconteça, há outro fator determinante: a consistência. A norma estabelece que todas as empresas devem ser auditadas da mesma forma. Como consequência, as garantias que os sistemas das empresas auditadas terão - cada uma em seu próprio campo - devem ser equivalentes. E serão equivalentes por um motivo simples: eles terão sido medidos pelo mesmo critério.
Essa é uma forma de minimizar a improvisação e a queda de paraquedas por parte de empresas que não estão preparadas para desenvolver ou operar modelos de IA. Será bom para o mercado se, por exemplo, for mantida uma determinada estrutura para coleta de dados e sistemas de treinamento.
Uma empresa certificada por outra empresa com a ISO/IEC 17021-1:2015 provavelmente obterá certas vantagens no mercado. Para começar, ela oferecerá maior confiança a seus clientes. Mas essa credibilidade também será transmitida aos órgãos reguladores e a outras entidades, como fornecedores e parceiros em potencial. No final, isso levará a maiores oportunidades de negócios.
Promoção da IA ética
Um dos requisitos que as empresas com a norma ISO/IEC 17021-1:2015 devem atender é a imparcialidade. Isso significa que elas devem ser independentes e não ter conflitos de interesse com as empresas que avaliam. E essa independência é essencial quando se trata de aprovar a operação de um algoritmo.
Na inteligência artificial, cada vez mais atenção está sendo dada aos possíveis vieses dos modelos de IA. Quando falamos de pessoas, isso pode levar ao favorecimento de determinados grupos sociais com base em gênero, etnia ou outros fatores irrelevantes para a finalidade do sistema. Ter o princípio da equidade leva, novamente, a medir todas as empresas e seus sistemas de acordo com o mesmo padrão. Como o padrão impulsiona a busca pela excelência nos sistemas, ele impulsionará a busca pela excelência em todos os avaliados.
Zertia
Em um setor em expansão como o de inteligência artificial, em que os benefícios de sua implementação são tão altos, a demanda por empresas capazes de realizar auditorias que garantam esse tipo de certificação ISO está crescendo. Embora esse nicho de mercado esteja mais desenvolvido na América do Norte, podemos encontrar pioneiros como a Zertia na Espanha.
Essa jovem auditoria se concentra em fornecer serviços de ponta para garantir que os modelos e algoritmos de IA estejam em conformidade com os mais altos padrões e regulamentações globais. A posse de qualificações ISO não é apenas um sinal de qualidade, mas tambémgarante maior confiança nos negócios, assegurando que o uso da IA seja justo, transparente, escalável, explicável e sustentável.
