Não demorará muito para que os sistemas de inteligência artificial precisem ser certificados. Tanto as empresas quanto as entidades públicas serão pressionadas, por regulamentação ou por questões de mercado, a auditar seus modelos e os processos em que usam IA. Esse setor ainda tem algum tempo para tomar forma, mas já há sinais de como ele poderá funcionar.
Atualmente, já existem padrões para limitar a certificação de sistemas de IA. As normas ISO têm regulamentos que afetam o desenvolvimento e a implantação dessa tecnologia. Uma delas, especificamente voltada para IA, é a ISO/IEC 42001:2023. Ela nasceu, como sua nomenclatura indica, no ano de 2023 e tem como objetivo estabelecer uma estrutura de referência para empresas que fazem uso relevante da tecnologia. Mas há outras normas que também terão impacto no mercado de IA. É o caso da ISO/IEC 17021-1:2015. Essa é uma norma que define os requisitos para entidades que fornecem auditoria e certificação para sistemas de gerenciamento. O título que acompanha a norma é o seguinte: Avaliação da conformidade. Requisitos para entidades que fornecem auditoria e certificação de sistemas de gestão. A certificação MSAP (Management Systems Audit Program), que funciona como um selo global de excelência, baseia-se nessa norma.
O que são sistemas de gestão?
Mas para compreender a importância dessa norma, a primeira coisa a fazer é entender a que ela se refere. A chave são os sistemas de gestão, que são a forma como as empresas se organizam. Eles englobam as estruturas e os processos que as organizações usam para agir sistematicamente e alcançar os resultados desejados.
Esses sistemas de gerenciamento geralmente se baseiam em procedimentos PDCA (Plan-Do-Check-Act) ou PHVA (Plan, Do, Check and Act). A partir daí, as organizações testam e criam seus processos, tanto internos quanto voltados para o cliente.
Exemplos são a gestão ambiental, a gestão da qualidade ou os sistemas de segurança da informação. Esses são os especificamente mencionados na ISO/IEC 17021-1:2015, mas também abrangem qualquer tipo de sistema de gerenciamento que afete as atividades, os produtos ou os serviços da empresa. O objetivo é que todos eles estejam duplamente alinhados: com a política da organização e com os requisitos da norma.
Para que serve a ISO/IEC 17021-1:2015? Essa norma impõe determinados requisitos para entidades que realizam auditorias e certificação de sistemas de gestão. E aqui surge a pergunta: trata-se de uma certificação para entidades que, por sua vez, certificam? Sim, mas é mais fácil de explicar se nos concentrarmos na atividade da organização.
Podemos falar de uma empresa que audita sistemas de gerenciamento de segurança da informação. O que ela faz é avaliar como outra empresa ou entidade pública estruturou a proteção de suas informações e ativos de TI. Mas, para fazer isso com garantias, a empresa de auditoria obtém a norma ISO/IEC 17021-1:2015. Dessa forma, ela é reconhecida internacionalmente como cumpridora de requisitos rigorosos ao realizar suas auditorias. Assim, seu trabalho tem um selo de qualidade que outros não têm.
Da mesma forma que um sistema de gerenciamento ambiental ou de segurança da informação é certificado, um sistema de IA também pode ser certificado. E com o avanço frenético do mercado de IA, parece que os algoritmos e modelos serão implementados em muitos setores. A certificação de todos esses sistemas oferecerá maiores garantias para sua implementação.
As empresas que são chamadas para realizar essa certificação ou auditoria são aquelas que possuem a certificação ISO/IEC 17021-1:2015. Essa norma fornece a garantia de que seus titulares são competentes para realizar as avaliações relevantes.
A norma resume a função de seus requisitos da seguinte forma: "A conformidade com esses requisitos visa garantir que os organismos de certificação realizem a certificação de sistemas de gestão de forma competente, consistente e imparcial, facilitando assim o reconhecimento desses organismos e a aceitação de suas certificações em nível nacional e internacional".
Quais são os requisitos impostos pela norma ISO/IEC 17021-1:2015?
Há vários fatores que uma empresa certificadora deve ter para obter essa norma ISO. Eles podem ser resumidos em cinco:
-Competência: os organismos de certificação devem ter uma equipe de auditores com as habilidades e os conhecimentos necessários para realizar auditorias de forma eficaz.
Consistência: os organismos de certificação devem seguir um processo consistente para todas as auditorias e certificações que realizam.
Imparcialidade: a independência e a ausência de conflitos de interesse são uma obrigação de todas as entidades certificadoras.
Confidencialidade: as entidades devem ser capazes de gerenciar informações confidenciais de forma responsável e segura.
-<Controle de risco: as entidades certificadoras devem ser capazes de identificar e gerenciar os possíveis riscos que afetam o processo de certificação.
