A parte mais visível da IA são os produtos e serviços que se baseiam nessa tecnologia. Qualquer modelo, empacotado como software comercial, se enquadra nessa categoria. O próprio ChatGPT pode ser considerado um serviço de IA. Além disso, a partir de seu modelo, GPT-4 ou GPT-4o, um terceiro pode criar seu próprio serviço. E, dessa forma, o catálogo de produtos e iniciativas baseados em inteligência artificial cresce.
O modelo GPT-4 é apenas um exemplo. O mesmo pode ser dito do sistema Gemini do Google ou do Claude, desenvolvido pela startup Anthropic. Mas há muitos aplicativos no mercado e muitos outros por vir. Diante dessa suposta avalanche de novos serviços e produtos, tornam-se importantes os padrões que os submetem a uma estrutura definida. Nesse caso, a norma ISO/IEC 17065:2012 especifica uma série de requisitos para entidades que certificam produtos, processos e serviços. Elas devem estar em conformidade com os critérios descritos na norma, de modo que seu trabalho seja uma garantia para os usuários desses produtos.
A ISO/IEC 17065:2012 não se refere apenas à IA. Na verdade, essa tecnologia chega tarde, pelo menos em sua versão generativa, que só acordou após o lançamento do ChatGPT. O padrão data de 2012 e, embora a inteligência artificial já estivesse presente em aplicativos de software comerciais naquela época, a necessidade premente de enquadrar a tecnologia é mais recente.
Portanto, é somente agora que esse padrão se torna mais relevante em relação aos aplicativos baseados em IA. Mas antes de associá-la à inteligência artificial, vamos entender como ela funciona.
Qual é o objetivo da ISO/IEC 17065:2012
A norma tem como objetivo assegurar que os organismos de certificação de produtos operem de forma competente, consistente e imparcial. É uma forma de garantir que tudo o que é certificado por essas organizações tenha o mesmo nível de qualidade.
A própria norma a define da seguinte forma: "O objetivo geral da certificação de produtos, processos ou serviços é proporcionar a todas as partes interessadas a confiança de que um produto, processo ou serviço atende aos requisitos especificados. O valor da certificação é o grau de confiança estabelecido por uma demonstração imparcial e competente, feita por terceiros, da conformidade com os requisitos especificados.
Requisitos da norma
Ao certificar produtos, serviços ou processos, as entidades precisam levar em conta uma série de requisitos. Sem eles, não será possível obter o padrão. Em primeiro lugar, elas devem garantir que mantêm a imparcialidade em sua atividade. Isso inclui a ausência de conflitos de interesse.
Além disso, as entidades que aspiram ao padrão precisam demonstrar que são competentes para realizar as certificações. Isso implica ter os recursos, tanto humanos quanto técnicos, adequados aos produtos a serem avaliados. Quanto às equipes de pessoas designadas para essa tarefa, a entidade também deve garantir sua competência, treinando-as e examinando suas capacidades.
Da mesma forma, as organizações são obrigadas a ter um sistema de gerenciamento destinado a preservar os requisitos exigidos pela norma. Isso significa estabelecer políticas e procedimentos para garantir a qualidade da atividade de certificação, bem como sua integridade.
A norma também impõe requisitos para o próprio processo de certificação. Ela abrange todos os estágios do processo de certificação, desde a avaliação até a revisão, mas também inclui as tarefas de tomada de decisão e vigilância. Entre os valores que se busca que sejam consistentes com a norma estão transparência, consistência e documentação detalhada de todas as fases do processo de certificação.
Como a ISO/IEC 17065:2012 se relaciona com a IA
Será interessante ver como a norma ISO/IEC 17065:2012 se aplica ao mercado de inteligência artificial. A atividade de certificação no setor está apenas começando e ainda precisa ser liberada. Mas já há indicações dos campos que serão afetados por essa norma.
É fácil prever que os algoritmos, sejam eles de IA analítica ou generativa, bem como os sistemas que baseiam sua operação nessa tecnologia, estarão sujeitos a avaliação. Há muitos fatores que deverão ser levados em conta, como a conformidade com a legislação específica, o desempenho dos produtos ou sua conformidade com a ética comumente aceita.
Outro objeto das certificações serão os dispositivos em que a IA desempenha um papel fundamental. Um exemplo disso poderia ser os carros autônomos. Mas não há necessidade de pular para o futuro, exemplos podem ser encontrados em dispositivos de automação residencial e outros equipamentos digitais.
Além disso, o padrão também servirá às entidades para certificar processos. E isso incluiria o desenvolvimento de modelos de IA ou produtos que integram a inteligência artificial. Mas a certificação também poderia abranger a parte de implantação, vinculada à parte operacional. As organizações devem assegurar que a programação, o treinamento de modelos, a atualização de modelos e o gerenciamento de dados estejam de acordo com as práticas recomendadas.
