Com mais de 25 anos trabalhando com empresas e organizações relacionadas a novas tecnologias, Javier Peris não foi pego de surpresa pelo surgimento da inteligência artificial. Esse consultor de estratégia de negócios especializado em TI possui uma longa lista de certificações e ocupa cargos de responsabilidade em várias entidades ligadas aos padrões ISO.
Peris nos fala sobre o impacto que as normas ISO podem ter no campo da inteligência artificial. Já existem algumas normas voltadas especificamente para a IA, mas também há outras que influenciarão a evolução da tecnologia, para questões organizacionais, de gerenciamento de processos e de sistemas em geral.
Existem diferentes normas ISO que se referem à inteligência artificial e que se referem a diferentes partes das empresas. Como podemos começar a entender isso?
Em todas as organizações, públicas, privadas, grandes, pequenas ou médias, até mesmo em startups, com ou sem fins lucrativos, há sempre três níveis distintos de responsabilidade. Por um lado, há um órgão de governança, na forma de um Conselho de Administração, Comitê de Gestão ou proprietário, que tem o direito de definir o objetivo e a responsabilidade de governar a entidade adequadamente. Esse é o nível de governança. Além desse órgão de governança, há um segundo nível de responsabilidade mais envolvido na definição e no gerenciamento da estratégia que levará a organização a atingir os objetivos e a finalidade definidos pelo governo e explicitados pela governança, ou seja, o nível gerencial. Por fim, há um terceiro nível de responsabilidade, mais tático e operacional, que se dedica a realizar o trabalho e as tarefas rotineiras, diárias ou cotidianas supervisionadas o tempo todo pela gerência.
Como você define a responsabilidade de cada parte na implementação ou implantação de um serviço de inteligência artificial?
Nesse ambiente organizacional, quando se trata da implementação, adoção ou fornecimento de um determinado serviço, cada nível de responsabilidade deve ter clareza sobre como isso afeta seu trabalho diário e, acima de tudo, qual é seu papel e sua responsabilidade ao assumir riscos ou decisões relacionadas a qualquer novo paradigma, sendo uma responsabilidade que não pode ser evitada ou delegada.
Mas a verdade é que os seres humanos são eminentemente táticos; entramos em ação apressadamente, confundindo agilidade com pressa. Adotamos tecnologias com boas intenções sem pensar nos riscos, nas ameaças e nas implicações que elas acarretam, lamentando depois com o habitual "se tivéssemos pensado nisso antes".
E as normas ISO deveriam existir para evitar essa situação?
A partir dos Comitês de Normalização, nos quais investem esforços impressionantes, determinados grupos de profissionais trabalham intensa e incessantemente para fornecer soluções aos desafios e necessidades que a sociedade nos apresenta e, em particular, para ajudar as organizações que desejam implementar a inteligência artificial de forma responsável para não ter que se arrepender do "se tivéssemos pensado nisso", criando normas e padrões para cada nível de responsabilidade.
Para a IA existem as normas ISO/IEC 42001:2023 e ISO/IEC 38507:2022, até que ponto elas estão vinculadas?.
A norma ISO 38507 é uma norma de governança específica para organizações de qualquer tamanho, setor ou natureza que desejam implementar a Inteligência Artificial de forma responsável e devidamente governada, estabelecendo uma estrutura de governança para a Inteligência Artificial. Para isso, serão fornecidas instruções para que o corpo diretivo tenha a certeza de que não serão cometidos erros grosseiros, que não serão realizadas práticas inadequadas, que a ética será devidamente observada e que os erros serão aprendidos, alcançando assim uma maturidade cada vez maior no uso desse novo paradigma.
Por outro lado, a ISO 420011 é uma norma de gestão específica também para organizações de qualquer tamanho, setor ou natureza que possam implementar a inteligência artificial de forma eficaz, eficiente e adequadamente gerenciada, graças ao estabelecimento de um sistema de inteligência artificial responsável por estabelecer os controles necessários para que a vontade do governo seja cumprida e o uso da inteligência artificial possa realmente ter um impacto positivo em toda a organização.
Portanto, qualquer que seja a Inteligência Artificial adotada na organização, essa implementação será regida adequadamente pela ISO 38507 e gerenciada adequadamente pela ISO 42001.
Qual a importância das normas ISO para o desenvolvimento ou a implantação de sistemas de IA?
Quer estejamos desenvolvendo ferramentas que, em última análise, fornecerão serviços de inteligência artificial ou queiramos realizar uma implementação adequada da inteligência artificial em nossa organização, as normas ISO servem como um guia perfeito para essa fantástica jornada.
Ao tratarmos de qualquer iniciativa relacionada à adoção de uma nova tecnologia ou de um novo paradigma, devemos partir do princípio de que não se trata de um "projeto", a questão é muito mais complexa, pois se trata, na verdade, de um "programa de projeto" e, portanto, deve ser realizado por meio da metodologia adequada para isso, como o "gerenciamento de programas", e não apenas do "gerenciamento de projetos".
Que recomendações você daria a uma entidade que deseja desenvolver ou implantar sistemas de IA?
A Inteligência Artificial, seja para uso por uma organização ou para prestação de serviços por um provedor de serviços de IA, não é apenas um resultado. É um novo recurso ou um novo serviço e, portanto, será aproveitado ou, na pior das hipóteses, sofrido por muito tempo após a vida útil de qualquer projeto. Portanto, as organizações devem definir, a partir da estratégia, os níveis de capacidade e maturidade que pretendem alcançar com relação à Inteligência Artificial em sua organização e em quais períodos de tempo. Isso esclarecerá e ajudará a definir planos de adoção realistas que serão bem-sucedidos na incorporação da inteligência artificial à estratégia organizacional.
Lidar com projetos de inteligência artificial desconectados, díspares ou efêmeros no ambiente organizacional é pão para hoje e fome para amanhã; fazê-lo mal ou da maneira errada abrirá o perímetro de risco da organização e levará ao surgimento de problemas ainda maiores do que aqueles que se pretende resolver.
Ou seja, você precisa de uma estratégia claramente definida e pré-pensada? Quer dizer, você precisa de uma estratégia claramente definida e pré-pensada?
A esta altura do século XXI, toda organização deve ter uma estratégia clara de IA em seu portfólio, seja na adoção ou na prestação de serviços de IA, envolvendo seus órgãos de governança e gestão desde o início.
Vamos primeiro definir "por que" queremos a Inteligência Artificial e, em seguida, definir adequadamente o "para que" e o "o quê". Evitemos a todo custo adotar esse novo e fantástico paradigma sem ter feito uma análise de nossos pontos fracos, pontos fortes, ameaças e oportunidades, especialmente de nossas capacidades e recursos disponíveis. E vamos fazer com que o corpo diretivo seja o proprietário do programa de inteligência artificial, pois sem seu envolvimento ativo e consciente nunca teremos sucesso.
Como Sun Tzu escreveu em seu famoso livro "A Arte da Guerra": "Estratégia sem tática é o caminho mais lento para a vitória. Tática sem estratégia é o barulho que precede a derrota".
Zertia
Em um setor em expansão como o de inteligência artificial, em que os benefícios de sua implementação são tão altos, a demanda por empresas capazes de realizar auditorias que garantam esse tipo de certificação ISO está aumentando. Embora esse nicho de mercado esteja mais desenvolvido na América do Norte, podemos encontrar pioneiros como a Zertia na Espanha.
Essa jovem auditoria se concentra em fornecer serviços de ponta para garantir que os modelos e algoritmos de IA estejam em conformidade com os mais altos padrões e regulamentações globais. A posse de qualificações ISO não é apenas um sinal de qualidade, mas tambémgarante maior confiança nos negócios, assegurando que o uso da IA seja justo, transparente, escalável, explicável e sustentável.
