Diz-se que a China é um caso especial quando se trata de regulamentação de IA. Obviamente, as medidas que foram tomadas até o momento - e esperamos que as que serão tomadas no futuro sigam o exemplo - são moldadas pelas possibilidades autoritárias do Estado. A censura, presente em toda a legislação referente a serviços digitais abertos ao público, também é evidente nas regras emitidas para governar a inteligência artificial. Apesar disso, a maioria das regulamentações adotadas tem valor em outros mercados. Vamos fazer uma revisão do estado da regulamentação da IA no gigante asiático.
Há alguns anos, a partir de 2021, a China foi o primeiro país a aprovar novas medidas legislativas no campo da inteligência artificial. Mesmo antes disso, em 2017, foi lançado o New Generation Artificial Intelligence Development Plan, um programa que detalhava como o país poderia se tornar um líder em IA até 2030. Os principais aspectos dessa iniciativa eram aprofundar o avanço da tecnologia, promover talentos e fornecer uma estrutura para o desenvolvimento com salvaguardas éticas.
Para implementar esse plano, foi necessário estabelecer medidas que formariam uma estrutura para o desenvolvimento do setor. Em 2021, foi anunciada uma minuta com uma série de regulamentações voltadas para algoritmos que usam serviços de recomendação. Naquela época, esses tipos de ferramentas de IA estavam entre aqueles com maior impacto sobre o público em geral. Exigia-se que seus desenvolvedores e operadores fossem transparentes e responsáveis, bem como tivessem um senso de justiça em sistemas que pudessem influenciar o comportamento do usuário ou a opinião pública.
Esses eram os pilares éticos sobre os quais basear a inovação na área de IA. O órgão encarregado de supervisionar sua aplicação é a Administração do Ciberespaço da China (CAC). Esse órgão tem a tarefa de coordenar a regulamentação da inteligência artificial, além de garantir que a legislação seja aplicada.
O CAC também é responsável por monitorar a conformidade com determinadas medidas para evitar usos prejudiciais de conteúdo sintético, especialmente imagens, sejam elas estáticas ou de vídeo. Essa regulamentação trata especificamente de deepfakes, que devem ser adequadamente rotulados como conteúdo artificial. Além disso, são estabelecidas limitações para evitar usos prejudiciais. A entidade realiza esse trabalho em conjunto com o Ministério da Indústria e Tecnologia da Informação (MIIT).
A estrutura legal
Para entender o papel de cada instituição na regulamentação da IA na China, é útil definir as funções de cada órgão envolvido. O Ministério da Indústria e Tecnologia da Informação apoia o CAC na aplicação da legislação, especialmente em nível setorial. Ele é responsável pelo monitoramento das aplicações industriais de IA, bem como pelo controle dos padrões tecnológicos.
Mas há outro órgão que também tem influência direta na regulamentação. Trata-se do Ministério da Ciência e Tecnologia (MOST), cujo envolvimento direto é necessário para promover a inovação, tanto em nível público quanto privado. Ele colabora com as duas instituições anteriores para promover a pesquisa e o desenvolvimento no campo da IA, sem negligenciar a estrutura regulatória e ética.
São esses três órgãos que estão envolvidos na concretização de outra parte básica da legislação. Essas são as medidas internas sobre IA generativa. Elas entraram em vigor em agosto de 2023 e têm como objetivo controlar o desenvolvimento e o uso de serviços de inteligência artificial generativa. Entre os princípios básicos que elas exigem estão a prevenção da discriminação, garantias de transparência, precisão e confiabilidade, bem como o respeito à moralidade social (deve-se observar que esse aspecto é definido pelo Estado).
Na prática, esses padrões impõem uma série de responsabilidades aos provedores de IA. Eles são chamados a ter uma forte governança de IA. Em termos concretos, isso pode ser traduzido na obrigação de reagir a conteúdo ilegal destilado por sua plataforma, suspendendo a geração de conteúdo e sua transmissão, excluindo o que foi publicado e otimizando o modelo para resolver o problema. Além disso, há requisitos para os dados de treinamento do modelo: eles devem ser provenientes de fontes legítimas, respeitar a propriedade intelectual e as informações individuais devem ter o devido consentimento. De acordo com esse último, as medidas também exigem que todos os direitos do usuário relacionados a dados pessoais sejam protegidos.
Há um aspecto interessante da legislação chinesa que, inevitavelmente, tem impacto sobre como esse setor será construído no futuro. Essas regras, contidas nas medidas relacionadas à inteligência artificial generativa, só se aplicam a serviços acessíveis ao público em geral na China. Isso significa que qualquer serviço desenvolvido e usado somente por empresas, instituições públicas ou acadêmicas não está sujeito a essas restrições. Mas também não estão os aplicativos destinados apenas a usuários fora da China.
Isso pode ter um impacto sobre como as empresas chinesas desenvolvem seus aplicativos de IA. Com outras tecnologias, já é comum que os serviços sejam comercializados de uma forma no país e de outra no exterior. De qualquer forma, a regulamentação na China deverá ter um impacto além de suas fronteiras. Muitas empresas líderes são capazes de exportar ferramentas de inteligência artificial para outros mercados.