Com uma carreira de três décadas no setor de tecnologia, Carme Artigas foi escolhida como a ponta de lança para liderar os esforços de IA da Espanha no início da década de 2020, atuando como Secretária de Estado de Digitalização e Inteligência Artificial por quase 4 anos, intervalo em que presidiu o Instituto Nacional de Segurança Cibernética e a Agência Espanhola de Supervisão de Inteligência Artificial.
No final desse período, e com a Espanha presidindo o Conselho da União Europeia, ela foi a principal força motriz por trás da Lei de IA, a lei que regulamenta essa tecnologia em nível europeu. Desde outubro do ano passado, ela também é copresidente do Conselho Consultivo das Nações Unidas sobre Inteligência Artificial, cargo que continua ocupando após deixar o governo.
Conversamos com Artigas sobre regulamentação, inovação e como a Europa está tentando combinar os dois diante de tudo o que está por vir com a GenAI.
- Com todos os anos que você está no setor de TIC, você imaginou que estaríamos neste ponto de desenvolvimento em 2024? - Justamente por isso, eu vivi o setor de TIC por muitos anos.
- É exatamente por isso que vivenciei várias ondas de inovação. Vivi o início da Internet em 1995-96. Vivi o início do Big Data em 2006. De fato, criei uma empresa pioneira. Mas o que estamos vivenciando não é mais uma alta taxa de adoção, mas uma hiper-adoção acelerada.
A inteligência artificial está sendo desenvolvida há muitos anos. O outro grande marco foi em 2014 com a aprendizagem profunda. O que a inteligência artificial generativa tem sido no último ano foi realmente um salto quântico em termos de velocidade de adoção e do impacto transformador que ela terá em todos os setores e também na sociedade.
- Considerando a maneira como as coisas estão progredindo na GenAI, você acha que o hiato de seis meses recomendado por alguns especialistas deveria ter sido "adotado"?
- Não, de forma alguma. Em primeiro lugar, isso não é possível, porque não se pode parar a inovação, não se pode parar o desenvolvimento. Pelo contrário. O desenvolvimento não deve parar, ele deve ser acelerado para que o setor possa encontrar soluções para o problema que o próprio setor cria.
Além disso, quando você diz stop.... Quem para? Os bons, os maus, os normais? A pesquisa não precisa parar. O que você tem que parar é parar de lançar produtos comerciais que não estão prontos para serem comercializados. Não se pode parar a P&D. Mas também não se pode lançar um produto no mercado beta dizendo que ele é um produto acabado.
O que estamos fazendo com essa regulamentação europeia não é parar a inovação, não é parar a pesquisa. Entretanto, antes de um produto ser lançado no mercado, ele precisa passar por testes de qualidade. É como se eu introduzisse um medicamento sem análise clínica ou um carro sem airbag e sem freios.
O que aconteceu é que, quando o ChatGPT é lançado, ele é basicamente um produto beta, não um produto acabado, mas é lançado no mercado sem nenhum controle de qualidade. Isso é o que o setor de seguros tem feito nos últimos 40 anos e acho que isso precisa mudar. Para lançar um produto comercial, é preciso passar por uma série de controles, porque o impacto disso é de risco, de segurança, mas também de direitos humanos e fundamentais.
- Com relação à Lei de IA, já se passaram alguns meses desde sua aprovação. Com essa perspectiva atual e a maneira como as coisas evoluíram... Você acha que alguma coisa foi deixada de fora? Há algo que faria sentido ter incluído?
- Não, porque acho que é uma lei absolutamente equilibrada em termos de benefícios e regulamentação. Ela não regulamenta demais, não regulamenta a tecnologia. Ela apenas regulamenta os usos de risco. Mas o mais importante é que essa lei foi projetada de uma maneira completamente diferente. A própria lei contempla os mecanismos de ação. Ou seja, se amanhã surgir outra coisa, como agentes, você pode atualizar uma série de mecanismos, indicadores e padrões de controle de uma forma muito dinâmica. Portanto, a lei foi elaborada com a ideia de que a tecnologia mudará a cada seis meses.
Agora não estamos mais na fase de definição da lei, mas na fase de adoção. E os prazos estão sendo cumpridos. O Escritório de IA foi criado em nível europeu, na Espanha foi criada a Agência Nacional de Inteligência Artificial com um diretor geral e estão sendo feitos progressos nas recomendações e diretrizes para a implementação dessa lei. Acredito que estamos no momento certo. A partir da publicação no Euro Journal, há seis meses para retirar do mercado, se houver, os produtos que se enquadram na categoria de usos proibidos e 24 meses para obrigações de uso de alto risco.
A chave agora não é o design da lei, mas sua implementação. Precisamos aprender com os erros do passado do GDPR e concentrar os esforços dos governos e da Comissão Europeia em ajudar as PMEs a adotarem a lei de uma maneira fácil e não onerosa.
- Na Europa, nós nos colocamos na vanguarda da regulamentação de IA, mas isso também não desacelera um pouco a inovação na região?
- De forma alguma, porque isso não afeta a inovação. A P&D está isenta. O software livre está isento. É só que, antes de chegar ao mercado, preciso encontrar uma qualidade e isso me permite gerar confiança. E quando você gera confiança, gera um mercado. Em outras palavras, qual é o grande problema da IA? Ninguém confia nela.
Nos EUA, você encontra processos judiciais do The New York Times contra a OpenAI. Eles não existem aqui, porque a Lei de IA impõe direitos autorais. Na Europa, a PRISA, o Le Monde e a Axel Springer venderam seu conteúdo à OpenAI para que ela possa cumprir a lei. Portanto, em essência, estou criando um mercado para monetizar os dados desses criadores de conteúdo.
O que estamos tentando fazer é criar segurança para o consumidor e segurança para o cidadão. Os cidadãos podem ter certeza de que, na Europa, a IA não será usada pelos governos para controlar os cidadãos, pois isso é proibido. Tampouco usaremos a IA contra o crime como se fosse Minority Report, porque isso é proibido. Estamos garantindo o impacto sobre os direitos fundamentais. Eu já tenho garantias de que, quando a IA chegar ao mercado, ela não vai me prejudicar, não vai me discriminar, não vai manipular minha mente. Essas são garantias que já estamos definindo na Europa. E se isso se tornar realidade, estaremos oferecendo um mercado muito mais confiável. E se você confiar nisso, você comprará.
Entretanto, o grande problema na Europa nunca foi a legislação, mas sim a fragmentação legislativa. Não tínhamos uma única lei na Europa, tínhamos 27, uma para cada país. O que fizemos nos últimos 5 anos com o GDPR, com a Lei IA, com o DMA... foi tentar ter um único regulamento para toda a Europa sem mudar uma vírgula e que entre em vigor no mesmo dia. Portanto, já estamos criando um "Mercado Único Digital Europeu", que é a chave para sermos competitivos.
O que vejo é que o oposto está acontecendo nos EUA. Temos a Ordem Executiva de Biden, mas ele não pode impô-la de forma generalizada e temos uma lei de IA na Califórnia que é diferente do Texas, da Flórida, de Nova York.... O oposto poderia acontecer com eles, que poderiam acabar em uma situação de fragmentação legislativa. Acredito que na Europa aprendemos a lição e estamos no caminho certo.
- Em um nível mais local, na Espanha, como você está vendo a adoção da GenAI pelas empresas?
- Como sempre, as grandes empresas de nosso país a adotaram rapidamente, mas também precisamos alcançar as PMEs. Essa é a chave. O importante não é que, para sermos competitivos, tenhamos uma ferramenta europeia que concorra com o ChatGPT, porque também teremos isso. Existe a francesa, poderíamos ter uma espanhola...
Mas não é isso que vai fazer a diferença. O que fará a diferença é que 51% das empresas americanas já estão adotando a IA generativa, 70% das empresas chinesas e apenas 15% das empresas europeias. É aí que temos que colocar nossos esforços, na adoção, no uso desses modelos de linguagem para casos específicos, para setores verticais, para encontrar soluções para problemas reais.
A geração de negócios virá da inovação derivada desses modelos nos setores existentes e tradicionais, que, sem dúvida, serão impactados por essa inteligência artificial generativa que permitirá um nível sem precedentes de hiperautomação e uma grande disrupção. A chave está nas aplicações verticais da IA, não tanto nos modelos gerais.
- E como estamos indo na Espanha em termos de colaboração público-privada, Carme?
- Acho que fomos pioneiros em todas essas iniciativas em nível europeu, com vários planos e programas, inclusive alguns para que as PMEs recebam subsídios para aplicar a IA, mas nos falta muito conhecimento.
Todos estão começando ao mesmo tempo. As pessoas precisam ser treinadas nas novas habilidades que esses novos recursos exigirão, e a IA não vai interromper o trabalho das pessoas da noite para o dia, mas as pessoas que sabem como usar a IA podem ficar à frente das pessoas que não sabem como usá-la. Portanto, há um grande desafio em treinar essas habilidades e um grande desafio para que as grandes indústrias espanholas sejam a força motriz por trás da adoção dessa IA geradora e sejam competitivas em nível global, e para que as PMEs não sejam deixadas para trás.
- Está claro que a IA generativa está marcando uma revolução, mas você não acha que também estamos em um momento de bolha em que todos estão "se vestindo" com IA, vendendo coisas com IA, que há algumas startups que colocam esse rótulo em si mesmas, etc.?
- Sim, obviamente. Se você quiser que eles invistam, terá que se vender da melhor maneira possível, mas, de qualquer forma, será a inteligência dos fundos de investimento que distinguirá o bom do ruim. O importante é que há uma grande oportunidade e que há uma grande quantidade de mundos a serem explorados, que há muitas e muitas oportunidades de aplicar isso em setores específicos.
Não acho que seja uma bolha, no sentido de que existe uma bolha em que você não sabe onde está o valor. Acho que há uma grande oportunidade para a disrupção, muitos casos de uso em que muitas coisas podem ser contribuídas em áreas como saúde, acessibilidade, educação, em qualquer setor de atividade. Mas isso também deve ser acompanhado de limites éticos. Há também grandes oportunidades no campo da segurança.
Temos a obrigação de garantir que nenhuma ideia de um empresário espanhol ou europeu seja deixada de lado por não conseguir financiamento. Acredito que é nesse ponto que devemos articular mecanismos, como os fundos que já estão sendo fornecidos para que a União Europeia lidere essa revolução. Não há nada que nos impeça de fazer isso.
- Como Carme Artigas imagina que será nosso futuro graças à IA daqui a 5 anos? O que mais lhe preocupa ou apaixona nessa tecnologia?- O futuro não está escrito.
- O futuro não está escrito. Nós o decidimos todos os dias com nossas escolhas e nossas ações. Portanto, essa imagem de que não temos escolha, de que é uma verdade inevitável, de que um cenário distópico está chegando é absolutamente falsa. Nós não criamos esse cenário inevitável para nós mesmos.
A IA traz grandes benefícios, e o essencial é que saibamos distribuir os benefícios e os custos de forma equitativa na sociedade, de modo que não apenas alguns fiquem com os benefícios e outros com os custos. Temos que nos esforçar para garantir que esse desenvolvimento tecnológico sem precedentes seja ético, que não retire direitos e garantias fundamentais.
A Europa tem um papel muito importante a desempenhar para garantir tudo isso. Temos princípios e valores que estamos projetando para o resto do mundo. Eu sempre digo que a IA europeia não é um padrão tecnológico, não é um padrão jurídico, é um padrão moral. Estamos dizendo ao mundo o que queremos que ela seja ou não seja.
Pelo meu trabalho nas Nações Unidas, onde estamos vendo uma perspectiva global e a necessidade de que isso não seja regulamentado apenas em nível nacional, mas que haja compromissos em nível global, que não vamos ignorar os direitos humanos ou o direito internacional, acho que há uma grande oportunidade de capacitação também no sul global.
A vantagem que temos aqui é que tudo o que era a tradicional exclusão digital - como permitir que pessoas sem recursos ou sem educação ou pessoas mais velhas acessem este mundo - agora está resolvido. E não há barreira de entrada, porque todos podem falar. Qualquer pessoa pode ter acesso a esses benefícios. O que temos que garantir é que isso não seja controlado por quatro pessoas, que elas não tenham caixas pretas, que haja mecanismos de transparência e mecanismos de controle.
