De China se dice que es un caso particular en lo que se refiere a la regulación de la IA. Desde luego, las medidas que se han tomado hasta la fecha —y es de esperar que las que se tomen en el futuro sigan la misma línea— están moldeadas por los mimbres autoritarios del Estado. La censura, presente en toda la legislación relativa a servicios digitales abiertos al público, también se deja notar en las normas emitidas para gobernar la inteligencia artificial. Pese a ello, la mayor parte de la normativa adoptada tiene valor en otros mercados. Vamos a hacer un repaso de cuál es el estado de la regulación de IA en el gigante asiático.
Hace unos años, a partir de 2021, China fue el primer país en aprobar medidas legislativas de nuevo cuño para el ámbito de la inteligencia artificial. Ya antes, en 2017 se puso en marcha el New Generation Artificial Intelligence Development Plan, un programa que detallaba cómo el país podía convertirse en líder en IA para el año 2030. Los aspectos principales de esta iniciativa pasaban por profundizar en el avance de la tecnología, fomentar el talento y ofrecer un marco de desarrollo con garantías éticas.
Para llevar a cabo este plan era necesario establecer medidas que formaran un marco para el desarrollo de la industria. En 2021 se anunció un borrador con una serie de regulaciones dirigidas a los algoritmos que utilizan servicios de recomendación. En aquella fecha este tipo de herramientas de IA se contaban entre las que más impacto tenían en el público general. A sus desarrolladores y operadores se les requería transparencia y responsabilidad, así como un sentido de equidad en aquellos sistemas que pudieran influir en el comportamiento de los usuarios o la opinión pública.
Estos eran los pilares éticos sobre los que asentar la innovación en el área de la IA. La entidad encargada de supervisar su aplicación es la Administración del Ciberespacio de China (CAC, por sus siglas en inglés, Cyberspace Administration of China). Este cuerpo tiene como misión coordinar la regulación de la inteligencia artificial, así como garantizar que la legislación se cumple.
El CAC también es responsable de vigilar que se cumplen ciertas medidas para prevenir usos nocivos de contenido sintético, especialmente imágenes, ya sean estáticas o en vídeo. Se trata de una normativa que aborda concretamente los deepfakes, a quienes impone la obligación de etiquetarlos adecuadamente como contenido artificial. Además, se establecen limitaciones para evitar usos dañinos. La entidad lleva a cabo esta labor en conjunto con el Ministerio de Industria y Tecnología de la Información (MIIT, por sus siglas en inglés).
El entramado legal
Para entender el papel de cada institución a la hora de regular la IA en China, conviene definir las funciones de cada organismo implicado. El Ministerio de Industria y Tecnología de la Información apoya al CAC en la aplicación de la legislación, especialmente a un nivel sectorial. Se ocupa de vigilar las aplicaciones industriales de la IA, así como de controlar los estándares tecnológicos.
Pero existe otro organismo que también tiene voz directa en la regulación. Se trata del Ministerio de Ciencia y Tecnología (MOST, por sus siglas en inglés), cuya implicación directa es necesaria para fomentar la innovación, tanto a nivel público como privado. Colabora con las dos instituciones anteriores para promover la investigación y el desarrollo en el campo de la IA, sin desatender el marco regulatorio y ético.
Son estos tres organismos quienes están implicados en llevar a buen puerto otra de las legislaciones básicas. Hablamos aquí de las medidas internas sobre IA generativa. Entraron en vigor en agosto de 2023 y su objetivo es controlar el desarrollo y uso de servicios de inteligencia artificial generativa. Entre los principios básicos que exigen está la prevención de la discriminación, garantías de transparencia, de precisión y fiabilidad, así como el respecto a la moralidad social (hay que tener en cuenta que este aspecto lo definen desde el Estado).
En la práctica, estas normas imponen una serie de responsabilidades a los proveedores de IA. Están llamados a tener una firme gobernanza de la IA. Llevado a lo concreto, esto puede traducirse en la obligación de reaccionar al contenido ilegal destilado por su plataforma, suspendiendo la generación de contenido y su transmisión, borrando aquello que se haya publicado y optimizando el modelo para resolver el problema. A esto se suman unos requisitos para los datos de entrenamiento de los modelos: deben provenir de fuentes legítimas, respetar la propiedad intelectual y la información persona tiene que tener un consentimiento adecuado. Al hilo de esto último, las medidas también obligan a que se protejan todo derechos de los usuarios relativo a datos personales.
Hay un aspecto interesante en la legislación China, que inevitablemente impacta en cómo se construirá este sector en el futuro. Estas normas, contenidas en las medidas relativas a la inteligencia artificial generativa, solo se aplican para los servicios accesibles al público general dentro de China. Esto quiere decir que cualquier servicio desarrollado y utilizado únicamente por empresas, instituciones públicas o académicas no está sujeto a estas restricciones. Pero tampoco lo están aquellas aplicaciones que solo se destinen a usuarios fuera de China.
Esto puede tener un impacto en cómo desarrollan las compañías chinas sus aplicaciones de IA. Con otras tecnologías ya ocurre que los servicios se comercializan de una forma dentro del país y de otra en el extranjero. En todo caso, la normativa en China está llamada a tener un impacto más allá de sus fronteras. Son muchas las empresas punteras capaces de exportar herramientas de inteligencia artificial a otros mercados.
