A Administração do Ciberespaço da China lançou uma campanha nacional de quatro meses para fiscalizar serviços e aplicações de inteligência artificial. A iniciativa busca impor regras ao setor, corrigir falhas operacionais e o uso da IA na produção de conteúdo ilegal.
Segundo o órgão regulador, a ação será dividida em duas etapas. A primeira mira irregularidades técnicas e de conformidade em plataformas de IA. Já a segunda foca no uso dessas ferramentas para produzir e disseminar conteúdo ilegal ou enganoso.
Na fase inicial, a autoridade identifica falhas recorrentes. Entre elas, empresas que operam modelos de grande escala sem registro obrigatório, em desacordo com as regras vigentes. Também aparecem problemas na filtragem de conteúdo, que permitem a geração ou armazenamento de material ilegal. Além disso, há falhas na origem dos dados usados no treinamento dos modelos, com uso de conteúdos não autorizados ou sem verificação adequada.
Outro ponto envolve o chamado “envenenamento de dados”, quando agentes manipulam bases de treinamento ou informações públicas para distorcer respostas de sistemas de IA. A ausência de checagem de fontes e de alertas de risco agrava esse cenário. O regulador também aponta descumprimento das normas de identificação de conteúdo sintético, o que dificulta distinguir textos, imagens e vídeos gerados por IA.
A lista inclui ainda o uso indevido dessas tecnologias em atividades ilegais. Casos relatados envolvem ataques cibernéticos, clonagem de voz e imagem sem autorização e uso de avatares digitais para oferecer serviços como consultoria financeira ou médica sem validação. Plataformas de código aberto também entram no radar por falta de controle sobre dados e modelos disponibilizados.
Na segunda fase, o foco muda para o conteúdo gerado. O órgão cita a produção em massa de material considerado “lixo digital”, com erros factuais ou distorções culturais. Também há preocupação com a criação de notícias falsas sobre políticas públicas, crises e relações internacionais, muitas vezes com uso de identidade visual de instituições oficiais para dar aparência de legitimidade.
Outro problema recorrente envolve a geração de conteúdo em áreas sensíveis, como saúde, direito e finanças, sem base verificável. A prática de se passar por terceiros com uso de IA, por meio de troca de rosto ou voz, também aparece como prioridade, sobretudo quando envolve figuras públicas ou uso indevido de imagens, inclusive de pessoas falecidas.
A campanha também prevê punição para conteúdos violentos, sexualizados ou inadequados, além de casos que envolvam menores, como cyberbullying ou produção de material impróprio. O uso de sistemas automatizados para operar contas falsas, inflar engajamento e manipular debates públicos completa a lista de alvos.
A autoridade aponta irregularidades comerciais, como aplicativos falsos de IA, serviços ilegais e cursos que ensinam práticas proibidas. Plataformas que descumprirem as regras poderão sofrer sanções, assim como contas e redes de distribuição envolvidas.
O órgão orienta administrações locais a reforçar a fiscalização, exigir auditorias internas das plataformas e corrigir falhas identificadas. A meta é estabelecer mecanismos permanentes de controle e reduzir riscos associados ao uso de inteligência artificial no ambiente digital chinês.
Fonte: stdaily
