China quer regular os “humanos digitais” e as regras vão muito além do que se esperava
O boom das plataformas de companhia virtual chegou à mesa do
regulador chinês, com a Administração do Ciberespaço da China (CAC) a publicar
no passado dia 3 de abril um conjunto de regulamentos
preliminares para governar os chamados “humanos digitais”. Estas são
entidades virtuais com aparência e comportamento humanos, capazes de manter
conversas, simular emoções e criar laços prolongados com os utilizadores.
O documento foi colocado em consulta pública até 6 de maio,
mas o seu conteúdo já está a gerar atenção internacional. A própria CAC
enquadrou a questão em termos que vão além da regulação setorial, afirmando que
“a governação dos humanos virtuais digitais já não é meramente uma questão de
normas industriais, mas tornou-se um problema científico estratégico que diz
respeito à segurança do ciberespaço, ao interesse público e ao desenvolvimento
de qualidade da economia digital.”
As regras propostas assentam em vários pilares, sendo o mais
imediato a da obrigação de identificação. Todo
o conteúdo que envolva um humano virtual terá de ostentar, de forma permanente
e visível, a etiqueta “humano digital”. Desta forma evita-se que
os utilizadores fiquem na dúvida sobre se estão a interagir com uma pessoa real
ou com uma construção de inteligência artificial (IA). A exigência parece
simples, mas representa uma mudança significativa para plataformas cujo valor
comercial assenta precisamente na ilusão de autenticidade.
A proteção de menores ocupa a parte mais detalhada do
regulamento, com a proposta a proibir a oferta
de relações íntimas virtuais a menores de 18 anos, incluindo figuras
parentais ou parceiros românticos simulados. São igualmente proibidos serviços
que possam induzir a gastos excessivos, encorajar comportamentos prejudiciais
ou afetar negativamente a saúde física e mental dos mais jovens. As plataformas
que forneçam serviços de companhia emocional a menores terão ainda de obter
consentimento expresso dos encarregados de educação.
Juntamente com essa autorização, as plataformas são
obrigadas a disponibilizar ferramentas de controlo parental, a integrar um
“modo para menores” com lembretes periódicos de que o interlocutor não é
humano, bem como aplicar limites de tempo de utilização. Outro dos temas mais
debatidos está relacionado com os procedimentos em situações de crise. Sempre
que um utilizador manifeste intenções de suicídio ou de automutilação, os
fornecedores de serviço são obrigados a transferir a conversa para um operador
humano e a contactar os familiares ou os contatos de emergência do utilizador.
Esse tipo de contatos será obrigatório tanto para o registo
de utilizadores menores como de idosos. O regulamento também obriga à criação
de um mecanismo de alerta para utilizações prolongadas. Sempre que o tempo de
utilização contínua ultrapassar as duas horas, a plataforma é obrigada a emitir
um aviso para que o utilizador faça uma pausa. No plano dos dados e da
identidade, as regras são igualmente restritivas.
Fica proibida a criação de
humanos digitais com recurso a informações pessoais de terceiros sem
consentimento explícito, bem como a utilização de avatares virtuais
para contornar sistemas de verificação de identidade. Esta é uma referência
obrigatória para evitar a criação de situações de fraude e do uso de IA para
evasão de controlos. O regulamento proíbe ainda explicitamente que humanos
digitais difundam conteúdo que ponha em causa a segurança nacional, incite à
subversão do poder do Estado ou promova a separação territorial.
Todas as plataformas com mais de um milhão de utilizadores
registados ou 100 mil utilizadores ativos mensais terão ainda de submeter
relatórios de avaliação de segurança às autoridades. O timing da criação destas
regras é particularmente relevante, já que no mês passado o Estado Chinês tinha
formalizado um novo plano de cinco anos relativamente à suas ambições na adoção
da IA em toda a economia. Desta forma, a China não só aposta em pleno na
tecnologia, como estabelece regras claras para que o seu uso seja controlado e
seguro.
Comentários
Enviar um comentário