Muitos pais já imaginaram ou pensaram sobre como seria o rosto dos filhos daqui a alguns anos quando estiverem na adolescência, na vida adulta e até na velhice. Com a popularização da inteligência artificial (IA) generativa, bastam poucos segundos para que essa curiosidade se transforme em uma ou mais imagens.

Plataformas como o ChatGPT, permitem que o usuário faça o upload de uma foto atual da criança ou adolescente e a partir de um comando (o chamado prompt) receba versões projetadas do futuro. O fenômeno que vira e mexe viraliza nas redes, traz consigo um debate necessário sobre privacidade infantil e uso responsável da tecnologia. Junto com o fascínio do que parece uma brincadeira surgem dúvidas sobre privacidade e exposição. Quais os riscos desta prática?

O engenheiro especialista em IA, John Paul Hempel Lima, diretor acadêmico dos cursos de graduação on-line da FIAP, lembra que uma imagem digital tem uma série de informações como metadados, padrões faciais, idade estimada, características do ambiente, expressão emocional e contexto que podem ser processadas e armazenadas de maneiras que os pais não percebem.

Quais são os riscos?

Um dos principais riscos, de acordo com Lima, é perder o controle sobre as imagens, lembrando que esses ambientes não foram projetados para a proteção da infância e a maior parte das plataformas não tem mecanismos robustos para impedir que fotos sejam interceptadas, reaproveitadas ou replicadas em outros ambientes digitais, que podem incluir circulação indevida.

“Há casos documentados de imagens de crianças que acabam sendo reutilizadas em esquemas de fraude, criação de identidades sintéticas e até em comunidades mal‑intencionadas que buscam justamente imagens de crianças para manipulação ou exploração”, explica Lima.

Essas imagens também podem ser utilizadas para o treinamento de sistemas de reconhecimento facial. Isto significa que a foto disponibilizada nas plataformas de IA pode ser incorporada à base de dados interna, replicada em servidores e utilizada para gerar padrões que permanecem por muito tempo no sistema, de acordo com o especialista.

“O impacto futuro é imprevisível. O risco central não é terrorismo digital, mas sim a perda de controle sobre o ciclo de vida da imagem: onde ela será armazenada, por quanto tempo, com quem circulará e que tipo de interpretação algorítmica poderá ser feita a partir dela”, complementa Lima. Em 2024, um relatório da Human Rights Watch (HRW), organização internacional de defesa e pesquisa em direitos humanos, mostrou que 170 fotos de crianças e adolescentes brasileiros estavam sendo usadas para alimentar plataformas de IA, sem o conhecimento ou a autorização dos pais e responsáveis legais. As imagens vieram da raspagem de dados de sites de escolas, blogs pessoais e canais do YouTube.

O que diz a legislação?

Vale lembrar que fotos são dados pessoais identificáveis. No caso de crianças e adolescentes, há marcos de proteção que reconhecem que há uma vulnerabilidade específica, como o artigo 17 do Estatuto da Criança e do Adolescente (ECA) que garante o “direito ao respeito consiste na inviolabilidade da integridade física, psíquica e moral da criança e do adolescente, abrangendo a preservação da imagem, da identidade, da autonomia, dos valores, ideias e crenças, dos espaços e objetos pessoais.”

Além disso, há a Lei Geral de Proteção de Dados Pessoais (LGPD, Lei nº 13.709/2018) que regula o tratamento de dados pessoais no Brasil, físicos ou digitais, por pessoas físicas ou jurídicas, visando proteger os direitos de liberdade e privacidade.

Bianca Orrico, doutora em Estudos da Criança, psicóloga da SaferNet Brasil, ONG que promove os direitos humanos na internet, lembra que uma fotografia pode conter muitas informações: revelar idade, gênero, características físicas, contexto familiar, localização e crianças e adolescentes precisam ter garantido seu direito ao desenvolvimento pleno e saudável e proteção integral.

“Expor imagens sem um cuidado pode gerar danos identificados somente no futuro que ainda, por vezes, podem ser muito difíceis de serem apagados. Por isso é importante refletir antes de compartilhar uma imagem através de alguma plataforma de IA”, diz Bianca.

Segundo a OpenAI, desenvolvedora do ChatGPT, o Brasil está entre os três países que mais usam a ferramenta, e a população brasileira é responsável por trocar cerca de 140 milhões de mensagens por dia por meio da plataforma.

É diferente de postar nas redes sociais?

Embora postar fotos de crianças nas redes sociais e enviá-las para plataformas de inteligência artificial são ambos cenários que envolvem riscos, há diferenças importantes entre eles. Ao publicar nas redes sociais, há uma exposição pública, com circulação entre pessoas, algoritmos de recomendação e anunciantes, um ambiente em que existe algum nível de previsibilidade sobre como o conteúdo pode se espalhar.

Nas plataformas de IA, o risco é de outra natureza, já que nem sempre os termos de uso sobre armazenamento e treinamento estão disponíveis e são claros. “O ponto crítico é que a foto deixa de ser apenas uma postagem e passa a ser um insumo técnico, com potencial de permanecer nos sistemas por muito tempo”, afirma Lima.

A própria lógica de circulação também muda: em vez de se espalhar principalmente entre pessoas, a imagem passa a trafegar por algoritmos, servidores e pipelines de treinamento.

Entretanto, Bianca lembra que as empresas responsáveis pelas redes sociais também têm aproveitado o conteúdo das publicações para o desenvolvimento e treinamento de seus sistemas, de acordo com suas políticas de privacidade e termos de uso.

“É importante configurar e verificar dentro de cada serviço, se você autorizou que aquela imagem fosse utilizada para treinamentos de sistemas, como inteligência artificial. E em ambos os casos, é importante entender que o ponto crítico é perder o controle sobre o uso da imagem da criança e do adolescente”, diz a psicóloga.

Menos exposição, mais proteção

Registrar – e compartilhar – a infância faz parte da vida contemporânea. É compreensível que pode ser difícil se conter e manter aquela imagem fofa das crianças apenas no próprio rolo de foto, quando a vontade é querer exibi-la para o mundo todo.

Mas antes de cair na tentação, há dicas práticas para ajudar as famílias a construir hábitos que protegem a privacidade das crianças e reduzem riscos futuros. Lima sugere priorizar grupos fechados, listas restritas e configurações de privacidade que limitem quem pode visualizar o conteúdo.

Além disso, é importante avaliar o tipo de informação que a imagem revela. “Fotos que mostram uniformes escolares, localização clara, rotina diária ou detalhes da casa aumentam o risco de associação da criança com informações sensíveis. Ambientes neutros, ângulos que não identifiquem lugares específicos e ausência de metadados de localização são decisões simples que reduzem muito a exposição.”

Outro ponto essencial é refletir sobre reconhecimento facial. Lima afirma que quanto mais fotos se tornam públicas, maior a probabilidade de plataformas criarem vínculos e inferências ao longo do crescimento da criança. “Para reduzir essa pegada digital, prefira fotos em que o rosto não esteja totalmente exposto, ou use recursos simples como desfoque de fundo, enquadramento lateral ou recortes que preservem a identidade”, diz Lima.Por fim, vale sempre perguntar se a imagem disponibilizada revela algo íntimo ou sensível e preserva a privacidade e dignidade da criança mesmo daqui a 10 anos. “Esse é o critério mais importante. A infância é uma fase de vulnerabilidade, e a responsabilidade dos adultos é proteger não apenas o presente, mas o futuro digital dessas crianças”, finaliza o especialista.

Leia mais:

Crianças usam IA no dia a dia: como mediar essa interação?