A ONG Human Rights Watch (HRW) denunciou recentemente o uso não autorizado de fotos de crianças brasileiras em sistemas de inteligência artificial. Um relatório da organização revelou que retratos de crianças e adolescentes foram utilizados para treinar essa tecnologia, sem o consentimento dos envolvidos.

Segundo a HRW, as imagens foram obtidas da internet e integradas a um conjunto de dados chamado LAION-5B. A organização encontrou links para fotos facilmente identificáveis de jovens brasileiros, permitindo a obtenção de informações detalhadas sobre como e onde as fotos foram tiradas, além de listas com nomes e endereços das imagens.

O sistema que agregou essas fotos é administrado pela organização alemã Laion. Em resposta à descoberta da HRW, a Laion confirmou a presença dessas imagens em seu banco de dados e se comprometeu a removê-las. Contudo, a organização negou que os modelos de inteligência artificial treinados com esses dados reproduzam informações pessoais de forma literal.

A Human Rights Watch identificou 170 fotos de crianças provenientes de pelo menos dez estados brasileiros, incluindo Alagoas, Bahia, Rio de Janeiro, Santa Catarina e São Paulo. Essa descoberta levanta sérias preocupações sobre a privacidade e a segurança das crianças, além de evidenciar a necessidade urgente de regulamentações mais rigorosas para o uso de dados pessoais em tecnologias emergentes.