Organização internacional encontrou 170 imagens de crianças em banco de dados para treinamento de ferramentas de IA.
Uma pesquisa da organização internacional Human Rights Watch descobriu o uso de fotos pessoais de crianças brasileiras por ferramentas de inteligência artificial (IA). Segundo o relatório, as fotos foram obtidas de sites e redes sociais sem autorização.
Essa prática levanta preocupações sobre a privacidade e segurança dos menores brasileiros na era digital. A proteção dos dados e da identidade dos jovens brasileiros é essencial para garantir um ambiente online seguro e respeitoso. A conscientização sobre os riscos e a necessidade de consentimento é fundamental para proteger as crianças brasileiras de possíveis abusos e violações de privacidade.
Desafios na Proteção de Crianças Brasileiras na Era Digital
Uma entidade realizou um levantamento e encontrou 170 fotos de crianças brasileiras em diferentes estados do país. Essas imagens capturam momentos especiais, como nascimentos de bebês, festas de aniversário e apresentações escolares. O banco de dados onde estão armazenadas essas fotos é chamado LAION-5B e é utilizado para o treinamento de ferramentas de inteligência artificial.
Apesar de representarem apenas uma pequena porcentagem do vasto acervo de mais de 5 bilhões de imagens do banco, a descoberta acende um alerta. Algumas dessas fotos foram compartilhadas por menores, jovens e brasileiros em blogs pessoais e plataformas de compartilhamento de fotos e vídeos, há anos, e até mesmo uma década atrás, conforme apontado pela organização.
Artigos Relacionados
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destaca que a inteligência artificial possibilita a criação rápida e fácil de imagens realistas, o que pode ser usado de forma nociva para a criação de deepfakes. Essa tecnologia permite a manipulação de vídeos e fotos, como a troca de rostos e vozes, representando um risco para a privacidade e segurança das crianças brasileiras.
A Human Rights Watch ressalta que as fotos das crianças brasileiras não são facilmente acessíveis online e foram compartilhadas antes mesmo da existência do banco de imagens. Isso levanta preocupações sobre a proteção da privacidade dos usuários e a responsabilidade das grandes empresas e redes sociais nesse cenário.
Diante disso, a instituição alemã responsável pelo LAION-5B se comprometeu a remover as fotos pessoais das crianças encontradas, reconhecendo a falha na proteção dos dados. A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, destaca a importância de aplicar a legislação no ambiente digital para proteger os usuários, especialmente as crianças e adolescentes, que são os mais vulneráveis a essas questões.
Fonte: @ Agencia Brasil
Comentários sobre este artigo