Organização internacional identificou 170 imagens em banco de dados usando inteligência artificial e ferramentas de organização.
Uma pesquisa da organização internacional Human Rights Watch encontrou o uso de fotos pessoais de crianças brasileiras por ferramentas de inteligência artificial (IA). Segundo o relatório, as fotos foram coletadas de plataformas online e redes sociais sem autorização.
Esse incidente levanta preocupações sobre a proteção da privacidade dos menores e a necessidade de regulamentações mais rígidas. As pequenas vítimas dessa violação de privacidade merecem medidas eficazes para garantir sua segurança online.
Preocupações com as Crianças Brasileiras na Era Digital
A entidade responsável pelo levantamento encontrou 170 fotos de crianças brasileiras em diferentes situações, espalhadas por pelo menos 10 estados do país. Essas imagens capturam momentos especiais, desde o nascimento de bebês até festas de aniversário e apresentações em escolas. O banco de dados onde estão armazenadas essas fotos, conhecido como LAION-5B, é fundamental para o treinamento de ferramentas de inteligência artificial.
Apesar de representar um percentual baixo em comparação com o vasto acervo de mais de 5 bilhões de imagens do banco, a descoberta levanta um alerta importante. Algumas dessas fotos foram compartilhadas por menores, infantes e seus familiares em blogs pessoais, sites e plataformas de compartilhamento de fotos e vídeos. Algumas dessas postagens datam de anos atrás, e algumas até mesmo de uma década.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destaca que a inteligência artificial possibilita a criação rápida e gratuita de imagens e vídeos realistas. Isso abre espaço para a produção de deepfakes, que são manipulações digitais prejudiciais e não consensuais. Essas deepfakes podem ser utilizadas para alterar rostos e vozes em vídeos, criando conteúdo enganoso.
É preocupante que as fotos das crianças brasileiras não estejam facilmente acessíveis online, mas ainda assim tenham sido utilizadas para treinar modelos de IA. Isso levanta questões sobre a proteção da privacidade e a responsabilidade das grandes empresas e redes sociais em garantir a segurança dos usuários.
A organização envolvida informou que a instituição alemã responsável pelo LAION-5B reconheceu a presença das fotos pessoais das crianças e se comprometeu a removê-las do banco de dados. No entanto, a LAION ressaltou que a responsabilidade de remover fotos pessoais da internet recai sobre as crianças e seus pais, como forma mais eficaz de proteção contra o uso indevido.
Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, destaca a importância de aplicar a legislação também no ambiente digital para proteger os usuários, especialmente as crianças brasileiras. Ela ressalta a necessidade de garantir cuidados específicos para esse público, considerando os impactos da inteligência artificial e dos desafios digitais em suas vidas.
Fonte: @ Agencia Brasil
Comentários sobre este artigo