A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destacou a facilidade com que a inteligência artificial pode criar imagens e cenas realistas em questão de segundos, abrindo espaço para o desenvolvimento de deepfakes nocivos. Os deepfakes são técnicas que permitem a alteração de vídeos e fotos por meio de IA, podendo trocar rostos e vozes de pessoas em conteúdos audiovisuais.
A organização ressaltou que as fotos das crianças brasileiras não estão disponíveis publicamente e foram postadas há anos, antes da criação do banco de imagens. Isso revela uma falha por parte de grandes empresas e redes sociais em proteger a privacidade dos usuários. A instituição alemã responsável pelo banco de dados LAION-5B confirmou a presença das fotos pessoais das crianças e comprometeu-se a removê-las, contestando que os modelos de IA treinados poderiam reproduzir dados pessoais literalmente.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, ressaltou a importância de aplicar a legislação no ambiente virtual para proteger os usuários, especialmente crianças e adolescentes. Segundo ela, é fundamental garantir o cuidado com esses públicos diante dos desafios apresentados pela inteligência artificial. Esta descoberta levanta questões sobre a privacidade e segurança dos usuários na internet, destacando a necessidade de proteger os dados pessoais de forma eficaz.