Um caso que evidencia os riscos do uso de inteligência artificial em menores gerou comoção nos Estados Unidos. Dois adolescentes criaram mais de 350 imagens falsas de nudez de suas colegas de classe usando tecnologia deepfake, o que resultou em um processo judicial e graves consequências emocionais para as vítimas.
O incidente ocorreu entre 2023 e 2024 na Lancaster Country Day School, na Pensilvânia, e afetou pelo menos 59 estudantes menores de idade. Segundo as autoridades, os envolvidos, que tinham 14 anos no momento dos fatos, utilizaram fotografias obtidas de redes sociais, anuários escolares e videochamadas para manipulá-las com inteligência artificial.
As imagens foram alteradas para simular nudez e conteúdo sexual, provocando rápida disseminação dentro do ambiente escolar.
Impacto nas vítimas
Durante o julgamento, várias estudantes relataram o impacto psicológico que o caso lhes deixou. Algumas garantiram sofrer de ansiedade, ataques de pânico e medo constante de que as imagens voltem a circular.
“Destruíram minha inocência”, expressou uma das vítimas perante o tribunal.
Outras afetadas inclusive abandonaram a escola e necessitaram de terapia para enfrentar o trauma gerado pela exposição dessas imagens manipuladas.
Consequências legais
Apesar da gravidade do caso, os adolescentes evitaram uma condenação de prisão devido à sua condição de menores de idade. No entanto, o juiz Leonard Brown alertou que, se fossem adultos, teriam enfrentado reclusão.
Como parte da sentença, os jovens deverão cumprir 60 horas de serviço comunitário, pagar uma indenização e não poderão ter contato com as vítimas. Além disso, o caso poderá ser arquivado em dois anos se não reincidirem.
O magistrado também questionou a falta de responsabilidade dos envolvidos, que não ofereceram desculpas durante o processo.
Um caso de alerta sobre os riscos da IA
Este caso reabriu o debate sobre o uso da inteligência artificial, especialmente em ambientes educacionais, onde seu uso inadequado pode resultar em graves consequências legais e emocionais.
Advogados das vítimas já estão analisando possíveis ações judiciais adicionais contra a instituição de ensino e outros atores envolvidos na disseminação do conteúdo.
LEIA TAMBÉM:
Adeus jeans! Calças de cetim prometem conforto e estilo no seu visual
Telas, apego e jogos: o que ajuda e prejudica o cérebro infantil
O caso evidencia como o avanço tecnológico, sem controle nem educação digital adequada, pode se transformar em uma ferramenta de dano, especialmente entre menores de idade.