O regresso às aulas foi um pesadelo para duas dezenas de adolescentes em Almendralejo, na província espanhola da Estremadura. Descobriram que estavam a circular entre os colegas fotografias e vídeos pornográficos com as suas imagens, num caso que marcou o debate público em Espanha nos últimos dias. Com a investigação em aberto e novas denúncias a surgirem diariamente, o que se sabe até agora é que um grupo de dez menores usou aplicações gratuitas de inteligência artificial para, através de fotografias dos perfis de Instagram e WhatsApp das vítimas, criar imagens virtuais usadas para os vídeos.
Por curioso que pareça, os juristas espanhóis dividem-se no enquadramento penal do caso. Enquanto alguns consideram ser evidente a violação da intimidade e a utilização de imagens não autorizadas, outros alegam haver uma inaplicabilidade da lei pelo facto de os rostos das adolescentes serem reais, mas os corpos nus visíveis nos vídeos não. No limite, o argumento é de que nada do que se expõe e replica é real.
Apesar de as jovens e as mães que se juntaram nas denúncias relatarem a vergonha e a violência dos comentários e piadas dos colegas, não foi acionado o protocolo de bullying dos colégios envolvidos. Houve, portanto, um curioso paradoxo mediático e social: o caso originou centenas de notícias e abalou o país, mas de certa forma levantou dúvidas no plano da ação. Estamos habituados a lidar com “nudes” e pornovingança, mas entramos agora no uso do “deepfake” no domínio da intimidade.
Precisaremos de discutir política e socialmente a regulação (e a própria Comissão Europeia está a demorar muito a tomar decisões), mas temos um desafio ainda maior na educação para um uso consciente e crítico da inteligência artificial. A geração nascida na era das redes e aplicações, a geração mais preparada de sempre para lidar com tecnologia, corre o risco de ser atraiçoada por ela. A multiplicação de aplicações e mundos virtuais é imparável. Cabe-nos decidir o que queremos e conseguimos fazer com eles.
* Inês Cardoso - Jornal de Notícias -24 setembro, 2023