Deepfake e os perigos ao Estado Democrático de Direito

Já é de amplo conhecimento que estamos vivendo uma grave ditadura das chamadas fake news. Cada vez mais elaboradas, as notícias falsas tem o objetivo de entorpecer nossa capacidade de entendimento dos acontecimentos e assim, viciar nossas decisões, prejudicando sobremaneira a convivência em sociedade.

As fake news, que não ganharam um adversário à altura, ao contrário, estará acompanhada nos próximos anos de uma nova tecnologia para usurpação da verdade: os deepfakes.

Imagine uma combinação de inteligência artificial, mapeamento facial e uma enorme mente criminosa, para produzir vídeos e áudios falsos, com pessoas fazendo e dizendo coisas que na verdade nunca fizeram. São vídeos que podem gerar acusações de adultério, espionagem industrial, racismo, enfim, uma infinidade de possibilidades, em que a audiência, sem um olhar técnico, jamais acreditaria que se trata de uma montagem.

Até mesmo se a farsa for descoberta, a avalanche contra a reputação de uma pessoa, já não poderia ser desfeita.

O grande perigo, no entanto, é exatamente o que vimos acontecer com as fake news: seu uso político-social para causar qualquer prejuízo ao Estado Democrático de Direito e até mesmo à segurança do país. A viralidade das redes sociais é muito mais eficiente para a propagação dos crimes do que na divulgação das erratas.

Políticos, artistas, jornalistas, pesquisadores, professores, advogados, todos com algum grau de atividade pública estão sujeitos a, através das deepfakes, serem tidos como criminosos, gerando viciada comoção pública e abertura injusta de processos judiciais, de natureza civil e criminal. Empregos podem ser perdidos, resultados eleitorais mudados e para os adeptos ao mercado financeiro, até mesmo este reagiria negativamente, diante de imagens e áudios manipulados.

Mas a possibilidade de danos é muito maior. O que aqui apresento, não passa das primeiras impressões. É preciso prever também os impactos de longo prazo: todo o sistema social e político, incapaz de impedir as fakes news e as deppfakes estaria em descrédito pela desconfiança da população em seus funcionamentos efetivos. E quando a democracia entra em descrédito, só se imagina o autoritarismo dos mais toscos para substituí-la.

Além do mais, softwares cada vez mais populares e fáceis de baixar na internet colaboram para que estes sistemas estejam acessíveis. Em plataformas como o Reels do Instagram e o Tik Tok, já são possíveis visualizar pequenos vídeos produzidos com tecnologia deepfake; muitos deles produzidos por crianças e adolescentes.

Assim é preciso, com as lições drásticas e acontecimentos sem precedentes na história da humanidade causados pelas fake news que uma força tarefa séria, mundial, de criação de leis rígidas contra a produção e divulgação destes materiais sejam urgentemente debatidas e criadas, punindo-se rigorosamente quem causar danos individuais ou em larga escala através das deepfakes.

--------------------------------

Luiz Gustavo Saboya de Castro Mota é advogado em Teófilo Otoni – MG. Sócio fundador do escritório Saboya de Castro & Cimini Consultoria Jurídica. Mestrando em Filosofia e Ética pela UFVJM. Especialista em Direito Constitucional e Gestão Pública pelo IFNMG. Ex-Conselheiro da OAB. Instagram @eugustavodecastro