Decisão do tribunal de São Paulo ocorreu no início de junho e ainda permite recurso. Defesa do X cita artigo do Marco Civil da Internet, atualmente em debate no STF; entenda. Justiça de SP decide à favor de Gretchen e contra X. Reprodução A Justiça de São Paulo decidiu a favor da cantora Gretchen e contra o X em um processo sobre a divulgação de um vídeo falso da artista feito com inteligência artificial. A rede social terá que manter o conteúdo fora do ar e informar os dados do usuário que divulgou a publicação. O X ainda pode recorrer. Segundo o processo, o vídeo falso usa a imagem de Gretchen para mostrar a cantora convidando o público para um suposto show no “Cabaré da Cinderela”, onde haveria atividades sexuais. A gravação, que circulou em 2024, também faz referência a um momento da vida pública de Gretchen: a campanha que ela fez para a Prefeitura de Itamaracá (PE), por volta dos anos 2010. Trata-se de um deepfake, ou seja, um vídeo criado com inteligência artificial que usa a imagem e a voz de uma pessoa real, mas altera o que ela diz. A assessoria de Gretchen informou que entrou na Justiça por conta do vídeo em abril. A decisão judicial foi publicada no dia 3 de junho de 2025. Durante o processo, o X citou o artigo 19 do Marco Civil da Internet. Ele afirma que uma rede social só pode ser responsabilizada por conteúdo publicado por terceiros caso descumpra uma ordem judicial para removê-lo. Esse é o mesmo artigo que está em debate atualmente no Supremo Tribunal Federal (STF). Esta semana, inclusive, a corte formou maioria para alterar esse entendimento e permitir que plataformas sejam responsabilizadas por conteúdos ilegais mesmo antes de uma ordem judicial. Responsabilização das redes sociais é avanço, mas faltam detalhes, dizem especialistas No caso de Gretchen, a juíza Camila Rodrigues Borges de Azevedo, da 19ª Vara Cível, já havia determinado que o X retirasse o vídeo do ar — o que foi feito. Por isso, a rede não foi punida com base no artigo 19. Agora, além de manter o conteúdo fora do ar, o X terá que entregar o endereço de IP do responsável pela conta que publicou o vídeo. O IP (sigla para “Internet Protocol”) é um número que identifica dispositivos conectados à internet e pode ajudar na localização do autor da postagem. O g1 procurou o X para comentar a decisão e aguarda resposta. Veja mais: G1 Explica: Deepfake Vídeos feitos com IA do Google bombam nas redes sociais
Fonte da Máteria: g1.globo.com
A Justiça de São Paulo decidiu a favor de Gretchen, determinando que o X remova um vídeo falso da cantora, criado com inteligência artificial, e forneça os dados do usuário que o publicou.
Era um deepfake, um vídeo criado com inteligência artificial que usava a imagem e a voz de Gretchen para mostrá-la convidando para um show com conotação sexual, usando também referências a sua campanha política passada.
O artigo 19, que trata da responsabilidade das redes sociais por conteúdo publicado por terceiros. Atualmente, este artigo está em debate no STF.
Porque a juíza já havia determinado a remoção do vídeo antes da decisão final. Como o X cumpriu a ordem judicial, não foi penalizado com base neste artigo.
O X terá que fornecer o endereço de IP do usuário que publicou o vídeo falso, o que pode auxiliar na identificação e localização do responsável.
