Um youtuber está sob investigação policial na Coreia do Sul após ser acusado de criar um áudio falso com inteligência artificial (IA) que teria destruído a carreira de um dos atores mais populares do país. O caso, que envolve o youtuber acusado de usar IA falsa contra ator coreano, levanta questões urgentes sobre os limites éticos da tecnologia generativa e o poder de destruição que um único vídeo pode ter.

Segundo as autoridades, o influenciador teria fabricado evidências sonoras para difamar o artista, levando a uma onda de ódio online e ao cancelamento profissional da vítima. A acusação de que o youtuber usou inteligência artificial para difamar um ator na Coreia do Sul chocou a indústria do entretenimento e acendeu um alerta sobre o uso malicioso de deepfakes.

O caso: como a IA generativa foi usada como evidência falsa

A polícia de Seul afirmou que o youtuber, cuja identidade não foi revelada, criou um áudio falso que simulava a voz do ator fazendo declarações polêmicas. O material foi então apresentado como prova em um vídeo que viralizou rapidamente. A criação de áudio falso por IA por um youtuber não apenas manchou a reputação do artista, mas também resultou na perda de contratos publicitários e papéis em dramas de grande audiência.

O que torna este caso particularmente grave é a sofisticação da falsificação. A IA generativa utilizada conseguiu replicar não apenas o timbre da voz, mas também padrões de fala e entonações específicas do ator. Isso fez com que até mesmo pessoas próximas à vítima acreditassem na autenticidade do áudio por dias.

Em um comunicado, a agência do ator afirmou que ele está "profundamente abalado" e que sua saúde mental foi severamente impactada. "Ele perdeu não apenas trabalhos, mas também amizades e a confiança do público", diz o texto.

O impacto da acusação de difamação com IA na Coreia do Sul

A Coreia do Sul tem uma das indústrias de entretenimento mais competitivas do mundo, e a reputação é um ativo frágil. A acusação de que um youtuber usou inteligência artificial para difamar um ator coreano expõe uma vulnerabilidade que muitos artistas temem: a facilidade com que a tecnologia pode ser usada para destruir carreiras.

Especialistas em direito digital apontam que a legislação sul-coreana ainda não está totalmente preparada para lidar com crimes envolvendo IA generativa. Embora existam leis contra difamação e falsificação de provas, a velocidade com que a tecnologia avança supera a capacidade de atualização do sistema jurídico.

O caso também reacendeu o debate sobre a responsabilidade das plataformas de vídeo. O YouTube, onde o conteúdo foi originalmente postado, levou mais de 48 horas para remover o vídeo após os primeiros pedidos de retirada. Para muitos, isso é tempo demais quando a vida de alguém está em jogo.

Alguns dados que ajudam a contextualizar o problema:

  • Estima-se que 90% dos deepfakes online sejam de natureza não consensual ou difamatória
  • A Coreia do Sul registrou um aumento de 300% nos casos de difamação envolvendo IA nos últimos dois anos
  • O ator afetado perdeu contratos avaliados em mais de US$ 5 milhões

O que me preocupa, como observador, é que este não é um caso isolado. Já vi situações similares envolvendo políticos e figuras públicas no Brasil e nos Estados Unidos. A diferença é que, na Coreia do Sul, a cultura do cancelamento é particularmente implacável. Uma vez que a reputação é manchada, mesmo que depois se prove a inocência, o estigma permanece.

E você, já parou para pensar em como seria fácil destruir a vida de alguém com uma simples gravação falsa? A tecnologia que usamos para criar arte e entretenimento também pode ser uma arma poderosa nas mãos erradas.

Para mais informações, consulte a reportagem original da BBC News ou o comunicado oficial da Polícia Nacional da Coreia do Sul.



Fonte: Dexerto