Microsoft lança ferramenta de combate a deepfake
Créditos: Créditos: Microsoft

Microsoft lança ferramenta de combate a deepfake

A empresa lançou duas ferramentas para combater a desinformação

Visando combater a crescente das deepfakes, a Microsoft lançou sua ferramenta de autenticação de vídeos. A ferramenta analisa os vídeos frame a frame para identificar o conteúdo falso.

07/02/2020 às 09:52
Notícia

Twitter começará a identificar fotos manipuladas e deepfakes

Medida visa ajudar a impedir que notícias falsas se espalhem no serviço de microblog

Criada através de inteligência artificial, as deepfakes utilizam algoritmos de machine learning para realizar a manipulação de mídia. Com isso é possível, por exemplo, criar um vídeo de um determinado político fazendo algo que nunca fez ou falando algo que nunca falou, podendo até influenciar uma eleição.

Como o conteúdo é criado por uma inteligência artificial utilizando aprendizado automático, a forma mais eficiente de combate a essa tecnologia é através de outra IA. 

Para esse combate a Microsoft criou o Video Authenticator, uma parte importante para o Programa de Defesa da Democracia. A empresa reforçou que devido ao fato da grande maioria do conteúdo falso ser conteúdo original, isso torna a identificação muito mais difícil.

Visite o site da Microsoft.

Microsoft reforça que a tecnologia não é uma solução a longo prazo, visto que as tecnologias de deepfake estão em evolução, mas o Video Authenticator é uma ferramenta útil para ajudar a identificar em curto prazo, como nas eleições presidenciais nos Estados Unidos, que irão acontecer em Novembro. 

A tecnologia funciona analisando cada quadro de um vídeo, atribuindo a cada imagem uma pontuação de confiança, que é feito através de uma chance percentual do conteúdo ter sido manipulado. Analisando vídeos o Video Authenticator apresenta uma porcentagem em tempo de real daquele frame ter sido manipulado. 

Porém a ferramenta ainda não está 100%, no exemplo disponibilizado pela Microsfot, alguns quadros passaram despercebidos pelo autenticador.

Continua após a publicidade

Esperamos que os métodos de geração de mídia sintética continuem a crescer em sofisticação. Como todos os métodos de detecção de IA têm taxas de falha, temos que entender e estar prontos para responder aos deepfakes que escapam aos métodos de detecção. Assim, a longo prazo, devemos buscar métodos mais fortes para manter e certificar a autenticidade de artigos de notícias e outras mídias. Existem poucas ferramentas hoje para ajudar a garantir aos leitores que a mídia que estão vendo online veio de uma fonte confiável e que não foi alterada.

 

Mesmo que nenhuma tecnologia resolva o desafio de ajudar as pessoas a decifrar o que é verdadeiro, a Microsoft espera que com o Video Authenticator o combate a desinformação fique um pouco mais facilitado. 

A empresa apresentou outra tecnologia para o combate a desinformação. Funcionando em duas etapas, essa tecnologia cria hashes e certificações ao conteúdo, que o acompanham para qualquer lugar que ele vá na internet. A segunda etapa é um leitor dessa informação, que compara as certificações presentes no conteúdo com as suas hashes, dando com alto nível precisão se o conteúdo é autêntico, se foi alterado e quem criou o conteúdo.

Essa tecnologia desenvolvida pela Microsoft Research e Microsoft Azure para programa o Programa de Defesa da Democracia vai alimentar o iniciativa da BBC, chamada de Project Origin.

Via: ZD Net Fonte: Microsoft Blog
User img

Willian Vieira

Willian Ferreira se formou em jornalismo pela Universidade Federal de Santa Catarina em 2019 e começou a estudar Sistemas na Estácio. Desde criança é um aficionado por games, essa paixão acabou despertando o interesse na área de tecnologia. Joga de tudo um pouco, mas tem uma preferencia para jogos de ação, FPS e Fable.

RTX série 30: confira as TECNOLOGIAS que chegam com as novas placas de vídeo da Nvidia

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.