HTCinside


Microsoft anuncia autenticador de vídeo para identificar deepfakes

Para combater a proliferação defalsificações profundas, a Microsoft lançou uma nova ferramenta de autenticação de vídeo que pode ser usada para analisar uma imagem estática ou um vídeo para determinar uma porcentagem de probabilidade de que uma mídia tenha sido manipulada artificialmente.

No caso de um vídeo, a Microsoft afirmou que essa porcentagem poderia ser fornecida em tempo real para cada quadro enquanto o vídeo estiver sendo reproduzido. Detecta a linha de mesclagem de tons de cinza profundos e sutis ou elementos desbotados que podem não ser visíveis ao olho humano.

Deepfakes ou mídia sintética podem ser fotos, vídeos ou arquivos de áudio manipulados por inteligência artificial (IA). Detectar falsificações profundas é vital nas próximas eleições dos EUA, de acordo com a Microsoft.

A tecnologia foi criada usando um conjunto de dados público da Face Forensic ++. A Microsoft disse que foi testado com o conjunto de dados DeepFake Detection Challenge, que se acredita ser o modelo líder. para treinar e testar tecnologias de detecção de falsificações recebidas.

“Prevemos que os métodos de geração de mídia sintética continuarão a crescer em complexidade. Como todos os métodos de detecção de IA têm taxas de erro, devemos entender e estar preparados para reagir a falsificações profundas que passam por métodos de detecção.” a empresa disse em um post no blog.

“A longo prazo, portanto, devemos procurar maneiras mais fortes de manter e certificar a autenticidade de artigos de notícias e outras mídias.”

Com algumas ferramentas disponíveis, a Microsoft também introduziu uma nova tecnologia que pode detectar conteúdo adulterado e garantir que a mídia que você está assistindo seja genuína.

A tecnologia consiste em dois componentes. A primeira é uma ferramenta incorporada ao Microsoft Azure que permite que um produtor de conteúdo adicione hashes digitais e certificados ao conteúdo.

“Hashes e certificados vivem com conteúdo como metadados, onde quer que esteja online”, disse a Microsoft.

O segundo é um leitor que pode ser incluído em uma extensão do navegador que verifica certificados e compara hashes com correspondências para determinar a autenticidade.

A Microsoft também fez parceria com a AI Foundation em sua profunda batalha falsa. Como parte da parceria, ambas as partes fornecerão autenticadores de vídeo para organizações envolvidas no processo democrático, incluindo organizações de notícias e campanhas políticas, por meio da iniciativa Reality Defender 2020 da fundação.

O autenticador de vídeo estará disponível inicialmente apenas por meio da iniciativa.

Outra parceria com um consórcio de empresas de mídia conhecido como Project Origin está testando a tecnologia de autenticidade da Microsoft. Uma iniciativa de vários editores e empresas de mídia social, a Trusted News Initiative, também concordou em trabalhar com a Microsoft para testar sua tecnologia.

A Universidade de Washington, a In-House Counterfeit Detection Sensitivity e o USA Today também se uniram à Microsoft para melhorar a alfabetização midiática.

“Ao melhorar a alfabetização midiática, as pessoas podem eliminar a desinformação com base em eventos reais e gerenciar os riscos de falsificações baratas e profundas”, disse a Microsoft. “Conhecer a mídia pode permitir que todos pensemos criticamente sobre o contexto da mídia e nos tornemos cidadãos mais engajados enquanto desfrutamos de sátira e paródia.”

Como parte dessa parceria, haverá uma campanha de anúncio de utilidade pública que convidará as pessoas a “pausar para reflexão” e verificar se a informação vem de uma organização de notícias respeitável antes de compartilhá-la ou promovê-la. nas redes sociais antes das eleições.

Os partidos também lançaram um questionário para os eleitores americanos aprenderem mais sobre mídia sintética.