Instagram usa IA para alertar usuários sobre possíveis legendas ofensivas

Instagram usa IA para alertar usuários sobre possíveis legendas ofensivas

Novo recurso deve chegar em países selecionados primeiro

O Instagram está lançando um novo recurso projetado para ajudar os usuários, avisando -os antes de publicarem legendas possivelmente ofensivas. Caso o Instagram detecte uma descrição de foto ou vídeo que possa ofender alguém, a plataforma vai mostrar um alerta na tela do usuário solicitando a mudança de frases ou palavra. O sistema de alerta é totalmente automatizado, com base em dados coletados anteriormente e pesquisas sobre bullying.

06/12/2019 às 10:05
Notícia

Instagram passa a pedir data de nascimento de novos usuários

Medida ajuda a personalizar a experiência do usuário e proteger os jovens, diz a rede social em nota

Essa implementação é um recurso semelhante ao que o Instagram lançou em julho, voltado para a seção de comentários, que detectava automaticamente ofensas. O Instagram vai usar inteligência artificial (IA) para detectar a linguagem, avisar o usuário e "incentivar interações positivas".

É claro que o usuário pode ignorar a sugestão da plataforma e publicar um comentário ou legenda ofensiva. "Como parte de nosso compromisso de longo prazo de liderar a luta contra o bullying online, desenvolvemos e testamos a IA que pode reconhecer diferentes formas de bullying no Instagram", declarou a empresa em seu blog.

No início deste ano, lançamos um recurso que notifica as pessoas quando seus comentários podem ser considerados ofensivos antes de serem postados. Os resultados foram promissores e descobrimos que esses tipos de avisos podem incentivar as pessoas a reconsiderarem suas palavras quando tiverem uma chance.

O recurso do Instagram com o alerta de legendas ofensivas ainda está em teste e vai chegar primeiro em "países selecionados". Após o teste na plataforma, o "filtro" da rede social deve chegar nos mercados globais nos meses seguintes.

Via: Venture Beat
User img

Mariela Cancelier

Mariela é jornalista pela Universidade Federal de Santa Catarina e gosta de jogos de luta e MOBAs. Foi estagiária do Adrenaline e Mundo Conectado e atualmente é redatora freelancer em ambos os sites.

Conheça o Luna! O novo serviço de STREAMING de JOGOS da Amazon

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.