Drone engana IA de carro projetando placas de trânsito falsas
Créditos: Estadão | Zoom

Drone engana IA de carro projetando placas de trânsito falsas

A empresa responsável pelo sistema defende que não há falhas

O [email protected] Team demonstrou recentemente uma brecha na inteligência artificial (IA) do ADAS (Sistema Avançado de Assistência ao Motorista) Mobileye 630 PRO instalado em um Renault Captur. O detalhe interessante é que para isso a equipe usou um drone projetando placas de rua.

General Motors pretende usar pneus sem ar e à prova de furos em 2024

No vídeo abaixo, podemos ver a situação: o drone projeta uma placa de 90km/h na parede de um prédio no momento em que o carro aparece. O limite de velocidade do local, de acordo com o que é relatado, era 30km/h, mas o ADAS considera a projeção como algo real e avisa o limite errado.

Um fator que pode deixar o motorista "mais tranquilo" é que o Mobileye 630 PRO é um sistema nível 0, ou seja, não vai acelerar ou frear o carro sozinho. Ben Nassi,estudante de PhD e membro da equipe que fez o experimento, foi ainda mais fundo no trabalho acadêmico que o grupo universitário preparou. Alguns pontos interessantes são:

03/05/2019 às 18:57
Notícia

Bell Nexus é um drone táxi híbrido com capacidade de decolage...

Responsável pelo protótipo, Bell Helicopter pretende lançar versão final dentro de 2 anos

  • A inteligência artificial deixou passar informações que eram importantes e assimilou rapidamente outras de cor e tamanho errado.
  • O tempo necessário para o ADAS ser enganado foi 100 milissegundos - o que não é suficiente para muitos humanos sequer encontrarem o sinal falso.
  • Foi mais fácil enganar o sistema no final da tarde ou à noite, mas as chances de ter acontecido em ambientes melhor iluminados não desaparecem.

O ArsTechnica ainda menciona que, por não ter alterações físicas no ambiente, não existiria uma cadeia de evidências para possíveis ataques. Além disso, ninguém precisaria de fato estar no lugar.

Quando a Mobileye foi questionada, os executivos da empresa disseram que a situação não era reconhecida em sua delimitação de falhas. Segundo o ArsTechnica, eles limitam a definição a casos que não se espera que um humano reconheça como ataque. A empresa insistiu que não existem vulnerabilidades e que o sistema ainda seria suficiente para carros semi-autônomos que dependessem apenas de outros recursos como GPS para evitar leituras erradas.

Continua após a publicidade
Via: ArsTechnica
User img

Saori Almeida

Saori Almeida é natural do Rio Grande do Sul, técnica em administração formada pelo Centro Tecnológico de Caxias do Sul (CETEC) e estudante de Jornalismo na Universidade Federal de Santa Catarina (UFSC). Gosta da cultura asiática e nerd no geral e tem interesse crescente por tecnologia e games desde pequena - gosto que se intensifica diariamente na redação.

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.