Drone engana IA de carro projetando placas de trânsito falsas
Créditos: Estadão | Zoom

Drone engana IA de carro projetando placas de trânsito falsas

A empresa responsável pelo sistema defende que não há falhas

O [email protected] Team demonstrou recentemente uma brecha na inteligência artificial (IA) do ADAS (Sistema Avançado de Assistência ao Motorista) Mobileye 630 PRO instalado em um Renault Captur. O detalhe interessante é que para isso a equipe usou um drone projetando placas de rua.

General Motors pretende usar pneus sem ar e à prova de furos em 2024

No vídeo abaixo, podemos ver a situação: o drone projeta uma placa de 90km/h na parede de um prédio no momento em que o carro aparece. O limite de velocidade do local, de acordo com o que é relatado, era 30km/h, mas o ADAS considera a projeção como algo real e avisa o limite errado.

Um fator que pode deixar o motorista "mais tranquilo" é que o Mobileye 630 PRO é um sistema nível 0, ou seja, não vai acelerar ou frear o carro sozinho. Ben Nassi,estudante de PhD e membro da equipe que fez o experimento, foi ainda mais fundo no trabalho acadêmico que o grupo universitário preparou. Alguns pontos interessantes são:

03/05/2019 às 18:57
Notícia

Bell Nexus é um drone táxi híbrido com capacidade de decolage...

Responsável pelo protótipo, Bell Helicopter pretende lançar versão final dentro de 2 anos

  • A inteligência artificial deixou passar informações que eram importantes e assimilou rapidamente outras de cor e tamanho errado.
  • O tempo necessário para o ADAS ser enganado foi 100 milissegundos - o que não é suficiente para muitos humanos sequer encontrarem o sinal falso.
  • Foi mais fácil enganar o sistema no final da tarde ou à noite, mas as chances de ter acontecido em ambientes melhor iluminados não desaparecem.

O ArsTechnica ainda menciona que, por não ter alterações físicas no ambiente, não existiria uma cadeia de evidências para possíveis ataques. Além disso, ninguém precisaria de fato estar no lugar.

Quando a Mobileye foi questionada, os executivos da empresa disseram que a situação não era reconhecida em sua delimitação de falhas. Segundo o ArsTechnica, eles limitam a definição a casos que não se espera que um humano reconheça como ataque. A empresa insistiu que não existem vulnerabilidades e que o sistema ainda seria suficiente para carros semi-autônomos que dependessem apenas de outros recursos como GPS para evitar leituras erradas.

Via: ArsTechnica
User img

Saori Almeida

Saori Almeida é natural do Rio Grande do Sul, técnica em administração formada pelo Centro Tecnológico de Caxias do Sul (CETEC) e estudante de Jornalismo na Universidade Federal de Santa Catarina (UFSC). Gosta da cultura asiática e nerd no geral e tem interesse crescente por tecnologia e games desde pequena - gosto que se intensifica diariamente na redação.

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.

REMOTE ID para DRONES - Vai mudar tudo se proposta for aceita sem alterações

REMOTE ID para DRONES - Vai mudar tudo se proposta for aceita sem alterações

Nova regulamentação está sendo discutida nos EUA e deverá ser replicada para o resto do mundo


Vídeo mostra carro da Tesla detectando sinal vermelho e parando sozinho

Vídeo mostra carro da Tesla detectando sinal vermelho e parando sozinho

Função Autopilot dos carros dá mais um passo na direção certa


O que funcionários da DJI pensam sobre o CEO e abordagem da empresa?

O que funcionários da DJI pensam sobre o CEO e abordagem da empresa?

Artigo mostra que fabricante chinesa continua com conflitos políticos


Veja drone voando com o incrível sistema de prevenção dinâmica de obstáculos

Veja drone voando com o incrível sistema de prevenção dinâmica de obstáculos

Drone conseguiu desviar de diversas bolas que vieram em sua direção


Pesquisadores da Austrália estão trabalhando em drones para detecção do Coronavírus

Pesquisadores da Austrália estão trabalhando em drones para detecção do Coronavírus

Drone poderá monitorar a temperatura e a frequência cardíaca e respiratória, e detectar quando alguém espirrar ou tossir