Drone engana IA de carro projetando placas de trânsito falsas
Créditos: Estadão | Zoom

Drone engana IA de carro projetando placas de trânsito falsas

A empresa responsável pelo sistema defende que não há falhas

O [email protected] Team demonstrou recentemente uma brecha na inteligência artificial (IA) do ADAS (Sistema Avançado de Assistência ao Motorista) Mobileye 630 PRO instalado em um Renault Captur. O detalhe interessante é que para isso a equipe usou um drone projetando placas de rua.

General Motors pretende usar pneus sem ar e à prova de furos em 2024

No vídeo abaixo, podemos ver a situação: o drone projeta uma placa de 90km/h na parede de um prédio no momento em que o carro aparece. O limite de velocidade do local, de acordo com o que é relatado, era 30km/h, mas o ADAS considera a projeção como algo real e avisa o limite errado.

Um fator que pode deixar o motorista "mais tranquilo" é que o Mobileye 630 PRO é um sistema nível 0, ou seja, não vai acelerar ou frear o carro sozinho. Ben Nassi,estudante de PhD e membro da equipe que fez o experimento, foi ainda mais fundo no trabalho acadêmico que o grupo universitário preparou. Alguns pontos interessantes são:

03/05/2019 às 18:57
Notícia

Bell Nexus é um drone táxi híbrido com capacidade de decolage...

Responsável pelo protótipo, Bell Helicopter pretende lançar versão final dentro de 2 anos

  • A inteligência artificial deixou passar informações que eram importantes e assimilou rapidamente outras de cor e tamanho errado.
  • O tempo necessário para o ADAS ser enganado foi 100 milissegundos - o que não é suficiente para muitos humanos sequer encontrarem o sinal falso.
  • Foi mais fácil enganar o sistema no final da tarde ou à noite, mas as chances de ter acontecido em ambientes melhor iluminados não desaparecem.

O ArsTechnica ainda menciona que, por não ter alterações físicas no ambiente, não existiria uma cadeia de evidências para possíveis ataques. Além disso, ninguém precisaria de fato estar no lugar.

Quando a Mobileye foi questionada, os executivos da empresa disseram que a situação não era reconhecida em sua delimitação de falhas. Segundo o ArsTechnica, eles limitam a definição a casos que não se espera que um humano reconheça como ataque. A empresa insistiu que não existem vulnerabilidades e que o sistema ainda seria suficiente para carros semi-autônomos que dependessem apenas de outros recursos como GPS para evitar leituras erradas.

Via: ArsTechnica
Google encerra produção de câmeras Clips

Google encerra produção de câmeras Clips

Dispositivo utilizava inteligência artificial para registrar momentos únicos, mas custava caro


Volvo lança XC40 Recharge, primeiro carro 100% elétrico da empresa

Volvo lança XC40 Recharge, primeiro carro 100% elétrico da empresa

O veículo vem com sistema Android, carregamento rápido e várias novas tecnologias


Ford registra patente de sistema com drone que segue o carro

Ford registra patente de sistema com drone que segue o carro

A aeronave pode ajudar em situações de emergência


Descoberto novo chip espião hacker em um Digismark Arduino que custa US$2

Descoberto novo chip espião hacker em um Digismark Arduino que custa US$2

O mini hardware pode invadir e assumir um servidor de firewall Cisco ASA 5505


Kiteboarder quase perde drone Skydio 2 em curva acentuada

Kiteboarder quase perde drone Skydio 2 em curva acentuada

Drone evitou contato com a água no último segundo