Drone engana IA de carro projetando placas de trânsito falsas
Créditos: Estadão | Zoom

Drone engana IA de carro projetando placas de trânsito falsas

A empresa responsável pelo sistema defende que não há falhas

O [email protected] Team demonstrou recentemente uma brecha na inteligência artificial (IA) do ADAS (Sistema Avançado de Assistência ao Motorista) Mobileye 630 PRO instalado em um Renault Captur. O detalhe interessante é que para isso a equipe usou um drone projetando placas de rua.

General Motors pretende usar pneus sem ar e à prova de furos em 2024

No vídeo abaixo, podemos ver a situação: o drone projeta uma placa de 90km/h na parede de um prédio no momento em que o carro aparece. O limite de velocidade do local, de acordo com o que é relatado, era 30km/h, mas o ADAS considera a projeção como algo real e avisa o limite errado.

Um fator que pode deixar o motorista "mais tranquilo" é que o Mobileye 630 PRO é um sistema nível 0, ou seja, não vai acelerar ou frear o carro sozinho. Ben Nassi,estudante de PhD e membro da equipe que fez o experimento, foi ainda mais fundo no trabalho acadêmico que o grupo universitário preparou. Alguns pontos interessantes são:

03/05/2019 às 18:57
Notícia

Bell Nexus é um drone táxi híbrido com capacidade de decolage...

Responsável pelo protótipo, Bell Helicopter pretende lançar versão final dentro de 2 anos

  • A inteligência artificial deixou passar informações que eram importantes e assimilou rapidamente outras de cor e tamanho errado.
  • O tempo necessário para o ADAS ser enganado foi 100 milissegundos - o que não é suficiente para muitos humanos sequer encontrarem o sinal falso.
  • Foi mais fácil enganar o sistema no final da tarde ou à noite, mas as chances de ter acontecido em ambientes melhor iluminados não desaparecem.

O ArsTechnica ainda menciona que, por não ter alterações físicas no ambiente, não existiria uma cadeia de evidências para possíveis ataques. Além disso, ninguém precisaria de fato estar no lugar.

Quando a Mobileye foi questionada, os executivos da empresa disseram que a situação não era reconhecida em sua delimitação de falhas. Segundo o ArsTechnica, eles limitam a definição a casos que não se espera que um humano reconheça como ataque. A empresa insistiu que não existem vulnerabilidades e que o sistema ainda seria suficiente para carros semi-autônomos que dependessem apenas de outros recursos como GPS para evitar leituras erradas.

Via: ArsTechnica
MAVLab leva o prêmio de US$1 milhão na primeira temporada do Drone Racing League

MAVLab leva o prêmio de US$1 milhão na primeira temporada do Drone Racing League

Essa foi a primeira temporada da corrida de drones pilotadas apenas com Inteligência Artificial


Drone Ubsan Zino 2 grava em 4K60fps, tem gimbal de 3 eixos e voa por 33 minutos custando menos de US$500

Drone Ubsan Zino 2 grava em 4K60fps, tem gimbal de 3 eixos e voa por 33 minutos custando menos de US$500

Aeronave tem bateria de 3800mAh e pode ficar até 6km de distância sem perder conexão


Transportadora IAG Cargo testa drones autônomos para logística

Transportadora IAG Cargo testa drones autônomos para logística

Empresa obteve sucesso em armazéns na Espanha e pretende expandir uso da tecnologia


General Motors e LG firmam acordo para fabricação de baterias para carros elétricos

General Motors e LG firmam acordo para fabricação de baterias para carros elétricos

Juntas, as empresas farão investimento de até US$ 2,3 bilhões


Máquina feita de Lego usa Inteligência Artificial para organizar outras peças

Máquina feita de Lego usa Inteligência Artificial para organizar outras peças

Batizada como Universal Lego Sorting Machine, a máquina foi construída com 10.000 peças de Lego