Inteligência artificial validando Inteligência artificial? Microsoft anuncia Counterfit
Créditos: Divulgação/Microsoft

Inteligência artificial validando Inteligência artificial? Microsoft anuncia Counterfit

Ferramenta automatiza testes de segurança de sistemas de IA para empresas

A Microsoft anunciou ontem (3) o Counterfit, uma ferramenta de código aberto para ajudar os desenvolvedores a avaliarem a segurança de seus sistemas de aprendizado de máquina (machine learning). Devido ao aumento de ataques cibernéticos, a empresa segue atualizando constantemente sua infraestrutura de segurança para se proteger contra ameaças e o Counterfit vem para aprimorar esta medida.

A ferramenta automatiza testes de segurança dos sistemas de inteligência artificial, sendo o principal objetivo proporcionar às empresas mais confiança de que seus sistemas de IA são efetivamente seguros. A Microsoft observa que das 28 organizações que entrevistou, dentre elas as maiores empresas dos Estados Unidos que compõem a Fortune 500, governos, organizações sem fins lucrativos e pequenas e médias empresas, 25 sentiram que não tinham os mecanismos necessários para proteger os sistemas de IA, e ainda que seus profissionais de segurança estão procurando orientações para lidar com as ameaças cibernéticas.

Counterfit ajuda a realizar avaliações de risco de segurança de IA para garantir que os algoritmos usados nas organizações sejam robustos, seguros e confiáveis.
 

De acordo com a Microsoft, o Counterfit é fácil de usar para equipes de segurança que utilizam Metasploit ou PowerShell Empyre. A nova ferramenta pode ser usada para testes de penetração e varredura de vulnerabilidade, além de poder registrar ataques a modelos de IA para que equipes de cientistas de dados e de engenharia possam utilizar a telemetria para aumentar ainda mais a segurança de seus sistemas de inteligência artificial.


Divulgação/Microsoft

O Counterfit começou como um conjunto de scripts de ataque escritos especificamente para atingir modelos individuais de IA e, em seguida, se transformou em uma ferramenta de automação que ataca vários sistemas de IA em escala. 

O projeto de código aberto Counterfit está disponível no GitHub. No site, você pode encontrar mais informações sobre como implantá-lo em sua organização. 

Via: Neowin Fonte: Microsoft
User img

Bianca Nery

Quase jornalista pela Universidade Federal de Santa Catarina. É marvete e entusiasta de jogos antigos de Playstation 2. Joga no expert no Guitar Hero e é grande fã do Jorge Ben.

Celular GAMER barato? Testamos o Black Shark 4, o custo-benefício da Xiaomi

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.