Inteligência artificial sugere criação de 40 mil tipos de armas químicas em apenas 6 horas
Créditos: pixabay.com / Publicado por "geralt"

Inteligência artificial sugere criação de 40 mil tipos de armas químicas em apenas 6 horas

Entenda os perigos que esta tecnologia pode representar

Uma inteligência artificial (IA) de desenvolvimento de drogas, em apenas seis horas, conseguiu criar, em ambiente virtual, cerca de 40 mil moléculas fatais que podem ser usadas como armas químicas. Felizmente, não passou de um resultado de uma pesquisa feita em ambiente controlado. Não chegaram a criar nada tão letal - e, por enquanto, tudo serviu como mais uma confirmação de como a tecnologia pode, simultaneamente, ser incrível e terrível. Um artigo sobre este tema foi publicado na revista científica "Nature Machine Intelligence".


(Créditos: https://www.nature.com/articles/s42256-022-00465-9 / Mundo Conectado)

A intenção da pesquisa foi reprogramar o funcionamento da IA, cujo intuito original é desenvolver drogas que possam ser benéficas, e forçá-la a trabalhar para criar o resultado contrário. Ou seja, em vez de ajudar na produção de medicamentos que podem salvar vidas, todo o seu potencial foi direcionado para desenvolver eventuais armas biológicas. E o que mais preocupou os estudiosos é que algumas dessas moléculas letais eram até mesmo mais perigosas do que o agente nervoso VX (o nome químico é etil-S-2-diisopropilaminoetilmetilfosfonotiolatoum), um dos mais poderosos já criados - considerado uma arma de destruição em massa pela ONU, e a fabricação é proibida pela Convenção de Armas Químicas.

Se em apenas seis horas a criação de algo tão devastador foi viabilizado, a real preocupação é se esse método fosse usado com más intenções de fato (e não para gerar resultados em uma pesquisa). Este estudo foi cogitado após um convite da conferência de Convergência do Instituto Federal Suíço de Proteção Nuclear, Biológica e Química.

De acordo com o autor do artigo, Fabio Urbina, cientista sênior da Collaborations Pharmaceuticals, o intuito é discutir sobre como a tecnologia de Machine Learning (Aprendizado de Máquina) pode ser utilizada para o mal. Para que essa criação perigosa fosse executável, inverteram o protocolo tradicional da IA, que justamente foi criado para impedir a criação de componentes tóxicos, e reestruturaram para que o seu objetivo fosse a criação desses componentes, em vez de evitá-los. 

Se o agente nervoso VX já é extremamente perigoso, o potencial de uma criação ainda mais devastadora (e o pior: desenvolvida com tanta facilidade) realmente não é o melhor prognóstico para o futuro. Urbina concluiu:

"Para mim, a maior preocupação é o quão fácil é produzir algo assim. Muitas das coisas que nós usamos estão disponíveis por aí gratuitamente. Você pode baixar um conjunto de dados de toxidade de qualquer lugar. Se você conhece alguém que saiba como codificar em Python e possui alguns recursos de aprendizado de máquina, então é provável que, em um fim de semana de trabalho, possa construir algo assim. Então foi isso que realmente nos fez pensar em publicar este artigo; era uma barreira de entrada tão baixa para esse tipo de uso impróprio..."

Eu não quero soar sensacionalista sobre este assunto, mas é relativamente fácil para alguém replicar o que nós fizemos.

 

Continua após a publicidade

Um dos maiores perigos ao usar inteligência artificial para tarefas tão arriscadas é que, quando feitas totalmente por pessoas, códigos de ética e leis podem ser estabelecidos. Porém, esses conceitos inexistem para máquinas, e é tudo uma questão de ser possível ser feito ou não - e, neste caso, não só é possível... como é preocupantemente simples. Questões como "eu poderia fazer... mas eu deveria?" não podem ser cogitadas por uma IA - basta apenas ser programada por pessoas com intenções ruins, e simplesmente produzem os resultados viáveis. Nas mãos erradas, uma ferramenta assim poderia causar estragos sem precedentes (ou até mesmo irreversíveis).

Como o cientista sênior ressaltou mais de uma vez, os resultados não devem ser usados para criar alarmismo e preocupações infundadas. Ele acredita que não acontecerá "guerras químicas coordenadas por IA" (nem agora e nem em um futuro próximo); contudo, é fundamental que os profissionais da área comecem a considerar essa hipótese.

.....

Está pensando em comprar algum produto online? Conheça a extensão Economize do Mundo Conectado para Google Chrome. Ela é gratuita e oferece a você comparativo de preços nas principais lojas e cupons para você comprar sempre com o melhor preço. Baixe agora.

Fonte: theverge.com, terra.com.br, brasil.elpais.com, nature.com
User img

Guilherme Pinheiro

Formado em jornalismo pela Universidade Municipal de São Caetano do Sul (USCS). Fã de videogames desde os 6 anos de idade, sendo o seu hobby preferido desde então.

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.