Em estudo, IA ’40 mil armas gravesou em apenas 6 horas

Durante uma conferência sobre armamento não convencionalpesquisa Collaboration Pharmaceuticals de um experimento onde uma tecnologia inteligência artificial (IA) presumido de forma abusiva (apreciado) – no sentido de presumir que não pode ser reconhecido como recurso -, de mostrar como esse controle e de reconhecimento -, de mostrar como esse controle e de verificação.

Em uma entrevista concedida ao A BeiraFabio Urbina, o autor primário do estudo, falou muito sobre como um IA conseguiu inventar vários de novas substâncias –, um similarmente semelhante ao agente VX, um gás poderoso que ataca o sistema nervoso de seus semelhantes.

publicidade

Leia também

Urbina de explicação que o estudo é uma espécie “giro de 80º” em relação ao seu trabalho normal. No dia a dia, o cientista é incumbido de pesquisar modelos de aprendizado de máquina para descobrir novos remédios e tratamentos. Ele conta, no entanto, que isso também envolve a implementação de modelos “malvados” de IA a fim de garantir que qualquer tipo de tratamento, a partir de seu trabalho não tenha nenhum efeito.

“Por exemplo” – ele contorno – “imagine que você descobre uma medicina maravilhosa que controla a pressão alta. Mas ela faz isso ao bloquear algum canal importante conectado ao seu coração. Então essa droga é automaticamente inválida por ser considerada de alto risco”.

Sobre o estudo, Urbina evitou compartilhar muitos detalhes – a pesquisa foi feita a convite da organização da conferência Convergência, realizada na Suíça, e eles pediram que informações muito técnicas fossem mantidas em segredo por segurança. O que ele contorno, porém, traça uma linha do tempo processual interessante:

“Basicamente, nós temos bases de dados históricos sobre sua toxicidade que foram testados quanto à sua toxicidade ou muitas faltas dela”, Urbina. “Para este experimento, nós focamos na composição molecular do Agente VX, que atua como inibidor do algo chamado ‘Acetilcolinesterase’”.

A acetilcolinesterase é, grosso modo, uma enzima que atua na transmissão de informações do sistema nervoso. Quando seu cérebro dá uma ordem para você, digamos, dobrando o braço, essa enzima é o que carrega esse comando do ponto A ao ponto B.

“A mortalidade do VX não reside no fato de que ele impeça que esses comandos cheguem aonde sejam uma ordem para qualquer um que seja relacionado com os músculos. [O VX] pode parar seu diafragma ou músculos pulmonares e sua respiração fica, literalmente, paralisada, e você sufoca”. Urbina conta que experimentos moleculares que determinam a toxicidade de algum agente não precisam ser usados ​​de forma prática, mas eles sempre são aproveitados para compor bases de dados sobre o que eles podem fazer.

Com base nisso, Urbina e sua equipe criaram um modelo de aprendizado de máquina que, a grosso modo, essas bases são bem processadas, uma que seja uma partes de uma nova molécula, sugerindo a criação da criação de outras bases químicas – esse modo, uma que seja uma partes de uma nova molécula, sugerindo a criação de uma nova substância química (Criação de novos remédios) ou mal (criação de armas para e agentes de guerra biológica).

Então, o tempo dos cientistas basicamente ajustou a ia para agir como um gênio do mal e… ver no que daria: “nós não sabíamos muito bem o que sairia já que capacidade de geração de modelos é nossa por tecnologias novas, ainda não muito usadas”, explicou Urbina. “A primeira foi que muitos dos indícios eram bem mais surpreendentes que o VX. E é uma pequena surpresa que é um dos compostos mais específicos que existem, você precisa de muito, porque muito, dele para ser letal muito dose”.

Uma nota lateral aqui: segundo a página do Centro de Controle de Doenças (CDC) dos Estados Unidos, o VX não é “um dos” mais letais, mas sim “o mais” letal dos agentes nervosos.

– O cientista explica que os modelos gerados IA correspondem a combinações humanas não verificadas pela mão – obviamente, convenhamos, mas normalmente supostas por aprendizado de máquina são bem sólidos. Em outras palavras, a taxa de erro é baixa e, diante dessa percepção, uma aplicação dessa tecnologia para a criação de armamento biológico letal é bem factível.

A entrevista completa (em inglês) já foi ao ar no Verge, e conta outros detalhes, como por exemplo o fato do modelo de aprendizado de máquina ter sido criado antes de modelos moleculares já conhecido sem base de dados, ou ainda como essa tecnologia de geração de modelos moleculares tão disponíveis que uma vez busca simples no Google já coloca qualquer pessoa no caminho certo para programar algo do gênero.

Já assistiu aos nossos novos vídeos no YouTube? inscreva-se no nosso canal!