IA pode identificar uma etnia das pessoas em imagens de raios-X

0
41

Novos modelos de aprendizagem profunda em Inteligência Artificial (IA) podem identificar uma etnia a partir de imagens de imagens raios-X, algo que seria impossível de ser observado pelos olhos de um médico. Os achados, publicados na revista The Lancet Saúde Digitallevantaram algumas questões preocupantes sobre o papel do tratamento no diagnóstico, avaliação e médico: ou viés racial de ser aplicado independentemente por software computador ao analisar tais imagens?

Artificial consegue identificar a etnia dos pacientes observando, apenas, imagens de raio-X. Imagem: Tridsanu Thopet – Shutterstock

Uma equipe de pesquisadores de saúde dos EUA, Canadá e Taiwanu sua IA usando milhares de imagens de raio-X rotuladas com detalhes étnicos do paciente. Depois, testou o sistema com outras imagens de raio-X não identificadas.

Segundo os mesmos cientistas, modelo de IA conseguiu a identidade racial do paciente nessas imagens com uma precisão surpreendente, mesmo quando os exames foram tirados de pessoas da mesma idade e do relacionado. Em alguns grupos de imagens,o sistema atingiu níveis de 90%.

“Nosso objetivo era realizar uma avaliação abrangente da capacidade da IA ​​de reconhecer a identidade racial de um paciente a partir de imagens médicas”, dizem os pesquisadores em seu artigo. “A maioria dos modelos de aprendizagem profunda padrão de IA podem ser treinados para prever a raça a partir de modelos avançados de modelos de imagem, o que foi sustentado em condições de validação externa”.

A pesquisa ecoa os resultados de um estudo anterior que descobriu como varreduras de inteligência Artificial de imagens de raios-X eram mais propensos a perder sinais de doença em pessoas pretas. Para impedir que isso aconteça, os cientistas sabem que está primeiro.

Por sua própria natureza, a IA imita o pensamento humano para detectar rapidamente padrões em dados. No entanto, isso também significa que pode, sem querer, sucumbir aos mesmos tipos de vieses. Pior ainda, sua complexidade torna difícil desembaraçar os preconceitos que tecemos neles.

Leia mais:

Sistemas de Inteligência Artificial podem repetir preconceitos humanos?

Neste momento, os cientistas não sabem por que o sistema de IA é tão bom em uma etnia a partir de imagens que não continham tais informações, pelo menos não na superfície.

Quando as informações limitadas são fornecidas, removendo por exemplo pistas sobre a densidade óssea, ou focando em uma pequena parte do corpo, os modelos ainda tiveram um desempenho mesmo bom ao adivinhar uma identidade racial relatada no arquivo. É que o sistema está encontrando sinais de melanina (o pigmento que cor à pele) que ainda são desconhecidos da ciência.

Essa pesquisa soma a uma pilha crescente de seres humanos, muitas vezes, pode refletir os sistemas de preconceitos e discriminações. racismo, sexismo ou outra coisa. Dados de treinamento distorcidos podem levar a distorcidos, resultando-os menos úteis e duvidosos.

Isso precisa ser equilibrado para a IA muito mais rapidamente do que os humanos podem, em todos os setores, desde técnicas de detecção de doenças até os modelos de mudanças climáticas.

Ainda há muitas perguntas sem resposta do estudo, mas por ser importante estar ciente da possibilidade de o viés racial aparecer em sistemas de Inteligência Artificial – especialmente se vamos entregar mais responsabilidade a eles no futuro.

“Precisamos fazer uma pausa”, disse o cientista e médico Leo Anthony Celi, Instituto de Tecnologia de fazer uma pausa (MIT), ao Boston Globe. “Não podemos apressar a trazer os sexistas para hospitais e clínicas até termos certeza de que eles não podem tomar decisões racistas ou racistas”.

Já assistu aos novos vídeos no Youtube do Olhar Digital? inscreva-se no canal!

LEAVE A REPLY

Please enter your comment!
Please enter your name here