A inteligência artificial (IA) está atualmente regulamentada no setor de serviços financeiros? “Não” tende a ser a resposta intuitiva.
Mas um olhar mais profundo revela pedaços de regulamentos financeiros existentes que se aplicam implícita ou explicitamente à IA – por exemplo, o tratamento de decisões automatizadas em GDPRnegociação algorítmica em MiFID IIgovernança de algoritmo no RTS 6 e muitas disposições de vários regulamentos de nuvem.
Embora alguns desses estatutos sejam muito voltados para o futuro e à prova de futuro – particularmente GDPR e RTS 6 – todos eles foram escritos antes da mais recente explosão de recursos e adoção de IA e também o que chamo de “pré-IA”. Além disso, os regulamentos específicos de IA estão em discussão há pelo menos alguns anos e vários órgãos regulatórios e do setor produziram white papers e orientações de alto nível, mas nenhum regulamento oficial em si.
Mas tudo isso mudou em abril de 2021, quando a Comissão Europeia emitiu seu Lei de Inteligência Artificial (AI Act) proposta. O texto atual se aplica a todos os setores, mas como proposta não é vinculativo e sua redação final pode diferir da versão de 2021. Enquanto a lei busca uma estrutura horizontal e universal, certas indústrias e aplicações são explicitamente discriminadas.
A lei adota uma abordagem de “pirâmide” baseada em risco para a regulamentação da IA. No topo da pirâmide estão os usos proibidos de IA, como manipulação subliminar como deepfakes, exploração de pessoas e grupos vulneráveis, pontuação de crédito social, identificação biométrica em tempo real em espaços públicos (com certas exceções para fins de aplicação da lei), etc. Abaixo disso estão os sistemas de IA de alto risco que afetam direitos básicos, segurança e bem-estar, como aviação, infraestrutura crítica, aplicação da lei e assistência médica. Depois, existem vários tipos de aplicativos de IA nos quais a Lei de IA impõe certos requisitos de transparência. Depois disso, vem a categoria não regulamentada de “todo o resto”, cobrindo – por padrão – soluções de IA mais cotidianas, como chatbots, sistemas bancários, mídia social ou pesquisa na web.
Embora todos entendamos a importância de regular a IA em áreas fundamentais para nossas vidas, essas regulamentações dificilmente poderiam ser universais. Felizmente, os reguladores em Bruxelas incluíram uma regra geral, o Artigo 69, que incentiva os fornecedores e usuários de sistemas de IA de baixo risco a observar voluntariamente, de forma proporcional, os mesmos padrões que suas contrapartes que usam sistemas de alto risco.
A responsabilidade não é um componente da Lei de IA, mas a Comissão Europeia observa que as iniciativas futuras abordarão a responsabilidade e serão complementares à lei.
A Lei de IA e Serviços Financeiros
O setor de serviços financeiros ocupa uma área cinzenta na lista de setores sensíveis da lei. Isso é algo que um projeto futuro deve esclarecer.
- A exposição de motivos descreve os serviços financeiros como um setor de “alto impacto” e não de “alto risco”, como aviação ou assistência médica. Se isso é apenas uma questão de semântica ainda não está claro.
- O financiamento não está incluído entre os sistemas de alto risco dos Anexos II e III.
- As “instituições de crédito”, ou bancos, são referenciadas em várias seções.
- A pontuação de crédito é listada como um caso de uso de alto risco. Mas o texto explicativo enquadra isso no contexto do acesso a serviços essenciais, como habitação e eletricidade, e direitos fundamentais como a não discriminação. No geral, isso está mais intimamente ligado à prática proibida de pontuação de crédito social do que os serviços financeiros em si. Ainda assim, o rascunho final do ato deve esclarecer isso.
A posição da lei sobre serviços financeiros deixa espaço para interpretação. Atualmente, eles se enquadram no Artigo 69 por padrão. O AI Act é explícito quanto à proporcionalidade, o que fortalece a aplicação do Artigo 69 aos serviços financeiros.
As principais funções das partes interessadas especificadas no ato são “fornecedor” ou fornecedor e “usuário”. Essa terminologia é consistente com as leis brandas relacionadas à IA publicadas nos últimos anos, sejam orientações ou melhores práticas. “Operador” é uma designação comum na linguagem da IA e a lei fornece sua própria definição que inclui fornecedores, fornecedores e todos os outros atores da cadeia de suprimentos de IA. É claro que, no mundo real, a cadeia de suprimentos de IA é muito mais complexa: terceiros são fornecedores de sistemas de IA para empresas financeiras e empresas financeiras são fornecedoras dos mesmos sistemas para seus clientes.
A Comissão Européia estima o custo de conformidade com a Lei de IA em € 6.000 a € 7.000 para fornecedores, presumivelmente como uma única vez por sistema, e € 5.000 a € 8.000 por ano para usuários. É claro que, dada a diversidade desses sistemas, um conjunto de números dificilmente poderia ser aplicado em todos os setores, portanto, essas estimativas têm valor limitado. Na verdade, eles podem criar uma âncora contra a qual os custos reais de conformidade em diferentes setores serão comparados. Inevitavelmente, alguns sistemas de IA exigirão uma supervisão tão rigorosa do fornecedor e do usuário que os custos serão muito mais altos e levarão a dissonância desnecessária.
Governança e Conformidade
A Lei de IA introduz uma estrutura de governança detalhada, abrangente e inovadora: o Conselho Europeu de Inteligência Artificial proposto supervisionaria as autoridades nacionais individuais. Cada membro da UE pode designar um órgão nacional existente para assumir a supervisão da IA ou, como a Espanha optou recentemente, criar um novo. De qualquer forma, este é um grande empreendimento. Os provedores de IA serão obrigados a relatar incidentes à sua autoridade nacional.
A lei estabelece muitos requisitos de conformidade regulatória aplicáveis aos serviços financeiros, entre eles:
- Ter um processo de gerenciamento de risco contínuo
- Requisitos de dados e governança de dados
- Documentação técnica e manutenção de registros
- Transparência e prestação de informações aos usuários
- Conhecimento e competência
- Precisão, robustez e segurança cibernética
Ao introduzir um regime de penalidade detalhado e rigoroso por não conformidade, a Lei de IA se alinha com o GDPR e a MiFID II. Dependendo da gravidade da violação, a penalidade pode chegar a 6% da receita anual global da empresa infratora. Para uma empresa multinacional de tecnologia ou finanças, isso pode chegar a bilhões de dólares. No entanto, as sanções da AI Act, de fato, ocupam o meio-termo entre as do GDPR e da MiFID II, nas quais as multas atingem um máximo de 4% e 10%, respectivamente.
Qual é o próximo?
Assim como o GDPR se tornou uma referência para regulamentações de proteção de dados, a Lei de IA da UE provavelmente se tornará um modelo para regulamentações de IA semelhantes em todo o mundo,
Sem precedentes regulatórios para se basear, o AI Act sofre de uma certa “desvantagem do pioneirismo”. No entanto, passou por uma consulta minuciosa e sua publicação provocou discussões enérgicas nos círculos jurídicos e financeiros que esperamos informar a versão final.
Um desafio imediato é a definição excessivamente ampla de IA da lei: a proposta pela Comissão Europeia inclui abordagens estatísticas, estimativa Bayesiana e potencialmente até cálculos do Excel. Como comentou o escritório de advocacia Clifford Chance, “Essa definição pode capturar quase qualquer software de negócios, mesmo que não envolva nenhuma forma reconhecível de inteligência artificial.”
Outro desafio é o marco regulatório proposto pela lei. Um único regulador nacional teria de cobrir todos os setores. Isso poderia criar um efeito de fragmentação em que um regulador dedicado supervisionaria todos os aspectos de certos setores, exceto assuntos relacionados à IA, que se enquadrariam no regulador separado, determinado pela Lei de IA. Tal abordagem dificilmente seria ideal.
Na IA, um tamanho pode não servir para todos.
Além disso, a interpretação do ato no nível da indústria individual é quase tão importante quanto a linguagem do ato em si. Tanto os reguladores financeiros existentes quanto os reguladores de IA recém-criados e designados devem fornecer ao setor de serviços financeiros orientações sobre como interpretar e implementar a lei. Essas interpretações devem ser consistentes em todos os países membros da UE.
Embora a Lei de IA se torne uma lei rígida juridicamente vinculativa se e quando for promulgada, a menos que o Artigo 69 mude materialmente, suas disposições serão leis leves, ou melhores práticas recomendadas, para todos os setores e aplicações, exceto aqueles explicitamente listados. Essa parece ser uma abordagem inteligente e flexível.
Com a publicação do AI Act, a UE foi corajosamente onde nenhum outro regulador foi antes. Agora precisamos esperar – e esperamos que não por muito tempo – para ver quais propostas regulatórias são feitas em outras jurisdições tecnologicamente avançadas.
Eles recomendarão que as indústrias individuais adotem as regulamentações de IE, que as regulamentações promovam valores democráticos ou fortaleçam o controle estatal? Algumas jurisdições podem optar por pouca ou nenhuma regulamentação? As regulamentações de IA se unirão em um conjunto universal de regras globais ou serão “balcanizadas” por região ou indústria? Só o tempo irá dizer. Mas acredito que a regulamentação da IA será um resultado líquido positivo para os serviços financeiros: desambiguará o cenário regulatório atual e, com sorte, ajudará a trazer soluções para alguns dos desafios mais prementes do setor.
Se você gostou deste post, não se esqueça de se inscrever no Investidor Empreendedor.
Todos os posts são da opinião do autor. Como tal, eles não devem ser interpretados como conselhos de investimento, nem as opiniões expressas refletem necessariamente as opiniões do CFA Institute ou do empregador do autor.
Crédito da imagem: ©Getty Images / mixmagic
Aprendizagem profissional para membros do CFA Institute
Os membros do CFA Institute têm o poder de autodeterminar e relatar os créditos de aprendizado profissional (PL) obtidos, incluindo conteúdo sobre Investidor Empreendedor. Os membros podem registrar créditos facilmente usando seus rastreador PL online.
Other Articles
Pesquisa descobrem- da busca geral pela Covid19
No Comment! Be the first one.