A inteligência artificial está se tornando onipresente à medida que mais e mais aplicações vêm com a IA embutida. E, conforme mais plataformas que utilizem informações pessoais, como a biometria, são lançadas, surgem riscos e aumenta a necessidade de acrescentar funções de conformidade e governança à exfiltração de dados.
Embora a IA fosse baseada na criação de algoritmos para lidar com grandes quantidades de dados e seus padrões, ela agora evoluiu com uma nova reviravolta. Em vez de apenas reconhecer padrões, a IA também está criando padrões, o que eleva o risco para a indústria, concluiu um painel de especialistas no Fórum de Inovação Mastercard LAC 2022, realizado em Miami, nesta semana.
Isto destaca a necessidade do setor financeiro de melhorar seu processamento de dados para tirar proveito das percepções que pode produzir, mas também para proteger as informações sensíveis dos clientes. “Tem ser humano construindo IA e tem IA construindo IA”, disse Raj Seshadri, presidente de dados e serviços da Mastercard, durante painel sobre o poder transformador da inteligência artificial.
O Fórum de Inovação Mastercard é um encontro anual dos principais atores da indústria financeira da América Latina e do Caribe. Em seus dois dias de reuniões, os painéis se concentraram em novas tecnologias como metaverse, web3 e IA, destacando suas implicações para o setor financeiro.
Governança de dados em construção
De fato, o uso maciço da IA tem implicações, como salientou Navrina Singh, fundadora e CEO da Credo AI e Jovem Líder Global do Fórum Econômico Mundial. Credo AI é uma plataforma de governança de inteligência artificial que proporciona supervisão contínua.
As oportunidades e os desafios na indústria de IA estão evoluindo rapidamente. Singh apontou para algumas áreas que estão gerando muita tensão. A primeira é a estrutura organizacional sistemática, onde eles estão tentando alinhar as partes técnicas envolvidas, como a aprendizagem de máquinas, com as partes não técnicas envolvidas, como as políticas de conformidade, assegurando que eles tenham as estruturas corretas de governança de dados em vigor.
Outra área que tem muitos desafios é que, como uma indústria relativamente nova e em constante mudança, não há referências para o desenvolvimento de padrões transversais aplicáveis ao ecossistema. “Falando de equidade, como exemplo, não há um padrão definido ou referência, não há definição e cada um vem com seu próprio conjunto de políticas e boa vontade”, disse Singh.
“Alguns dos desafios que menciono moldarão as normas e os padrões de referência: falta de políticas de conformidade, dados, incentivos desalinhados, partes interessadas técnicas e de supervisão. Não se trata apenas de um problema técnico. Está causando impacto nas sociedades em geral”, acrescentou ela.
Singh defendeu a necessidade de as empresas também investirem recursos na fundação da governança pública e enfatizou que os seres humanos terão um papel muito maior a desempenhar na discussão mais ampla sobre a IA.