INOVAÇÃO

Inteligência artificial ética está longe de ser algo simples

Por Roberta Prescott* ... 13/03/2019 ... Convergência Digital

O uso ético de inteligência artificial e do aprendizado de máquina (machine learning), evitando um viés preconceituoso é um dos desafios que as companhias têm — e está longe de ser algo simples, sinalizou o chief analytics officer da Fico, Scott Zoldi, que está em São Paulo para o FICO Forum São Paulo, que acontece nesta quarta-feira 13/03. Em palestra, o evangelista dedicou boa parte do tempo para explicar sobre os perigos que a modulação dos dados pode levar a interpretações equivocadas.

"Com machine learning é difícil assegurar que a máquina não vai discriminar. Não podemos ser cegos com relação as características e ignorar raça no desenvolvimento de modelos de negócios. Há, sim, a possibilidade de se ter um viés preconceituoso. Na verdade, é preciso alinhar os modelos de subpopulação através do escalonamento de probabilidades de logs", observou.

Zoldi, que trabalha na FICO há 19 anos e é autor de 96 patentes, sendo 45 já asseguradas e 51 em processo, destacou o fato de machine learning figurar no pico do hypecycle do Gartner, mas explicou que as expectativas infladas podem apressar o uso de aprendizado de máquina sem o real entendimento de suas ramificações. "No momento, todos estão animados e isto é ótimo, mas implantar machine learning é difícil e requer precaução, já que há diversos problemas com interferência erradas", insistiu.

Os modelos de aprendizado de máquina, segundo Zoldi, precisam ser interpretáveis. "Remoção de viés é importante para uma inteligência artificial ética. Também é preciso entender que a cobertura de dados é crítica em todos os grupos. A capacidade de reforçar a palatabilidade, a monotonicidade e a engenharia podem ajudar a lidar com vieses preconceituosos. E novas redes neurais de recursos latentes interpretáveis expõem a relação de direcionamento da análise de dados", completou.

Confira a entrevista exclusiva com o chief analytics officer da Fico, Scott Zoldi.


TICs em Foco - TRANSFORMAÇÃO DIGITAL
Prever. Prevenir. Detectar e Responder

Essas são a exigência da remodelagem da gestão de riscos e da segurança organizacional nas corporações.

Serviços de voz estão mais vivos do que nunca na jornada digital

Quem pensa que os serviços de voz serão secundários está cometendo um erro, pontuou Douglas Silva, executivo da AWS. "Acreditamos que nos próximos 24, 36 meses a voz vai evoluir de apenas serviço informacional para transacional".

Febraban: o céu é o limite para modelos de negócios com blockchain

A blockchain bancária é ainda uma produção pequena, mas é um marco para o setor, observa o diretor setorial de Tecnologia da Febraban, Gustavo Fosse. Sobre o Open Banking, a única certeza é que ele vai vir e já no ano que vem.

Distributed Ledger: open source e blockchain unem esforços

Para o diretor de DCX das Capgemini, Thiago Nascimento, a tecnologia de livro-razão (Distributed Ledger) será disruptiva e exigirá a interoperabilidade do setor financeiro.

Biometria é o ‘empurrão do governo’ para aumentar a bancarização

Inclusão financeira passa por ações mais efetivas do governo, como aconteceu na Índia, afirma diretor-geral da Tata Consultancy Services no Brasil, Tushar Parikh.

BBTS quer ser a integradora dos pequenos bancos no open banking

Para a BBTS, o novo modelo de atuação do sistema financeiro exige aportes que nem todas as instituições financeiras terão fôlego para fazer.



  • Copyright © 2005-2019 Convergência Digital
  • Todos os direitos reservados
  • É proibida a reprodução total ou
    parcial do conteúdo deste site
    sem a autorização dos editores
  • Publique!
  • Convergência Digital
  • Cobertura em vídeo do Convergência Digital
  • Carreira
  • Cloud Computing
  • Internet Móvel 3G 4G