ICICT | Fiocruz - Instituto de Comunicação e Informação Científica e Tecnológica

Acontece na próxima terça-feira, 19 de julho, a partir das 14h, a defesa da tese de doutorado do aluno Jefferson Lima, que abordará os "Desafios Para a Adoção de Inteligência Artificial Pelo Sistema Único de Saúde (SUS): ética, transparência e interpretabilidade" para o Programa de Pós-Graduação em Informação e Comunicação em Saúde - PPGICS.

Orientado por Marcel Pedroso e tendo como segundo orientador Christovam Barcellos, Lima busca "identificar os fatores, técnicos, regulatórios e éticos, que podem contribuir para a construção de um ambiente mais adequado para o desenvolvimento da IA nos serviços de saúde", a partir da análise do funcionamento dos métodos de interpretabilidade para os modelos de IA ,reconhecidamente pouco transparentes (black boxes). Ele também tenta compreender como o funcionamento desses métodos, podem impactar os serviços de saúde. Para isso, ele criou um experimento contrafactual relacionado â "multiplicidade preditiva e consistência de explicações por meio de listas de importância dos atributos de quatro dos principais modelos de predição (classificação)". 

A defesa terá transmissão pela Plataforma Zoom. Seguem outras informações sobre a defesa de Jefferson Lima: 

Defesa de Tese de Doutorado 
 

Título: Desafios Para a Adoção de Inteligência Artificial Pelo Sistema Único de Saúde (SUS): ética, transparência e interpretabilidade 

Aluno: Jefferson da Costa Lima

Orientador: Marcel de Moraes Pedroso (PPGICS/ICICT/FIOCRUZ) 

Segundo Orientador: Christovam de Castro Barcellos Neto (PPGICS/ICICT/FIOCRUZ) 

Banca: 

Titulares 
Dr. Rodrigo Murtinho de Martinez Torres (PPGICS/ICICT/FIOCRUZ) 
Dr. Ricardo Antunes Dantas de Oliveira (PPGICS/ICICT/FIOCRUZ) 
Dr. Flávio du Pin Calmon (SEAS/HARVAD) 
Dr. Alexandre Dias Porto Chiavegatto Filho (LABDAPS/FSP/USP) 
Dr. Fábio André Machado Porto (DEXL/LNCC) 

Suplentes
Drª Renata de Saldanha da Gama Gracie Carrijo (PPGICS/ICICT/FIOCRUZ) 
Dr. Eduardo Soares Ogasawara (PPCIC/CEFET-RJ) 

Data: 19/07/2022 - 3a. feira | Horário: 14h 

Sala Virtual: https://us06web.zoom.us/j/84215381684?pwd=M050a3kxMFAwdnMrb24wNCt1ZEJpZz09 | Senha: 202898 

Resumo: Nos últimos anos, aplicações que utilizam componentes baseados em Inteligência Artificial (IA) têm se tornado onipresentes em nosso cotidiano. No campo da saúde, ao mesmo tempo em que a IA pode promover enormes avanços, uma questão que se apresenta, e que é desafiadora para a sua adoção, é fazer com que o seu uso seja justo e não discriminatório contra pessoas, grupos, comunidades, populações e instituições. 

Outra característica marcante é que parte do êxito recente das aplicações baseadas em IA está relacionada a modelos cada vez mais complexos, sacrificando o entendimento humano sobre o seu funcionamento. Em áreas potencialmente sensíveis como a saúde, a falta de transparência é uma limitação que pode ocultar tratamentos discriminatórios ou, por falta de confiança na solução, funcionar como uma barreira para a adoção da tecnologia, o que pode levar a perda de enormes oportunidades para a melhoria do acesso aos serviços de saúde. 

Esta pesquisa, no primeiro momento, se concentra em identificar os fatores, técnicos, regulatórios e éticos, que podem contribuir para a construção de um ambiente mais adequado para o desenvolvimento da IA nos serviços de saúde. Em seguida, busca compreender como o funcionamento dos métodos de interpretabilidade, que podem fornecer, para modelos de IA reconhecidamente pouco transparentes (black boxes), alguma interpretabilidade e como isso pode impactar os serviços de saúde. Para isso, foi criado um experimento contrafactual relacionado a multiplicidade preditiva e consistência de explicações por meio de listas de importância dos atributos de quatro dos principais modelos de predição (classificação). 

Esta é uma pesquisa construída com um olhar para o Sistema Único de Saúde (SUS) e, especialmente, o seu princípio doutrinário da Equidade. Com isso, esperamos que o uso de IA na saúde possa contribuir para mitigar os efeitos das iniquidades sociais e econômicas, não para perpetuá-las ou agravá-las, ao criar um ambiente mais transparente e confiável.