As explicações fornecidas por sistemas de inteligência artificial podem mudar ao longo dos anos, mesmo quando os métodos utilizados permanecem os mesmos. Esse é o problema investigado por uma pesquisa da Universidade Estadual do Maranhão (Uema), premiada como Melhor Artigo Científico no KDMiLe 2026, simpósio realizado durante a Conferência Brasileira de Sistemas Inteligentes (BRACIS 2026).
O estudo foi desenvolvido pelo estudante de Engenharia de Computação Pedro Luís Carneiro Jovino e pelo professor Ewaldo Eder Carvalho Santana, ambos do Laboratório de Análise e Processamento de Sinais (LAPS) da Uema. Os pesquisadores analisaram 17.733 resumos de artigos científicos publicados entre 2014 e 2024, nas áreas de computação e saúde.
A pesquisa investigou como as palavras utilizadas pelos modelos de IA para justificar suas classificações se modificam com o passar do tempo. Essa mudança pode dificultar a comparação das explicações e o acompanhamento de sistemas que precisam analisar informações durante vários anos.
O que os pesquisadores descobriram?
Nos textos científicos de computação, as explicações associadas aos modelos apresentaram instabilidade média 3,33 vezes maior que aquela observada nas explicações baseadas diretamente nos textos. Na área biomédica, foi identificada uma tendência semelhante, mas sem a mesma significância estatística.
Para acompanhar essas alterações, os pesquisadores propuseram um procedimento que mede as mudanças nas explicações e estabelece critérios para indicar quando uma revisão pode ser necessária. Nos experimentos, foram identificadas variações, mas nenhuma atingiu o limite definido para gerar um alerta automático.
A pesquisa contribui para o desenvolvimento de formas de monitorar a transparência de sistemas de inteligência artificial ao longo do tempo. O trabalho não conclui que os modelos analisados apresentaram falhas, mas demonstra a importância de acompanhar também a estabilidade de suas explicações, e não apenas os resultados que produzem.