Investigadores desenvolvem método inovador para tornar modelos de IA mais explicáveis e confiáveis na indústria

O avanço acelerado das soluções baseadas em Inteligência Artificial (IA) tem levantado um dos maiores desafios atuais: a confiança humana nos modelos de alto desempenho, sobretudo pela dificuldade em compreender como tomam as suas decisões. Esta questão é particularmente crítica em ambientes industriais, onde é imperativo que os sistemas sejam não só exatos, mas também transparentes e explicáveis para garantir a segurança e eficácia das operações.

Uma equipa de investigadores da Faculdade de Ciências e Tecnologia da Universidade de Coimbra (FCTUC) propôs uma metodologia inovadora que permite extrair conhecimento interpretável a partir de modelos complexos de IA, tornando-os acessíveis aos operadores industriais. A abordagem baseia-se na utilização de sistemas de lógica difusa (fuzzy systems), para representar as dinâmicas dos processos industriais de forma simples, mas eficaz.

«Este método foi desenvolvido com base numa arquitetura do tipo “professor-aluno” (knowledge distillation), onde um modelo complexo (NFN-LSTM), que combina redes neuronais do tipo Long Short-Term Memory com lógica difusa, serve de referência para treinar um modelo mais simples e interpretável (NFN-MOD). Este último recorre a funções com entradas atrasadas para simular a memória temporal do processo, aliando desempenho à compreensibilidade», explica Jorge S. S. Júnior, aluno de doutoramento do Departamento de Engenharia Eletrotécnica e de Computadores (DEEC) da FCTUC. 

De acordo com a equipa de investigadores, esta investigação demonstrou a eficácia da metodologia em dois casos de estudo com dados reais: uma unidade de recuperação de enxofre e um processo de moagem na indústria cimenteira. Em ambos, o modelo NFN-MOD conseguiu replicar o comportamento do modelo professor com elevada precisão, ao mesmo tempo que oferecia explicações claras sobre os fatores que influenciam eventos críticos, como picos de emissões de gases nocivos ou variações na concentração de resíduos. 

«Além disso, o modelo introduz uma nova forma de análise contextual, permitindo aos operadores compreender melhor os diferentes cenários industriais e apoiar a tomada de decisões. O método promete, assim, aumentar significativamente a confiança nos sistemas de IA e otimizar o controlo de processos em ambientes industriais exigentes», conclui a equipa de investigadores. 

Este trabalho foi desenvolvido no âmbito da tese de doutoramento de Jorge S. S. Júnior, sob orientação de Jérôme Mendes, investigador do Centro de Engenharia Mecânica, Materiais e Processos (CEMMPRE), e coorientação de Cristiano Premebida, investigador do Instituto de Sistemas e Robótica (ISR), em colaboração com Francisco Souza (imec-NL, OnePlanet Research Center, Países Baixos).

O artigo “Distilling Complex Knowledge Into Explainable T–S Fuzzy Systems”, publicado na revista IEEE Transactions on Fuzzy Systems, pode ser consultado aqui. Esta publicação foi destacada na IEEE Computational Intelligence Society (CIS) Newsletter como “Research Frontier”.