Inteligência ArtificialUFC22 de junho de 2026

Reliance-Aware Design of Interactive Explainable User Interfaces

PorJosé Cezar de Souza Filho, Rafik Belloum, Ingrid Teixeira Monteiro e Káthia Marçal de Oliveira

O artigo apresenta uma metodologia estruturada e um conjunto de artefatos de design (como personas e cenários) para apoiar a criação de Interfaces de Usuário Explicáveis (XAI) interativas. O foco central é mitigar os problemas de 'over-reliance' (confiança excessiva) e 'under-reliance' (desconfiança) dos usuários em sistemas de IA, capacitando designers a raciocinar sobre esses comportamentos durante a fase de concepção.

Inovação7/10

Aplicabilidade9/10

Potencial econômico8/10

MaturidadeMédia

Núcleo da análise

Ideia de startup ou produto

Criação de uma plataforma SaaS de 'Auditoria de UX para IA' que automatiza a aplicação dos artefatos descritos, permitindo que designers testem fluxos de interação e prevejam pontos de falha na confiança do usuário antes do desenvolvimento do código.

Aplicações práticas

Aplicável no desenvolvimento de sistemas de apoio à decisão crítica em medicina, finanças e segurança pública. Também é útil para empresas de tecnologia que desejam melhorar a experiência do usuário (UX) em produtos baseados em IA generativa e preditiva.

Potencial de mercado

Alto. Com a democratização da IA, a 'Trustworthy AI' (IA Confiável) tornou-se uma prioridade regulatória e de mercado. Empresas precisam garantir que seus usuários saibam quando confiar na máquina, criando demanda por métodos de design especializados.

Fundamento científico

Problema abordado

Sistemas de IA Explicável (XAI) sofrem com o comportamento inadequado dos usuários, que tendem a confiar cegamente ou ignorar os conselhos da IA. Existe uma carência de abordagens sistemáticas e processos de design focados em criar explicações interativas que guiem o usuário para um nível apropriado de confiança.

Metodologia

Desenvolvimento e validação de artefatos de design através de um estudo qualitativo envolvendo 14 designers profissionais. A pesquisa avaliou a capacidade das ferramentas propostas em fomentar o raciocínio sobre a dependência do usuário durante as atividades de análise e design de interface.

Principais descobertas

A abordagem se mostrou eficaz em ajudar designers a identificar soluções para explicações interativas e a compreender comportamentos de dependência dos usuários, especialmente durante a fase de análise. Os participantes relataram utilidade positiva, mas apontaram dificuldades na criação de diagramas de interação, sugerindo a necessidade de suporte adicional nessa etapa.

Aprofundamento opcional

Abstract originalIdioma e formato da publicação de origem

Explainable Artificial Intelligence (XAI) has been applied to support decision-making in different domains. Empirical studies on this topic show that users often over- or under-rely on AI advice and most prior studies have focused on static explanations without following a systematic process for designing explainable interfaces. This suggests a lack of systematic approaches for designing interactive explanations considering appropriate reliance. In this paper, we propose a set of artifacts to support XAI designers in reasoning about reliance issues during the design of explainable user interfaces. It aims to support the designers' understanding of end-users' reliance behaviors, ultimately supporting them in considering reliance-related issues at design time. Our findings from a qualitative study with 14 designers highlight the approach's potential to identify candidate solutions for interactive explanations and to foster the designers' reasoning on user reliance (i.e., when to rely on or question AI outputs) mainly during analysis activities through personas and scenarios of use. Participants reported positive perceptions of the approach's usefulness, but also difficulties in creating interaction diagrams. They suggested improvements, such as reminders to support this reasoning during this stage.

Matéria para leigosVersão editorial para divulgação pública

Para leigos: Como criar interfaces de IA que ajudam o usuário a confiar certo

O cenário atual

A Inteligência Artificial Explicável (XAI, na sigla em inglês) é usada para apoiar a tomada de decisão em diversos setores. No entanto, estudos empíricos mostram um problema recorrente: os usuários costumam confiar demais ou de menos nos conselhos da IA. A maioria das pesquisas anteriores focou em explicações estáticas, sem seguir um processo sistemático para desenhar interfaces explicativas. Isso aponta para uma falta de métodos estruturados para criar explicações interativas que considerem o nível apropriado de confiança.

O que os pesquisadores fizeram

Os pesquisadores propuseram um conjunto de artefatos para auxiliar designers de XAI a raciocinar sobre questões de confiança durante o desenho de interfaces explicativas. O objetivo é apoiar a compreensão dos designers sobre os comportamentos de confiança dos usuários finais, ajudando-os a considerar esses fatores durante a fase de design. O estudo envolveu uma pesquisa qualitativa com 14 designers para testar a abordagem.

Como funciona na prática

A proposta oferece ferramentas para que os profissionais pensem sobre quando o usuário deve confiar ou questionar as saídas da IA. A abordagem se mostrou particularmente útil durante as atividades de análise, utilizando personas e cenários de uso para fomentar o raciocínio. O objetivo é integrar essas considerações de "reliance" (confiança/dependência) diretamente no momento de criação do produto, antes que ele seja implementado.

Resultados e evidência

O estudo qualitativo indicou que a abordagem tem potencial para identificar soluções candidatas para explicações interativas. Os participantes relataram que o método estimulou o raciocínio sobre a confiança do usuário. A percepção sobre a utilidade da abordagem foi positiva entre os 14 designers entrevistados. As ferramentas ajudaram a entender melhor como os usuários interagem com a IA e quando eles devem ou não aceitar as sugestões do sistema.

Implicações práticas

O desenvolvimento desta metodologia beneficia diretamente a área de design de experiência do usuário e interfaces inteligentes. Ao permitir que designers prevejam problemas de confiança excessiva ou insuficiente, é possível criar sistemas mais seguros e eficazes. O trabalho auxilia na transição de explicações estáticas para explicações interativas, tornando a relação entre humano e máquina mais transparente e confiável.

Limitações e próximos passos

Apesar da utilidade percebida, os designers participantes relataram dificuldades na criação de diagramas de interação. Eles sugeriram melhorias na abordagem, como a inclusão de lembretes para apoiar o raciocínio especificamente durante essa etapa. O paper não detalha quais serão as próximas ações dos pesquisadores além dessas sugestões coletadas.

Quem são os pesquisadoresPerfil destilado da equipe por trás do paper

Quem são os pesquisadores

O estudo foi desenvolvido pelos pesquisadores José Cezar de Souza Filho, Rafik Belloum, Ingrid Teixeira Monteiro e Káthia Marçal de Oliveira, todos vinculados à Universidade Federal do Ceará (UFC). O paper não detalha a formação acadêmica específica, títulos ou trajetória profissional prévia dos autores, limitando-se a informar seus nomes e afiliação institucional no contexto desta pesquisa sobre design de interfaces.

Leitura para gestão públicaComo esta pesquisa pode virar política

Implementação destes direcionamentos de design em portais de governo digital que utilizam IA (chatbots de atendimento, sistemas de triagem), garantindo que o cidadão utilize a tecnologia de forma crítica e segura, evitando erros por excesso de automatismo.

Parceria universidade × empresa

Quem, com quem,
e pra quê

Parceria entre a UFC e grandes empresas de software (fintechs, healthtechs) para validar os artefatos em escala real e integrar a metodologia em frameworks de Design System corporativos, aumentando a maturidade das interfaces de IA do mercado local.

Oportunidades derivadas

3 direções estratégicas identificadas

Startup
UX-XAI Toolkit
Ferramenta SaaS para designers que oferece templates interativos baseados nos artefatos da pesquisa para modelar a confiança do usuário em interfaces de IA.
Impacto médio · Software
Parceria
Lab de IA Confiável UFC-Empresa
Projeto colaborativo para adaptar e testar a metodologia de design em contextos industriais específicos (ex: agricultura de precisão ou telemedicina).
Impacto alto · Inteligência Artificial
Produto Corporativo
Módulo de Interatividade XAI
Integração dos conceitos de 'reliance-aware' em plataformas de Business Intelligence (BI) e dashboards analíticos corporativos.
Impacto médio · Ciência de Dados

Palavras-chaveUser interface User interface design Interface (matter)Natural user interface User experience design