Um facto pode estar correcto e, ainda assim, ser atribuído à fonte errada. É esse problema que a Multiverse Computing procura abordar com o ProvenanceGuard, uma camada de verificação para agentes de inteligência artificial que usam ferramentas através do Model Context Protocol (MCP). A empresa apresentou a abordagem num artigo publicado na Hugging Face a 29 de Setembro de 2026, intitulado “Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents”.
Os agentes MCP podem combinar resultados de pesquisa, registos estruturados, bases de dados e metadados numa só resposta. Segundo os autores, verificadores de factualidade que avaliam a evidência depois de a juntar podem considerar válida uma afirmação que aparece nos dados sem detectar que a resposta a atribui à ferramenta ou ao documento errado. O artigo chama a este problema “cross-source conflation”, ou confusão entre fontes. Menciona, como exemplos de sistemas de verificação, RAGAS, MiniCheck, AlignScore e SummaC.
O exemplo apresentado é o de um agente de apoio ao cliente que afirma que um plano tem um prazo de reembolso de 30 dias “de acordo com o registo da conta”, quando essa informação consta, na realidade, de um documento de política. A afirmação pode ser verdadeira, mas a atribuição não. Os autores descrevem uma distinção semelhante em aplicações clínicas: um dado do historial de um doente não deve ser apresentado como se viesse da literatura médica.
O ProvenanceGuard funciona depois de o agente gerar uma resposta e, segundo a descrição, não exige o seu retreino. Analisa o registo das chamadas MCP, incluindo os resultados das ferramentas e os identificadores das fontes, sem reduzir a evidência a um contexto anónimo. Decompõe a resposta em afirmações, procura a fonte mais relevante para cada uma, verifica se essa fonte a sustenta e compara-a com a origem indicada ou sugerida no texto. No final, produz uma avaliação por afirmação e uma decisão global para permitir ou bloquear a resposta.
A verificação inclui também números, datas e identificadores: um valor ausente da fonte não deve ser aceite apenas por a frase parecer plausível. Se uma resposta for bloqueada, uma etapa de reparação inspirada no RARR pode tentar reformulá-la com base numa fonte adequada ou recorrer a uma alternativa segura; a versão revista volta a ser verificada. Nos ensaios descritos, os autores usaram modelos locais: MiniLM para encontrar fontes relevantes, um modelo DeBERTa para verificar o apoio às afirmações e um modelo de linguagem local para as decompor. A equipa ressalva que estes modelos fazem parte da configuração avaliada, não são um requisito do método, e que outras configurações precisam de testes e calibração próprios.
A avaliação incidiu sobre 281 registos reais de um agente médico que consultou registos de doentes, artigos de investigação e outras ferramentas. O excerto fornecido não apresenta métricas de desempenho, pelo que não permite quantificar a eficácia do sistema. Os autores consideram a abordagem adequada a contextos sensíveis a dados, mas os resultados descritos são da configuração local que avaliaram. A evidência fornecida não inclui uma avaliação independente.
Porque importa
Em aplicações clínicas, financeiras ou de apoio ao cliente, a origem de uma informação pode ser tão importante como a sua exactidão. Verificadores que avaliam apenas a evidência agregada podem não detectar atribuições erradas.