Descoberta Causal na Era dos Agentes

Resumo

Tentativas recentes de combinar grandes modelos de linguagem (LLMs) com descoberta causal pedem que os modelos infiram direções aos pares, proponham estruturas de grafo ou injetem saídas de modelos de linguagem como prioris e restrições. Essas abordagens prometem uma análise mais rápida, mas também obscurecem se uma evidência causal é suportada por dados e pressupostos ou por associações textuais, artefatos de prompt e mecanismos alucinados. Argumentamos por um papel diferente para agentes na descoberta causal. Agentes devem inspecionar dados, recuperar contexto, explicar pressupostos do método e esclarecer as saídas do grafo, mas não devem fornecer arestas, orientações, prioris, restrições ou conclusões causais. Propomos o princípio de que os agentes auxiliam o fluxo de trabalho, enquanto as afirmações causais permanecem fundamentadas em dados, pressupostos explícitos, algoritmos formais, diagnósticos e decisões do usuário ou de especialistas no domínio. Instanciamos esse princípio no causal-learn+, uma plataforma online que coordena análise de dados, pré-processamento, recomendação de métodos, incorporação de conhecimento especializado, descoberta formal e interpretação em torno do ecossistema algorítmico do causal-learn. Um estudo de caso sobre dados de personalidade dos Cinco Grandes Fatores ilustra um pipeline assistido por agente de descoberta causal sem transformar a falta de confiabilidade do modelo de linguagem em evidência causal. A plataforma está disponível em causallearn.com.

English

Recent attempts to combine large language models (LLMs) with causal discovery ask models to infer pairwise directions, propose graph structures, or inject language-model outputs as priors and constraints. These approaches promise faster analysis, but they also obscure whether a causal evidence is supported by data and assumptions or by textual associations, prompt artifacts and hallucinated mechanisms. We argue for a different role for agents in causal discovery. Agents should inspect data, retrieve context, explain method assumptions and clarify graph outputs, but they should not supply edges, orientations, priors, constraints or causal conclusions. We propose the principle that agents assist the workflow, while causal claims remain grounded in data, explicit assumptions, formal algorithms, diagnostics and user or domain-expert decisions. We instantiate this principle in causal-learn+, an online platform that coordinates data analysis, preprocessing, method recommendation, expert-knowledge incorporation, formal discovery and interpretation around the algorithmic ecosystem of causal-learn. A case study on Big Five personality data illustrates agent-assisted pipeline of causal discovery without turning language-model unreliability into causal evidence. The platform is available at causallearn.com.