Kausale Entdeckung im Zeitalter der Agenten

Zusammenfassung

Jüngste Versuche, große Sprachmodelle (Large Language Models, LLMs) mit kausaler Entdeckung zu kombinieren, fordern Modelle dazu auf, paarweise Richtungen abzuleiten, Graphstrukturen vorzuschlagen oder Ausgaben von Sprachmodellen als Priorwissen und Einschränkungen einzubringen. Diese Ansätze versprechen schnellere Analysen, verschleiern jedoch auch, ob eine kausale Evidenz durch Daten und Annahmen oder durch textuelle Assoziationen, Prompt-Artefakte und halluzinierte Mechanismen gestützt wird. Wir plädieren für eine andere Rolle von Agenten in der kausalen Entdeckung. Agenten sollten Daten untersuchen, Kontext abrufen, Methodenannahmen erklären und Graphausgaben erläutern, aber sie sollten keine Kanten, Orientierungen, Priorwissen, Einschränkungen oder kausale Schlussfolgerungen liefern. Wir schlagen das Prinzip vor, dass Agenten den Arbeitsablauf unterstützen, während kausale Behauptungen auf Daten, expliziten Annahmen, formalen Algorithmen, Diagnostiken sowie Entscheidungen von Nutzern oder Fachexperten beruhen bleiben. Wir setzen dieses Prinzip in causal-learn+ um, einer Online-Plattform, die Datenanalyse, Vorverarbeitung, Methodenempfehlung, Einbeziehung von Expertenwissen, formale Entdeckung und Interpretation rund um das algorithmische Ökosystem von causal-learn koordiniert. Eine Fallstudie mit Big-Five-Persönlichkeitsdaten veranschaulicht eine agentengestützte Pipeline kausaler Entdeckung, ohne die Unzuverlässigkeit von Sprachmodellen in kausale Evidenz umzuwandeln. Die Plattform ist unter causallearn.com verfügbar.

English

Recent attempts to combine large language models (LLMs) with causal discovery ask models to infer pairwise directions, propose graph structures, or inject language-model outputs as priors and constraints. These approaches promise faster analysis, but they also obscure whether a causal evidence is supported by data and assumptions or by textual associations, prompt artifacts and hallucinated mechanisms. We argue for a different role for agents in causal discovery. Agents should inspect data, retrieve context, explain method assumptions and clarify graph outputs, but they should not supply edges, orientations, priors, constraints or causal conclusions. We propose the principle that agents assist the workflow, while causal claims remain grounded in data, explicit assumptions, formal algorithms, diagnostics and user or domain-expert decisions. We instantiate this principle in causal-learn+, an online platform that coordinates data analysis, preprocessing, method recommendation, expert-knowledge incorporation, formal discovery and interpretation around the algorithmic ecosystem of causal-learn. A case study on Big Five personality data illustrates agent-assisted pipeline of causal discovery without turning language-model unreliability into causal evidence. The platform is available at causallearn.com.