Descubrimiento Causal en la Era de los Agentes

Resumen

Intentos recientes de combinar grandes modelos de lenguaje (LLMs) con el descubrimiento causal piden a los modelos inferir direcciones por pares, proponer estructuras de grafos, o inyectar salidas de modelos de lenguaje como previas y restricciones. Estos enfoques prometen un análisis más rápido, pero también ocultan si una evidencia causal está respaldada por datos y supuestos o por asociaciones textuales, artefactos de instrucciones y mecanismos alucinados. Defendemos un rol diferente para los agentes en el descubrimiento causal. Los agentes deben inspeccionar datos, recuperar contexto, explicar los supuestos del método y aclarar las salidas del grafo, pero no deben proporcionar aristas, orientaciones, previas, restricciones ni conclusiones causales. Proponemos el principio de que los agentes asisten al flujo de trabajo, mientras que las afirmaciones causales permanecen fundamentadas en datos, supuestos explícitos, algoritmos formales, diagnósticos y decisiones del usuario o del experto en el dominio. Materializamos este principio en causal-learn+, una plataforma en línea que coordina análisis de datos, preprocesamiento, recomendación de métodos, incorporación de conocimiento experto, descubrimiento formal e interpretación en torno al ecosistema algorítmico de causal-learn. Un caso de estudio con datos de personalidad Big Five ilustra el pipeline asistido por agentes de descubrimiento causal sin convertir la falta de fiabilidad del modelo de lenguaje en evidencia causal. La plataforma está disponible en causallearn.com.

English

Recent attempts to combine large language models (LLMs) with causal discovery ask models to infer pairwise directions, propose graph structures, or inject language-model outputs as priors and constraints. These approaches promise faster analysis, but they also obscure whether a causal evidence is supported by data and assumptions or by textual associations, prompt artifacts and hallucinated mechanisms. We argue for a different role for agents in causal discovery. Agents should inspect data, retrieve context, explain method assumptions and clarify graph outputs, but they should not supply edges, orientations, priors, constraints or causal conclusions. We propose the principle that agents assist the workflow, while causal claims remain grounded in data, explicit assumptions, formal algorithms, diagnostics and user or domain-expert decisions. We instantiate this principle in causal-learn+, an online platform that coordinates data analysis, preprocessing, method recommendation, expert-knowledge incorporation, formal discovery and interpretation around the algorithmic ecosystem of causal-learn. A case study on Big Five personality data illustrates agent-assisted pipeline of causal discovery without turning language-model unreliability into causal evidence. The platform is available at causallearn.com.