Причинное обнаружение в эпоху агентов

Аннотация

В последние годы предпринимались попытки объединения больших языковых моделей (БЯМ) с обнаружением причинно-следственных связей: модели использовались для вывода направленности парных связей, предложения структуры графов или внедрения результатов работы языковых моделей в качестве априорных знаний и ограничений. Такой подход обещает ускорение анализа, но при этом затрудняет понимание того, подтверждается ли причинный вывод данными и предположениями или же текстовыми ассоциациями, артефактами запроса и галлюцинированными механизмами. Мы выступаем за иную роль агентов в обнаружении причинных связей. Агенты должны проверять данные, извлекать контекст, пояснять методологические предположения и уточнять выходные графы, но не должны предоставлять рёбра, ориентации, априорную информацию, ограничения или причинные заключения. Мы предлагаем принцип, согласно которому агенты лишь содействуют рабочему процессу, тогда как причинные утверждения остаются обоснованными на данных, явно сформулированных допущениях, формальных алгоритмах, диагностике и решениях пользователя или эксперта в предметной области. Этот принцип реализован в платформе causal-learn+ — онлайн-инструменте, координирующем анализ данных, предобработку, рекомендации по методам, внедрение экспертных знаний, формальное обнаружение и интерпретацию на основе алгоритмической экосистемы causal-learn. Пример использования на данных «Большой пятерки» личностных черт иллюстрирует агентно-ассистированный конвейер причинного вывода, не превращающий ненадёжность языковой модели в подтверждение причинно-следственных связей. Платформа доступна по адресу causallearn.com.

English

Recent attempts to combine large language models (LLMs) with causal discovery ask models to infer pairwise directions, propose graph structures, or inject language-model outputs as priors and constraints. These approaches promise faster analysis, but they also obscure whether a causal evidence is supported by data and assumptions or by textual associations, prompt artifacts and hallucinated mechanisms. We argue for a different role for agents in causal discovery. Agents should inspect data, retrieve context, explain method assumptions and clarify graph outputs, but they should not supply edges, orientations, priors, constraints or causal conclusions. We propose the principle that agents assist the workflow, while causal claims remain grounded in data, explicit assumptions, formal algorithms, diagnostics and user or domain-expert decisions. We instantiate this principle in causal-learn+, an online platform that coordinates data analysis, preprocessing, method recommendation, expert-knowledge incorporation, formal discovery and interpretation around the algorithmic ecosystem of causal-learn. A case study on Big Five personality data illustrates agent-assisted pipeline of causal discovery without turning language-model unreliability into causal evidence. The platform is available at causallearn.com.