PACE：ユーザー要求に潜む隠れた衝突の表面化に向けて

要旨

パーソナライズされたアシスタントは、ユーザーの要求に従うだけでなく、その要求がユーザーの現在の状況を考慮して適切かどうかを判断すべきである。しかし、既存研究は主に要求を正確に実行することに焦点を当てており、アシスタントが文脈を考慮し、競合に基づく拒否を行う必要性を見落としてきた。さらに、既存の競合検出や安全性検出の研究は明示的に提供された要因に依存しているが、実世界のシナリオでは、知識ベース（KB）から取得しなければならない暗黙的な要因が関与することが多い。そこで我々は、一見合理的に見えるユーザー要求を不適切にする潜在的な制約（一人称視点の知識や出来事として表現される）をモデルが識別できるかを評価するためのデータセット、Personalized Assistants for Conflict Evaluation (PACE) を導入する。PACEは、明確に定義されたペルソナに基づくユーザー要求と一人称視点のKB事実をペアにし、モデルが文脈上の証拠を統合して要求が競合しているかどうかを判断することを要求する。この暗黙的な検索設定は、ユーザー要求と競合を誘発する知識との直接的な関連付けを妨げるため、既存モデルが関連するユーザー固有の事実を特定することを困難にしている。この課題に対処するため、我々はさらにPaceMakerを提案する。これは、特殊化されたエージェントがクエリ再構成、マルチホップグラフ探索、競合を考慮したフィルタリングにわたって連携し、文脈上決定的な証拠を検索するマルチエージェントフレームワークである。PACEでの実験では、証拠検索の質と競合判定の精度の両方を評価し、PaceMakerが既存手法を一貫して上回ることを示している。

English

Personalized assistants should not only comply with user requests but also assess whether those requests are appropriate given the user's current circumstances. However, prior work has primarily focused on accurately executing requests, overlooking the need for assistants to account for context and engage in conflict-based refusal. Furthermore, while existing work on conflict or safety detection relies on explicitly provided factors, real-world scenarios often involve implicit factors that must be retrieved from a knowledge base (KB). To this end, we introduce Personalized Assistants for Conflict Evaluation (PACE), a dataset for evaluating whether models can identify latent constraints, expressed as egocentric knowledge or events, that render seemingly reasonable user requests inappropriate. PACE pairs user requests grounded in well-defined personas with egocentric KB facts, requiring models to integrate contextual evidence to determine whether a request is conflicting. This implicit retrieval setting hinders the direct association between user requests and conflict-inducing knowledge, making it difficult for existing models to identify relevant user-specific facts. To address this challenge, we further propose PaceMaker, a multi-agent framework in which specialized agents coordinate across query reformulation, multi-hop graph traversal, and conflict-aware filtering to retrieve contextually decisive evidence. Experiments on PACE evaluate both evidence retrieval quality and conflict decision accuracy, showing that PaceMaker consistently outperforms existing approaches.