도움을 요청하는 로봇: 대규모 언어 모델 플래너를 위한 불확실성 정렬

초록

대규모 언어 모델(LLMs)은 단계별 계획 수립부터 상식적 추론에 이르기까지 로봇에게 유용할 수 있는 다양한 잠재력을 보여주지만, 여전히 확신에 찬 허구적 예측을 내놓는 경향이 있습니다. 본 연구에서는 LLM 기반 계획 시스템이 자신이 모르는 것을 알고 필요할 때 도움을 요청할 수 있도록 불확실성을 측정하고 조정하는 프레임워크인 KnowNo를 제안합니다. KnowNo는 컨포멀 예측(conformal prediction) 이론을 기반으로 하여 복잡한 다단계 계획 설정에서 인간의 도움을 최소화하면서 작업 완료에 대한 통계적 보장을 제공합니다. 공간적 불확실성부터 수치적 불확실성, 인간 선호도부터 위노그래드 스키마(Winograd schemas)에 이르기까지 다양한 모드의 모호성을 포함하는 시뮬레이션 및 실제 로봇 설정에서의 실험 결과, KnowNo는 앙상블이나 광범위한 프롬프트 튜닝을 포함할 수 있는 현대적 베이스라인 대비 효율성과 자율성을 개선하면서 공식적 보장을 제공하는 데 유리한 성능을 보였습니다. KnowNo는 모델 미세 조정 없이도 바로 사용 가능한 LLM과 함께 사용할 수 있으며, 기초 모델의 성장하는 능력과 보완적이고 확장 가능한 경량화된 불확실성 모델링 접근 방식을 제시합니다. 웹사이트: https://robot-help.github.io

English

Large language models (LLMs) exhibit a wide range of promising capabilities -- from step-by-step planning to commonsense reasoning -- that may provide utility for robots, but remain prone to confidently hallucinated predictions. In this work, we present KnowNo, which is a framework for measuring and aligning the uncertainty of LLM-based planners such that they know when they don't know and ask for help when needed. KnowNo builds on the theory of conformal prediction to provide statistical guarantees on task completion while minimizing human help in complex multi-step planning settings. Experiments across a variety of simulated and real robot setups that involve tasks with different modes of ambiguity (e.g., from spatial to numeric uncertainties, from human preferences to Winograd schemas) show that KnowNo performs favorably over modern baselines (which may involve ensembles or extensive prompt tuning) in terms of improving efficiency and autonomy, while providing formal assurances. KnowNo can be used with LLMs out of the box without model-finetuning, and suggests a promising lightweight approach to modeling uncertainty that can complement and scale with the growing capabilities of foundation models. Website: https://robot-help.github.io

도움을 요청하는 로봇: 대규모 언어 모델 플래너를 위한 불확실성 정렬

Robots That Ask For Help: Uncertainty Alignment for Large Language Model Planners

초록

Support