CoD, 진단 체인을 활용한 해석 가능한 의료 에이전트를 향하여

CoD, Towards an Interpretable Medical Agent using Chain of Diagnosis

July 18, 2024

저자: Junying Chen, Chi Gui, Anningzhe Gao, Ke Ji, Xidong Wang, Xiang Wan, Benyou Wang

cs.AI

초록

의료 진단 분야는 대형 언어 모델(LLM)의 등장으로 상당한 변화를 겪었지만, 이러한 모델 내의 해석 가능성 문제는 여전히 크게 해결되지 않고 있습니다. 본 연구에서는 LLM 기반 의료 진단의 해석 가능성을 향상시키기 위해 Chain-of-Diagnosis(CoD)를 제안합니다. CoD는 진단 과정을 의사의 사고 과정을 반영하는 진단 체인으로 변환하여 투명한 추론 경로를 제공합니다. 또한, CoD는 질병 신뢰도 분포를 출력하여 의사결정의 투명성을 보장합니다. 이러한 해석 가능성은 모델 진단을 제어 가능하게 만들고, 신뢰도의 엔트로피 감소를 통해 질문할 중요한 증상을 식별하는 데 도움을 줍니다. CoD를 기반으로 우리는 9604가지 질병을 진단할 수 있는 DiagnosisGPT를 개발했습니다. 실험 결과, DiagnosisGPT는 진단 벤치마크에서 다른 LLM들을 능가하는 성능을 보였습니다. 더 나아가, DiagnosisGPT는 진단의 엄격성을 제어하면서도 해석 가능성을 제공합니다.

English

The field of medical diagnosis has undergone a significant transformation with the advent of large language models (LLMs), yet the challenges of interpretability within these models remain largely unaddressed. This study introduces Chain-of-Diagnosis (CoD) to enhance the interpretability of LLM-based medical diagnostics. CoD transforms the diagnostic process into a diagnostic chain that mirrors a physician's thought process, providing a transparent reasoning pathway. Additionally, CoD outputs the disease confidence distribution to ensure transparency in decision-making. This interpretability makes model diagnostics controllable and aids in identifying critical symptoms for inquiry through the entropy reduction of confidences. With CoD, we developed DiagnosisGPT, capable of diagnosing 9604 diseases. Experimental results demonstrate that DiagnosisGPT outperforms other LLMs on diagnostic benchmarks. Moreover, DiagnosisGPT provides interpretability while ensuring controllability in diagnostic rigor.