통계학자를 위한 대규모 언어 모델 개요

초록

대형 언어 모델(LLMs)은 인공지능(AI) 분야에서 혁신적인 도구로 부상하며, 텍스트 생성, 추론, 의사결정 등 다양한 작업에서 뛰어난 능력을 보여주고 있습니다. 이들의 성공은 주로 컴퓨팅 파워와 딥러닝 아키텍처의 발전에 의해 주도되었지만, 불확실성 정량화, 의사결정, 인과 추론, 분포 변화와 같은 영역에서 발생하는 새로운 문제들은 통계학 분야와의 보다 깊은 협력을 요구하고 있습니다. 본 논문은 통계학자들이 LLMs의 개발, 특히 인간 사용자를 위한 신뢰성과 투명성을 확보하려는 LLMs의 발전에 중요한 기여를 할 수 있는 잠재적 영역을 탐구합니다. 이를 위해 우리는 불확실성 정량화, 해석 가능성, 공정성, 프라이버시, 워터마킹 및 모델 적응과 같은 문제에 초점을 맞춥니다. 또한 통계 분석에서 LLMs의 가능한 역할도 고려합니다. AI와 통계학을 연결함으로써, 우리는 LLMs의 이론적 기반과 실제 응용을 모두 발전시키고, 궁극적으로 복잡한 사회적 문제 해결에서의 역할을 형성하는 데 기여할 수 있는 더 깊은 협력을 촉진하고자 합니다.

English

Large Language Models (LLMs) have emerged as transformative tools in artificial intelligence (AI), exhibiting remarkable capabilities across diverse tasks such as text generation, reasoning, and decision-making. While their success has primarily been driven by advances in computational power and deep learning architectures, emerging problems -- in areas such as uncertainty quantification, decision-making, causal inference, and distribution shift -- require a deeper engagement with the field of statistics. This paper explores potential areas where statisticians can make important contributions to the development of LLMs, particularly those that aim to engender trustworthiness and transparency for human users. Thus, we focus on issues such as uncertainty quantification, interpretability, fairness, privacy, watermarking and model adaptation. We also consider possible roles for LLMs in statistical analysis. By bridging AI and statistics, we aim to foster a deeper collaboration that advances both the theoretical foundations and practical applications of LLMs, ultimately shaping their role in addressing complex societal challenges.

통계학자를 위한 대규모 언어 모델 개요

An Overview of Large Language Models for Statisticians

초록

Summary

Support

Support