TableGPT: テーブル、自然言語、コマンドを一つのGPTに統合する試み

TableGPT: Towards Unifying Tables, Nature Language and Commands into One GPT

July 17, 2023

著者: Liangyu Zha, Junlin Zhou, Liyao Li, Rui Wang, Qingyi Huang, Saisai Yang, Jing Yuan, Changbao Su, Xiang Li, Aofeng Su, Tao Zhang, Chen Zhou, Kaizhe Shou, Miao Wang, Wufang Zhu, Guoshan Lu, Chao Ye, Yali Ye, Wentao Ye, Yiming Zhang, Xinglong Deng, Jie Xu, Haobo Wang, Gang Chen, Junbo Zhao

cs.AI

要旨

現実世界のデータベースでは表形式データが広く使われており、人間がこれを分析・操作するには多大な時間と労力を要します。大規模言語モデル（LLM）の進化により、自然言語入力を用いて表と対話することが可能になり、この機能が現実に近づいています。本論文では、TableGPTを紹介します。これはLLMが外部の機能コマンドを用いて表を理解し操作することを可能にする統一的なファインチューニングフレームワークです。TableGPTは表とのシームレスな対話機能を導入し、質問応答、データ操作（挿入、削除、クエリ、変更操作など）、データ可視化、分析レポート生成、自動予測といった幅広い機能を実現します。TableGPTは、ユーザーが表形式データを容易に活用できるようにすることで、利便性とアクセシビリティを提供することを目指しています。TableGPTの中核には、グローバルな表表現という新たな概念があり、これによりLLMはメタ情報を超えて表全体を包括的に理解することが可能になります。表とテキストの両モダリティを共同で学習させることで、TableGPTは表形式データを深く理解し、コマンドチェーン指示を通じて表に対する複雑な操作を実行する能力を獲得します。重要な点として、TableGPTは外部APIインターフェースに依存せず、自己完結型システムであるという利点を提供します。さらに、効率的なデータ処理フロー、適切な場合のクエリ拒否、プライベートデプロイメントをサポートし、ドメインデータの迅速なファインチューニングを可能にするとともにデータプライバシーを確保することで、特定のユースケースへのフレームワークの適応性を高めています。

English

Tables are prevalent in real-world databases, requiring significant time and effort for humans to analyze and manipulate. The advancements in large language models (LLMs) have made it possible to interact with tables using natural language input, bringing this capability closer to reality. In this paper, we present TableGPT, a unified fine-tuned framework that enables LLMs to understand and operate on tables using external functional commands. It introduces the capability to seamlessly interact with tables, enabling a wide range of functionalities such as question answering, data manipulation (e.g., insert, delete, query, and modify operations), data visualization, analysis report generation, and automated prediction. TableGPT aims to provide convenience and accessibility to users by empowering them to effortlessly leverage tabular data. At the core of TableGPT lies the novel concept of global tabular representations, which empowers LLMs to gain a comprehensive understanding of the entire table beyond meta-information. By jointly training LLMs on both table and text modalities, TableGPT achieves a deep understanding of tabular data and the ability to perform complex operations on tables through chain-of-command instructions. Importantly, TableGPT offers the advantage of being a self-contained system rather than relying on external API interfaces. Moreover, it supports efficient data process flow, query rejection (when appropriate) and private deployment, enabling faster domain data fine-tuning and ensuring data privacy, which enhances the framework's adaptability to specific use cases.