カーソルコア：あらゆるものを整列させてプログラミングを支援

CursorCore: Assist Programming through Aligning Anything

October 9, 2024

著者: Hao Jiang, Qi Liu, Rui Li, Shengyu Ye, Shijin Wang

cs.AI

要旨

大規模言語モデルは、コード補完、コード挿入、および指示コード編集などのプログラミング支援タスクに成功裏に適用されてきました。しかし、これらのアプリケーションは未だ自動化が不十分であり、プログラミングプロセス中にコーディング履歴、現在のコード、およびユーザーの指示など、さまざまな情報を効果的に統合することに苦労しています。本研究では、これらの情報ソースを包括的に統合する新しい会話フレームワークを提案し、モデルを訓練し評価するためのデータを収集します。まず、モデルが異なるタイプの情報とその出力の品質とどのように整合するかを徹底的に評価するために、プログラミング支援タスクにおけるモデルのパフォーマンスを包括的に評価する新しいベンチマークであるAPEval（Assist Programming Eval）を導入します。次に、データ収集のために、GitHubやオンラインジャッジプラットフォームなどのさまざまなソースからトレーニングデータを合成するデータ生成パイプラインであるProgramming-Instructを開発します。このパイプラインは、プログラミングプロセス全体でさまざまなタイプのメッセージを自動的に生成できます。最後に、このパイプラインを使用して、219Kのサンプルを生成し、複数のモデルを微調整し、CursorCoreシリーズを開発します。CursorCoreが同等サイズの他のモデルを上回ることを示します。このフレームワークは、インラインチャットや自動編集などのアプリケーションを統一し、コーディングアシスタントの進歩に貢献します。コード、モデル、およびデータはhttps://github.com/TechxGenus/CursorCore で無料で利用可能です。

English

Large language models have been successfully applied to programming assistance tasks, such as code completion, code insertion, and instructional code editing. However, these applications remain insufficiently automated and struggle to effectively integrate various types of information during the programming process, including coding history, current code, and user instructions. In this work, we propose a new conversational framework that comprehensively integrates these information sources, collect data to train our models and evaluate their performance. Firstly, to thoroughly evaluate how well models align with different types of information and the quality of their outputs, we introduce a new benchmark, APEval (Assist Programming Eval), to comprehensively assess the performance of models in programming assistance tasks. Then, for data collection, we develop a data generation pipeline, Programming-Instruct, which synthesizes training data from diverse sources, such as GitHub and online judge platforms. This pipeline can automatically generate various types of messages throughout the programming process. Finally, using this pipeline, we generate 219K samples, fine-tune multiple models, and develop the CursorCore series. We show that CursorCore outperforms other models of comparable size. This framework unifies applications such as inline chat and automated editing, contributes to the advancement of coding assistants. Code, models and data are freely available at https://github.com/TechxGenus/CursorCore.