CyberFactory：実環境からのインスタンスによるサイバーセキュリティ能力の拡張

要旨

大規模言語モデル（LLM）のコーディング能力が向上し続けるにつれ、サイバーセキュリティ分野におけるその可能性はますます研究の注目を集めており、クローズドソースのLLM（例えばMythos）は高度なサイバーセキュリティ機能を提供している。しかしながら、既存のオープンソースの取り組みは限定的である。すなわち、先端的なオープンウェイトモデルは再現可能なサイバーセキュリティ学習ソリューションを提供しておらず、オープンソースの学習ソリューションは孤立したタスクに焦点を当てておりスケーラブルなエージェント的データを欠き、またエージェント的ロールアウトのスケーリングには強力なドメイン事前知識が必要である。本研究では、データ構築、トラジェクトリ合成、モデル学習を、概念実証（PoC）生成、脆弱性パッチ適用、サイバーセキュリティ質問応答（CyberQA）にわたって結びつける、統合オープンソースフレームワークであるCyberFactoryを提案する。CyberFactoryは、実環境由来のCVEを含む公開された脆弱性アーティファクトを、実行可能かつ検証可能なタスクインスタンスに変換する。さらに、再利用可能な脆弱性分析スキルを用いて、ソースコード検査、ドメイン事前知識に基づく問題解決、エビデンスに基づく検証を通じて教師モデルを導く。結果として得られる教師信号はエージェント的であり、モデルはツールや対象環境と対話し、実行フィードバックに基づいて解を修正する。これらのトラジェクトリを用いて、我々は\modelname（Aegisは、ギリシャ神話においてゼウスとアテナの保護の盾であり、その名称はモデルの防御的・セキュリティ志向の目的を反映している）を訓練し公開する。\modelnameは、推論時にそのスキルを必要とせずに、スキルに導かれた手順を内面化している。CyberGym上では、\modelnameは1時間の時間予算の下で52.4%のPass@1を達成し、ベースモデルであるQwen 3.5を+22.8ポイント上回り、同じスキャフォールドの下で評価された汎用バックボーンモデルを凌駕する。

English

As large language models (LLMs) continue to advance in coding capabilities, their potential in cybersecurity has drawn increasing research attention, with closed-source LLMs (e.g., Mythos) delivering advanced cybersecurity capabilities. However, existing open-source efforts remain limited: frontier open-weight models do not provide reproducible cybersecurity training solutions, open-source training solutions focus on isolated tasks and lack scalable agentic data, and scaling agentic rollouts requires strong domain priors. In this work, we introduce CyberFactory, a unified open-source framework that connects data construction, trajectory synthesis, and model training across proof-of-concept (PoC) generation, vulnerability patching, and cybersecurity question answering (CyberQA). CyberFactory transforms public vulnerability artifacts, including CVEs from the wild, into executable and verifiable task instances. It further uses a reusable vulnerability-analysis skill to guide the teacher through source inspection, problem solving with domain prior, and evidence-based validation. The resulting supervision is agentic: the model interacts with tools and target environments and revises its solutions according to execution feedback. Using these trajectories, we train and release \modelname\emph{Aegis is, in Greek mythology, the protective shield of Zeus and Athena; the name reflects the model's defensive, security-oriented purpose.}, which internalizes the skill-guided procedure without requiring the skill at inference time. On CyberGym, \modelname reaches 52.4% Pass@1 under a one-hour budget, improving over its Qwen~3.5 base model by +22.8 points and outperforming the evaluated general-purpose backbones under the same scaffold.