## Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B 기술 보고서

초록

사이버보안 분야 최초의 오픈소스 네이티브 추론 모델인 Foundation-Sec-8B-Reasoning을 소개합니다. 이 모델은 이전에 공개한 Foundation-Sec-8B 베이스 모델(Llama-3.1-8B-Base 기반)을 토대로, 지도 미세조정(SFT)과 검증 가능한 보상 강화학습(RLVR)을 결합한 2단계 학습 과정을 통해 훈련되었습니다. 학습에는 사이버보안 분석, 지시 따르기, 수학적 추론을 아우르는 독점 추론 데이터가 활용되었습니다. 10개의 사이버보안 벤치마크와 10개의 일반 목적 벤치마크에서의 평가 결과, 본 모델은 사이버보안 작업에서 훨씬 더 큰 모델들과 경쟁력 있는 성능을 보이면서도 강력한 일반 능력을 유지하는 것으로 나타났습니다. 해당 모델은 다중 논리 추론 작업에서 효과적인 일반화 성능을 보였으며, 적절한 시스템 프롬프트와 가드레일을 적용했을 때 뛰어난 안전성 성능을 나타냈습니다. 본 연구는 도메인 특화 추론 모델이 전문 작업에서 강력한 성능을 달성하면서도 폭넓은 일반 능력을 유지할 수 있음을 입증합니다. 모델은 https://huggingface.co/fdtn-ai/Foundation-Sec-8B-Reasoning 에서 공개합니다.

English

We present Foundation-Sec-8B-Reasoning, the first open-source native reasoning model for cybersecurity. Built upon our previously released Foundation-Sec-8B base model (derived from Llama-3.1-8B-Base), the model is trained through a two-stage process combining supervised fine-tuning (SFT) and reinforcement learning from verifiable rewards (RLVR). Our training leverages proprietary reasoning data spanning cybersecurity analysis, instruction-following, and mathematical reasoning. Evaluation across 10 cybersecurity benchmarks and 10 general-purpose benchmarks demonstrates performance competitive with significantly larger models on cybersecurity tasks while maintaining strong general capabilities. The model shows effective generalization on multi-hop reasoning tasks and strong safety performance when deployed with appropriate system prompts and guardrails. This work demonstrates that domain-specialized reasoning models can achieve strong performance on specialized tasks while maintaining broad general capabilities. We release the model publicly at https://huggingface.co/fdtn-ai/Foundation-Sec-8B-Reasoning.

## Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B 기술 보고서

Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B Technical Report

초록

Support