Технический отчет Qwen3Guard

Аннотация

По мере того как крупные языковые модели (LLM) становятся более мощными и широко используемыми, обеспечение безопасности их выходных данных становится всё более критически важным. Существующие модели-ограничители, хотя и полезны в статических условиях оценки, сталкиваются с двумя основными ограничениями в реальных приложениях: (1) они обычно выводят только бинарные метки "безопасно/небезопасно", которые могут интерпретироваться неоднозначно в рамках различных политик безопасности, что делает их неспособными учитывать различные уровни допустимости рисков в разных областях; и (2) они требуют полного вывода модели перед выполнением проверки безопасности, что делает их принципиально несовместимыми с потоковым выводом LLM, тем самым препятствуя своевременному вмешательству в процессе генерации и увеличивая риск воздействия вредоносных частичных выводов. Для решения этих проблем мы представляем Qwen3Guard, серию многоязычных моделей-ограничителей безопасности с двумя специализированными вариантами: Generative Qwen3Guard, которая преобразует классификацию безопасности в задачу следования инструкциям для обеспечения детализированных трёхклассовых суждений (безопасно, спорно, небезопасно); и Stream Qwen3Guard, которая вводит классификатор на уровне токенов для мониторинга безопасности в реальном времени в процессе инкрементной генерации текста. Оба варианта доступны в трёх размерах (0.6B, 4B и 8B параметров) и поддерживают до 119 языков и диалектов, обеспечивая комплексную, масштабируемую и низкозатратную модерацию безопасности для глобальных развёртываний LLM. Оцененные на английских, китайских и многоязычных тестах, модели Qwen3Guard демонстрируют передовые результаты в классификации безопасности как запросов, так и ответов. Все модели выпущены под лицензией Apache 2.0 для общественного использования.

English

As large language models (LLMs) become more capable and widely used, ensuring the safety of their outputs is increasingly critical. Existing guardrail models, though useful in static evaluation settings, face two major limitations in real-world applications: (1) they typically output only binary "safe/unsafe" labels, which can be interpreted inconsistently across diverse safety policies, rendering them incapable of accommodating varying safety tolerances across domains; and (2) they require complete model outputs before performing safety checks, making them fundamentally incompatible with streaming LLM inference, thereby preventing timely intervention during generation and increasing exposure to harmful partial outputs. To address these challenges, we present Qwen3Guard, a series of multilingual safety guardrail models with two specialized variants: Generative Qwen3Guard, which casts safety classification as an instruction-following task to enable fine-grained tri-class judgments (safe, controversial, unsafe); and Stream Qwen3Guard, which introduces a token-level classification head for real-time safety monitoring during incremental text generation. Both variants are available in three sizes (0.6B, 4B, and 8B parameters) and support up to 119 languages and dialects, providing comprehensive, scalable, and low-latency safety moderation for global LLM deployments. Evaluated across English, Chinese, and multilingual benchmarks, Qwen3Guard achieves state-of-the-art performance in both prompt and response safety classification. All models are released under the Apache 2.0 license for public use.

Технический отчет Qwen3Guard

Qwen3Guard Technical Report

Аннотация

Support