CAD-Tokenizer: Verso la Prototipazione CAD Basata su Testo tramite Tokenizzazione Specifica per Modalità

CAD-Tokenizer: Towards Text-based CAD Prototyping via Modality-Specific Tokenization

September 25, 2025

Autori: Ruiyu Wang, Shizhao Sun, Weijian Ma, Jiang Bian

cs.AI

Abstract

Il Computer-Aided Design (CAD) è un componente fondamentale del prototipaggio industriale, in cui i modelli sono definiti non da coordinate grezze ma da sequenze di costruzione come schizzi ed estrusioni. Questa struttura sequenziale consente sia un'efficiente inizializzazione del prototipo che una successiva modifica. Il prototipaggio CAD guidato da testo, che unisce la generazione da testo a CAD e la modifica CAD, ha il potenziale di ottimizzare l'intero flusso di progettazione. Tuttavia, i lavori precedenti non hanno esplorato questo contesto, principalmente perché i tokenizer standard dei modelli linguistici di grandi dimensioni (LLM) scompongono le sequenze CAD in frammenti di parole di linguaggio naturale, non riuscendo a catturare la semantica a livello di primitiva CAD e impedendo ai moduli di attenzione di modellare la struttura geometrica. Noi ipotizziamo che una strategia di tokenizzazione multimodale, allineata con la natura primitiva e strutturale del CAD, possa fornire rappresentazioni più efficaci. A tal fine, proponiamo CAD-Tokenizer, un framework che rappresenta i dati CAD con token specifici per modalità utilizzando un VQ-VAE basato su sequenze con pooling a livello di primitiva e decodifica vincolata. Questo design produce rappresentazioni compatte e consapevoli delle primitive, allineate con la natura strutturale del CAD. Applicato al prototipaggio CAD guidato da testo unificato, CAD-Tokenizer migliora significativamente il rispetto delle istruzioni e la qualità della generazione, ottenendo prestazioni quantitative e qualitative migliori rispetto sia agli LLM generici che ai baseline specifici per il compito.

English

Computer-Aided Design (CAD) is a foundational component of industrial prototyping, where models are defined not by raw coordinates but by construction sequences such as sketches and extrusions. This sequential structure enables both efficient prototype initialization and subsequent editing. Text-guided CAD prototyping, which unifies Text-to-CAD generation and CAD editing, has the potential to streamline the entire design pipeline. However, prior work has not explored this setting, largely because standard large language model (LLM) tokenizers decompose CAD sequences into natural-language word pieces, failing to capture primitive-level CAD semantics and hindering attention modules from modeling geometric structure. We conjecture that a multimodal tokenization strategy, aligned with CAD's primitive and structural nature, can provide more effective representations. To this end, we propose CAD-Tokenizer, a framework that represents CAD data with modality-specific tokens using a sequence-based VQ-VAE with primitive-level pooling and constrained decoding. This design produces compact, primitive-aware representations that align with CAD's structural nature. Applied to unified text-guided CAD prototyping, CAD-Tokenizer significantly improves instruction following and generation quality, achieving better quantitative and qualitative performance over both general-purpose LLMs and task-specific baselines.