LLM 시대의 자동화된 커널 생성 방향

Towards Automated Kernel Generation in the Era of LLMs

January 22, 2026

저자: Yang Yu, Peiyu Zang, Chi Hsu Tsai, Haiming Wu, Yixin Shen, Jialing Zhang, Haoyu Wang, Zhiyou Xiao, Jingze Shi, Yuyu Luo, Wentao Zhang, Chunlei Men, Guang Liu, Yonghua Lin

cs.AI

초록

현대 AI 시스템의 성능은 근본적으로 고수준 알고리즘 의미론을 저수준 하드웨어 연산으로 변환하는 기반 커널의 품질에 의해 제약받습니다. 최적에 가까운 커널을 달성하려면 하드웨어 아키텍처와 프로그래밍 모델에 대한 전문가 수준의 이해가 필요하며, 이로 인해 커널 엔지니어링은 중요하지만 악명 높게 시간이 많이 소요되고 확장성이 부족한 과정이 되었습니다. 대규모 언어 모델(LLM)과 LLM 기반 에이전트의 최근 발전은 커널 생성 및 최적화 자동화에 새로운 가능성을 열었습니다. LLM은 형식화하기 어려운 전문가 수준의 커널 지식을 압축하는 데 적합하며, 에이전트 시스템은 커널 개발을 반복적이고 피드백 주도적인 루프로 전환함으로써 확장 가능한 최적화를 더욱 가능하게 합니다. 이 분야에서 빠른 진전이 이루어졌으나, 여전히 연구가 단편적으로 진행되어 LLM 주도 커널 생성에 대한 체계적인 관점이 부족한 실정입니다. 본 설문 논문은 LLM 기반 접근법과 에이전트 최적화 워크플로우를 아우르는 기존 방법론들의 구조적 개요를 제공하고, 이 분야의 학습과 평가를 뒷받침하는 데이터셋 및 벤치마크를 체계적으로 정리함으로써 이러한 격차를 해소하고자 합니다. 더 나아가 주요 미해결 과제와 향후 연구 방향을 추가로 제시함으로써 차세대 자동화 커널 최적화를 위한 포괄적인 참고자료를 마련하는 것을 목표로 합니다. 본 분야의 동향을 파악하기 위해 https://github.com/flagos-ai/awesome-LLM-driven-kernel-generation 에서 오픈소스 GitHub 저장소를 유지 관리하고 있습니다.

English

The performance of modern AI systems is fundamentally constrained by the quality of their underlying kernels, which translate high-level algorithmic semantics into low-level hardware operations. Achieving near-optimal kernels requires expert-level understanding of hardware architectures and programming models, making kernel engineering a critical but notoriously time-consuming and non-scalable process. Recent advances in large language models (LLMs) and LLM-based agents have opened new possibilities for automating kernel generation and optimization. LLMs are well-suited to compress expert-level kernel knowledge that is difficult to formalize, while agentic systems further enable scalable optimization by casting kernel development as an iterative, feedback-driven loop. Rapid progress has been made in this area. However, the field remains fragmented, lacking a systematic perspective for LLM-driven kernel generation. This survey addresses this gap by providing a structured overview of existing approaches, spanning LLM-based approaches and agentic optimization workflows, and systematically compiling the datasets and benchmarks that underpin learning and evaluation in this domain. Moreover, key open challenges and future research directions are further outlined, aiming to establish a comprehensive reference for the next generation of automated kernel optimization. To keep track of this field, we maintain an open-source GitHub repository at https://github.com/flagos-ai/awesome-LLM-driven-kernel-generation.