ChatPaper.aiChatPaper

훈련, 학습 및 추론: 신경 시스템의 통합 동역학

Training, learning and inference: unified dynamics of neural systems

August 21, 2026
저자: Mian Wang
cs.AI

초록

우리는 생성 사실의 출처, 실현된 변환, 구체적 발생, 생성 결과 및 관계 역할을 기록하는 원자적 생성 사실 f=(u,tau,omega,z;rho)를 정의한다. 생성 사실 그래프(GFG)로 컴파일된 이러한 사실들은 생성 이력을 보존하는 AI-네이티브하고 컴파일 가능한 과학적 사실 기반을 제공한다. 우리는 분석, 개입, 재연 및 검증이 이후 사이클을 위한 사실을 형성하는 GFG 기반 재귀적 과학 프로세스를 확립한다. 나노GPT를 사용하여 우리는 통합된 훈련-학습 동역학을 확립한다. 훈련은 상태와 메모리를 갖는 파라미터-옵티마이저 시스템의 진화로, 각각의 실제 훈련 행동은 수신 상태에 진입하며 해당 상태와 타겟 특정 업데이트 기하에 의해 조건화된 유한 진폭 비선형 함수적 반응을 생성한다. 학습은 이러한 반응들에 의한 분산 기능적 지원의 지속적 재조직이며, 능력 형성, 유지, 쇠퇴 또는 회복은 타겟 특정 상태가 판독 경계에 대해 평가될 때 관찰 가능해진다. 타겟 경계 상태, 타겟 특정 업데이트 기하 및 파라미터-Adam 수신 상태라는 세 가지 주요 좌표는 업데이트 후 출력이 판독되기 전에 작동하는 2차 예측기를 산출한다. 보류된 실행에서 이 예측기는 네 가지 전이에 걸쳐 91.43%의 정확도와 91.49%의 매크로 평균 재현율을 달성했다. 우리는 나아가 추론을 훈련-학습 동역학의 고정 투영으로 확립한다. 구성요소 게이팅과 롤백은 훈련 중 형성된 쿼리 조건화 지원의 인과적 모집과 비가산적 결합을 보여주며, 어텐션에 의해 실현되는 조직적 조건을 도출한다. 통제된 피드백은 가능한 양날의 강화 효과를 시사한다. ResNet/CIFAR-100 및 확산/CIFAR-10 실험은 나노GPT를 넘어서는 수신 상태 조건화 반응, 지속적 지원 재조직 및 고정 추론 투영을 확인한다.
English
We define an atomic generation fact f=(u,tau,omega,z;rho), recording the origin, realized transformation, concrete occurrence, generated result and relation role. Compiled into a Generation-Fact Graph (GFG), these facts provide an AI-native, compilable scientific fact substrate preserving generation histories. We establish a GFG-based recursive scientific process in which analysis, intervention, replay and validation form facts for later cycles. Using nanoGPT, we establish unified training-learning dynamics. Training is the evolution of a parameter-optimizer system with state and memory: each actual training action enters the receiving state and produces a finite-amplitude nonlinear functional response conditioned by that state and target-specific update geometry. Learning is the persistent reorganization of distributed functional support by these responses; capability formation, maintenance, decline or recovery becomes observable when target-specific states are evaluated against their readout boundaries. Three primary coordinates - target-boundary state, target-specific update geometry and parameter-Adam receiving state - yield a second-order predictor operating before post-update outputs are read. On held-out runs, it achieved 91.43% accuracy and 91.49% macro-averaged recall across four transitions. We further establish inference as a frozen projection of training-learning dynamics. Component gating and rollback show causal recruitment and non-additive combination of query-conditioned support formed during training, deriving organizational conditions realized by Attention. Controlled feedback indicates possible double-edged reinforcement effects. ResNet/CIFAR-100 and diffusion/CIFAR-10 experiments confirm receiving-state-conditioned responses, persistent support reorganization and frozen inference projection beyond nanoGPT.