지식 증류

종류: Concept · 등장 5일

정의: 큰 교사 모델의 출력을 작은 학생 모델이 모방하도록 학습해 경량화하는 기법

지식 증류는 큰 교사 모델의 출력을 작은 학생 모델이 모방하도록 학습해 경량화하는 기법입니다. 최근에는 AI 에이전트 중심의 기술 생태계 확장과 모델 최적화 연구, Kimi-K3 공개와 멀티모달 확장의 맥락에서 Training, 모델 추론, 디퓨전 모델 등과 함께 자주 언급되며 경량화 필요성이 강조되고 있습니다.

등장한 날

• 2026-08-25 — 트렌드 스냅샷
• 2026-08-20 — 트렌드 스냅샷
• 2026-08-11 — LLM의 다각화된 검증과 AI 에이전트의 실무 적용
• 2026-07-29 — AI 에이전트 중심의 기술 생태계 확장과 모델 최적화 연구
• 2026-07-28 — Kimi-K3 공개와 AI 에이전트의 멀티모달 확장

공출현 이웃

Training · IT · AT · 벤치마크 · Visual · 강화학습 · 디퓨전 모델 · AI 에이전트