분류
2026년 2월
작성일
2025.10.14
수정일
2025.10.14
작성자
나상진
조회수
74

이종 모델 간 지식 증류를 통한 경량 시계열 예측 모델의 설계 및 구현

최근 시계열 예측(Time Series Forecasting) 분야는 Transformer 및 대규모 언어 모델(Large Language Model, LLM)과 같은 딥러닝 모델의 등장으로 빠른 발전을 이루었다. 이러한 모델들은 특히 장기 예측에서 높은 정확도를 달성했지만, 과도한 연산량과 메모리 사용량으로 인해 실시간 분석이 필수적인 자원 제약적 엣지 디바이스 및 MCU 환경에는 적용하기 어려운 한계를 가진다. 이는 시계열 예측 분야에서 예측 정확도와 운영 효율성 간의 중대한 상충 관계를 야기한다.

본 연구에서는 이러한 상충 관계를 극복하기 위해, 높은 예측 성능을 유지하면서도 효율적인 경량 시계열 예측 모델을 제안한다. 효과적인 경량화를 달성하기 위해 경량 CNN 기반 모델을 설계하며, 대규모 교사 모델의 지식을 경량 학생 모델에 효과적으로 전달하는 Transformer-to-CNN 이종 모델 간 지식 증류 기법을 제안한다. 제안하는 모델은 시계열 예측 벤치마크 데이터세트에서 기존 모델들 대비 우수한 성능을 달성하였으며, MCU에 모델을 배포하여 실시간 추론 가능성을 입증하였다.

학위연월
2026년 2월
지도교수
백윤주
키워드
Time Series Forecasting, Heterogeneous Knowledge Distillation, Lightweight, On-device AI
소개 웹페이지
https://sites.google.com/view/sangjin-mspaper
첨부파일
첨부파일이(가) 없습니다.
다음글
Adversarial Attack on CAN IDS Leveraging Multi DDQN Agent
황연정 2025-10-14 17:12:32.25
이전글
Transformer-ACGAN 기반 CAN-FD 침입 탐지 프레임워크
윤지원 2025-10-14 14:33:38.903
RSS 2.0 823
게시물 검색
석사학위논문
번호 제목 작성자 작성일 첨부파일 조회수
823 RAG를 적용한 컨테이너 기반 마이크로서비스의 오류 식별 방법 조대영 2025.12.15 0 142
822 Interpretable Cancer Risk Prediction with a Knowle 박한얼 2025.12.11 0 86
821 스토리지 분리화 환경에서 데이터 이동 최적화를 위한 Near-Data processing 도건우 2025.10.23 0 128
820 Learning a Differentiable Multi-Branch Decision Tr 박한얼 2025.10.21 0 240
819 분산 사이드카 아키텍처 기반 클라우드-네이티브 시스템 콜 모니터링 윤건우 2025.10.19 0 134
818 전시 환경에서의 관람객 행동 분석을 위한 Depth-Aware Zero-Shot HOI 조수현 2025.10.17 0 103
817 멀티모델 통합 선검출 기법의 환경 변화 강건성을 위한 베이지안 최적화 기반 파라미터 김정호 2025.10.17 0 123
816 레이더 기반 사람 행동 인식을 위한 경량 딥러닝 모델 설계 및 구현 곽도균 2025.10.17 0 119
815 메쉬 리깅 기반 안면 3D Gaussian Splatting의 부분 편집 기법 박현수 2025.10.17 0 136
814 가상현실에서 변형형 프록시가 감각 통합 및 일치감에 미치는 영향 연구 김민성 2025.10.17 0 98
813 이상 음향 탐지를 위한 경량 Diffusion Transformer 모델의 설계 및 구현 구동한 2025.10.17 0 137
812 VR 제자리걸음 중 주변부 시각 흐름의 위치와 속도가 비의도적 위치 이동에 미치는 영향 연 은승우 2025.10.17 0 133
811 실시간 공유화면 AI 분석을 통한 온라인 코딩 시험 부정행위 탐지 시스템 정해원 2025.10.17 0 177
810 지식 그래프 기반의 LLM 수학 추론 성능 향상 기법 박재현 2025.10.17 0 167
809 Autonomous Driving Agent Identification Under Host 도현철 2025.10.17 0 111
808 드론 기반 광역 모니터링 지연 시간 최소화를 위한 효율적 데이터 전송 프로토콜 및 선택적 박동진 2025.10.17 0 111
807 시공간 정보 토큰을 활용한 3D Human Pose Estimation 전민수 2025.10.16 0 108
806 격자기반 양자내성암호 ML-KEM 하드웨어 설계 및 검증 강은세 2025.10.15 0 242
805 배리어프리 전시 서비스를 위한 대화형 수어 질의응답 거대언어모델 연구 허석용 2025.10.15 0 133
804 Long-Axis Guided Diffusion Autoencoder for Through 김준희 2025.10.15 0 113