인공지능시스템최적화연구실
System Optimization for Transformative AI Lab: SOTA Lab
지도교수: 권용인 교수님
소속: 부산대학교 정보컴퓨터공학부
위치: IT관 803호
홈페이지: https://sota.pusan.ac.kr
이메일 : sota@sota.dooray.com
[연구실 소개]
인공지능시스템최적화연구실은 ‘AI 종단 간 최적화’를 목표로, AI 모델부터 컴파일러와 서빙 엔진, 하드웨어까지 이어지는 소프트웨어 스택 전반을 연구합니다. 다양한 AI 모델이 CPU, GPU, NPU, 엣지 디바이스 및 데이터센터 환경에서 효율적으로 동작할 수 있도록 모델 경량화, 코드 생성, 메모리 관리 및 추론 성능 최적화 기술을 개발하고 있습니다.
이러한 AI 최적화 기술을 바탕으로 연구 영역을 두 가지 방향으로 확장하고 있습니다. 먼저, AI가 로봇과 자율 시스템을 통해 물리적 환경을 실시간으로 인지하고 판단하며 행동하는 피지컬 AI(Physical AI)를 연구합니다. 이와 함께 생성형 AI의 확산으로 데이터센터의 전력 수요가 급격히 증가하는 상황에 대응하여, 대규모 AI 시스템의 연산과 에너지 효율을 데이터센터 단위에서 최적화하는 기술을 연구합니다.
소형 엣지 디바이스부터 대규모 데이터센터까지, 서로 다른 연산 자원과 전력 조건에서 AI 시스템이 빠르고 안정적이며 에너지 효율적으로 동작하도록 만드는 것이 연구실의 핵심 비전입니다.
또한 연구실이 보유한 AI 시스템 최적화 기술을 기반으로 삼성전자, 리벨리온, 퓨리오사, 한국전자통신연구원(ETRI)과 함께 연구 과제를 수행하며 협력 관계를 이어가고 있습니다. 이러한 산업, 학교, 연구소 협력을 통해 최신 AI 반도체와 시스템 기술을 연구에 접목하고, 산업 현장의 요구를 반영한 실용적인 연구 성과를 창출하고 있습니다.
[주요 연구 분야]
● (MLIR 기반 AI 컴파일러) ONNX·PyTorch 모델을 입력받아 백엔드에 최적화하고, CPU·GPU·NPU용 고성능 코드를 생성하는 AI 컴파일러를 연구합니다. MLIR, DNN·SNN 통합, 코드 생성 및 RISC-V 기반 최적화 등을 다룹니다.
● (온디바이스·엣지 AI 최적화) 메모리와 전력이 제한된 엣지 디바이스 및 NPU 환경에서 AI 추론 지연을 줄이고 처리량을 높이는 기술을 연구합니다. 다중 NPU 스케줄링과 하드웨어별 오토튜닝을 통해 효율적인 온디바이스 AI 실행 환경을 구현합니다.
● (LLM 서빙 및 KV Cache 최적화) 대규모 언어 모델의 KV Cache에서 발생하는 메모리 병목을 해소하고 레이어 실행 순서를 최적화하여 추론 처리량과 응답 속도를 개선합니다. LLM 추론 서빙, 메모리 관리 및 NUMA 기반 시스템 최적화를 함께 연구합니다.
● (모델 경량화·양자화) 혼합 정밀도 양자화와 컴파일러 인지 프루닝을 활용하여 정확도 손실을 최소화하면서 AI 모델의 크기와 연산량을 줄입니다. 제한된 하드웨어에서도 고성능 AI 모델을 효율적으로 실행할 수 있는 경량화 기술을 개발합니다.
AI 컴파일러와 하드웨어 인지 최적화를 바탕으로, 온디바이스·엣지 AI부터 현실 세계에서 인지·판단·행동하는 피지컬 AI, 대규모 데이터센터의 에너지 효율적인 AI 시스템까지 함께 연구할 학생들을 기다립니다. 모델과 소프트웨어, 하드웨어를 아우르며 미래 AI 시스템의 전 과정을 깊이 있게 탐구하고 싶은 학생들의 많은 관심과 지원을 바랍니다.
[연구 환경]
우수한 연구환경을 조성하기 위해 국산 NPU와 고성능 GPU, CPU를 사용할 수 있는 환경을 제공
연구에 충분히 몰두할 수 있는 인건비, 출장비 지원
연구에 필요한 장비가 있는 경우 추가 지원 가능 (AI/SW 구독, 장비, PC 등)