분류
2025년 2월
작성일
2024.10.14
수정일
2025.02.27
작성자
유동운
조회수
107

코드 가상화 영역 탐지를 위한 스택프레임 분석 기반 Context Switch 행위 추적

코드 가상화는 정교한 난독화 기술로 탁월한 분석 방지 성능을 자랑하여, 악성코드 개발자들에 의해 기존의 탐지를 회피하는데 사용되었다. 하지만 코드 가상화는 강력한 분석 방지 성능을 위해서 프로그램의 복잡성을 증가시키는 단점이 존재하기 때문에 사용에 주의가 필요하다. 특히 성능 저하와 명령어 호환성에 문제가 발생할 수 있기 때문에 코드 가상화를 적용함에 있어 전체 프로그램을 대상으로 사는 것은 권장되지 않는다. 그러므로 실제 환경에서 코드 가상화를 적용할 경우 보안 로직이나 중요한 알고리즘과 같이 보호해야할 특정 영역을 대상으로 삼는것이 일반적이다. 

악성코드 개발자들 또한 전체 프로그램에 코드 가상화를 적용하는 것은 악성코드 기능에 문제를 야기 할 수 있어 특정 시그니처를 감추기 위해 코드 가상화를 활용한다.

코드 가상화된 악성코드에 대항하기 위해 많은 가상화 비난독화 연구가 진행되었다. 그러나 기존의 가상화 비난독화 연구의 한계는 프로그램에서 코드 가상화된 영역에 대한 탐지는 수행하지 않고 전체 프로그램을 대상으로 가상화 비난독화를 진행한다는 점이다.앞서 언급한 대로 코드 가상화는 전체 프로그램이 아닌 프로그램의 일부분만을 대상으로 하기 때문에 전체 프로그램을 대상으로 한 가상화 비난독화는 불필요한 영역에 대해서도 가상화 비난독화를 진행한다. 이에 따라 Xu외 3인의 연구에서 가상화된 영역의 탐지의 필요성을 주장하였고 가상화된 영역 탐지 연구가 이뤄지기 시작하였다. 그러나 기존의 가상화 영역 탐지 연구는 패턴 매칭 규칙 기반으로 동작하기 때문에 가상화 프로텍터의 패치가 진행됨에 따라 사용하는데 제한이 발생하였다.

 

본 논문에서는 윈도우 실행파일을 대상으로 행위 기반의 가상화 영역 탐지 기법을 제안한다. 먼저 코드 가상화에 따른 제어 흐름의 변화를 메모리 Section의 이동을 통해 감지해낸다.

그리고 기존의 Context Switch instruction을 찾아 가상화 영역의 경계를 찾는 방식을 확장하여, Context Switch 동작의 결과를 추적하는 방법을 통해서 가상화 영역의 경계를 찾아낸다.

제안하는 기법은 실험을 통해서 대부분의 가상화된 프로그램에서 가상화 영역을 탐지 할 수 있음을 증명하였다.

학위연월
2025년 2월
지도교수
최윤호
키워드
코드 가상화, 가상화 비난독화, 리버스 엔지니어링
소개 웹페이지
https://sites.google.com/view/master-yoo/%ED%99%88
첨부파일
첨부파일이(가) 없습니다.
다음글
하이브리드 매핑 기법을 이용한 Zoned Namespace SSD를 위한 디바이스 매퍼 성능 개선 연구
임경민 2024-10-14 14:29:23.687
이전글
Enhanced Residue Embeddings and Ligand-Integrated model for Prediction of Accurate Protein-Ligand binding Residue
강금석 2024-10-14 10:59:46.67
RSS 2.0 823
게시물 검색
석사학위논문
번호 제목 작성자 작성일 첨부파일 조회수
823 RAG를 적용한 컨테이너 기반 마이크로서비스의 오류 식별 방법 조대영 2025.12.15 0 142
822 Interpretable Cancer Risk Prediction with a Knowle 박한얼 2025.12.11 0 86
821 스토리지 분리화 환경에서 데이터 이동 최적화를 위한 Near-Data processing 도건우 2025.10.23 0 128
820 Learning a Differentiable Multi-Branch Decision Tr 박한얼 2025.10.21 0 240
819 분산 사이드카 아키텍처 기반 클라우드-네이티브 시스템 콜 모니터링 윤건우 2025.10.19 0 134
818 전시 환경에서의 관람객 행동 분석을 위한 Depth-Aware Zero-Shot HOI 조수현 2025.10.17 0 103
817 멀티모델 통합 선검출 기법의 환경 변화 강건성을 위한 베이지안 최적화 기반 파라미터 김정호 2025.10.17 0 123
816 레이더 기반 사람 행동 인식을 위한 경량 딥러닝 모델 설계 및 구현 곽도균 2025.10.17 0 119
815 메쉬 리깅 기반 안면 3D Gaussian Splatting의 부분 편집 기법 박현수 2025.10.17 0 136
814 가상현실에서 변형형 프록시가 감각 통합 및 일치감에 미치는 영향 연구 김민성 2025.10.17 0 98
813 이상 음향 탐지를 위한 경량 Diffusion Transformer 모델의 설계 및 구현 구동한 2025.10.17 0 137
812 VR 제자리걸음 중 주변부 시각 흐름의 위치와 속도가 비의도적 위치 이동에 미치는 영향 연 은승우 2025.10.17 0 133
811 실시간 공유화면 AI 분석을 통한 온라인 코딩 시험 부정행위 탐지 시스템 정해원 2025.10.17 0 177
810 지식 그래프 기반의 LLM 수학 추론 성능 향상 기법 박재현 2025.10.17 0 167
809 Autonomous Driving Agent Identification Under Host 도현철 2025.10.17 0 111
808 드론 기반 광역 모니터링 지연 시간 최소화를 위한 효율적 데이터 전송 프로토콜 및 선택적 박동진 2025.10.17 0 111
807 시공간 정보 토큰을 활용한 3D Human Pose Estimation 전민수 2025.10.16 0 108
806 격자기반 양자내성암호 ML-KEM 하드웨어 설계 및 검증 강은세 2025.10.15 0 242
805 배리어프리 전시 서비스를 위한 대화형 수어 질의응답 거대언어모델 연구 허석용 2025.10.15 0 133
804 Long-Axis Guided Diffusion Autoencoder for Through 김준희 2025.10.15 0 113