최근 대규모 언어 모델(LLM)은 자연어 처리 분야에서 높은 성능을 보여주었으나, 수학 문제 해결과 같은 논리적 추론 과제에서는 여전히 한계를 드러낸다. 이를 보완하기 위해 단계적 프롬프트 엔지니어링이나 검색 증강 생성(RAG)을 활용한 접근들이 제안되었다. 이들은 LLM의 사전학습 지식, 텍스트 유사성을 기초로 탐색된 정보에 의존해 문제를 해결한다. 그런데 복잡한 문제 해결에 필요한 수학 개념 간의 의미적 연관성과 구조적 관계를 반영하는데 한계가 있다. 본 연구는 수학 개념 간 관계를 구조화한 지식 그래프, 그리고 문제 분석-검증-풀이의 단계별 지침을 수행하는 프롬프트를 결합한 모듈형 추론 프레임워크를 제안한다. 제안 프레임워크는 먼저 문제를 분석하여 핵심 조건을 추출하고, 지식 그래프에서 관련 개념을 탐색하여 보강하며, 마지막으로 도출된 조건과 개념의 타당성을 검증하여 최종 프롬프트를 구성한다. 문항의 변수가 증가하면 LLM의 수학 추론 성능이 하락하는 연구 결과에 의해 본 연구는 이차방정식 문항을 대상으로 실험을 진행하였으며, 제안 방법은 중소형 LLM인 GPT-4o-mini을 활용하여 표준 프롬프팅 대비 12.8%, CoT(zero-shot) 기법 대비 5.2% 향상된 88.5%의 정확도를 달성하였다. 이를 통해 지식 그래프 기반 조건 보완과 단계별 프롬프트 설계가 LLM의 수학적 추론 능력 향상에 실질적으로 기여함을 확인하였다.