최근 대규모 언어 모델(LLM)은 자연어 처리 분야에서 높은 성능을 보여주었으나, 수학 문제 해결과 같은 논리적 추론 과제에서는 여전히 한계를 드러낸다. 이를 보완하기 위해 프롬프트 엔지니어링이나 검색 증강 생성(RAG)을 활용한 다양한 접근이 제안되었으나, LLM의 사전학습 지식과 텍스트 유사성에 의존해 문제 해결에 필요한 수학 개념 간의 의미적 연관성과 구조적 관계를 충분히 반영하지 못한다. 본 연구는 이러한 문제를 극복하고자, 수학 개념 간 관계를 구조화한 지식 그래프와 문제 분석-검증-풀이의 단계별 지침을 수행하는 프롬프트를 결합한 모듈형 추론 프레임워크를 제안한다. 제안 프레임워크는 문제를 분석하여 핵심 조건을 추출하고, 지식 그래프에서 관련 개념을 탐색한 뒤, 그 타당성을 검증하여 최종 프롬프트를 구성한다. 이차방정식 문항을 대상으로 한 실험에서 제안 방법은, 중소형 LLM인 GPT-4o-mini을 활용하여 표준 프롬프팅 대비 12.8%, CoT(zero-shot) 기법 대비 5.2% 향상된 88.5%의 정확도를 달성하였다. 이를 통해 지식 그래프 기반 조건 보완과 단계별 프롬프트 설계가 LLM의 수학적 추론 능력 향상에 실질적으로 기여함을 확인하였다.