태백산맥 서사면의 이루를 차지해 기복이 심하고, 동부와 북부에는 1,000m 이상의 높은 산들이 연이어 있어 산지가 전체 면적의 87%를 차지한다. 군의 해발고도는 약 150m에서 1,000m 내외를 이루고 있다. 내면지역은 해발 800m 이상의 고원지대로 이루어져 있다.