离石区地处吕梁山腹地，地势东部高而宽，西部低而窄，境内山多川少。北川河由北而南，东川河由东而西流经全区，两河在城西南合流后至交口街道合南川河而后出境注入黄河。最高点为区东北骨脊山，海拔2535米，最底点为三川河河谷，海拔889米，境内东部是高寒山地，面积266.6平方公里，占全区总面积的20%，是境内主要林区，宜于发展林牧业；城东北为连绵不断的梁峁土石山区，面积398.4平方公里，占总面积的30%；城西马头山、王老婆山俯伏南北，为黄土丘陵沟壑区，面积660平方公里，占总面积的50%。土石山区和黄土丘陵区相加占全区总面积的80%，其特征是气候温和干旱少雨，但发展生产潜能很大，是境内杂粮生产区；中部是以北川和东川为主的河谷地带，土地肥沃，水源充足，人口集中，是境内重要的粮食和蔬菜基地。

区境东南部至东北部边沿，吕梁山纵贯南北，为之屏障，主要为“关帝山穹状隆起”，北起骨脊山，南至薛公岭，接中阳县的独风坡山，长约80公里，皆为吕梁山之支脉或余脉。尖山支脉为小神头、信义南部诸山，东西走向，东起宋喉峁，向西延伸至王营庄，长约30公里，隔北海沟与南部的北海山相对。其东部为森林植被，西部为疏林密灌等。北海山支脉，东西偏北走向，位于陈家塔、王治庄沟（吴城断层）以西，向西南延伸至油房坪北岭，隔北海沟与尖山支脉相对，长约15公里，有森林密灌及灌木草丛植被。起云山支脉，为大东川以南诸山，东西走向。东起薛公岭