神木县位于黄河中游，长城沿线，陕西省北端。县城位于县境中心略偏东南的窟野河东岸，县境呈不规则菱形，南北最大长度约141公里，东西最大宽度约95公里。全境总面积7706平方公里，居省内各县之首。

西汉时，县境秃尾河上游，置白土县，秃尾河下游置言阴、言阳、鸿门县，疆域无考。

北周在今解家堡一带置归真郡、隋置银城县，疆界难稽。

唐、宋两代在窟野河流域置麟州（今杨家城），邻属新秦（在今杨家城）、连谷（在今黄羊城）、银城（在今解家堡一带）3县，疆域不详。

明洪武年间，在窟野河流域仍置神木县，境域北止边墙（即明长城），南至黄河，东与府谷刘家大寨交界，西至佳州之高家堡水洞川。

清朝，在边墙以南置神木县，据道光《神木县志》载：东至丘家寨与府谷刘家大寨连界，西至高家堡（原属佳州）以西双谋梁与榆林县水涨上村连界，南至黄河岸张家川，北至五卢口边墙与郡王旗伙盘地连界；东北至永兴堡暗门沟与府谷万家墩连界；西北至高家堡暗门与蒙古五胜旗（即今内蒙古乌审旗）、扎萨克台吉旗（即内蒙古扎萨克旗，现并人伊金霍洛旗）伙盘地连接。东西距170里，南北距150里，面积约15000余平方里。

上述伙盘地实际是神木县的边属地，行政归本管辖，地租归蒙古各有关旗收取。经过清康熙五十八年（1719）、乾隆八年（1743）两次初步定界，最后于光绪二十九年（1903），确定蒙陕界线，“自活鸡兔沟南圉以南已垦之地归陕西各界分管”。此后本县北部境域，东至侼牛川南之大榆家梁，与府谷边属地交界；北至活鸡兔南畔，与内蒙东胜管辖交界；东北至内蒙郡王旗双儿庙迤东偏北石圪台地，与内蒙东胜县境交界。以上划归神木县分管的边外属地东西距150里，南北距140里，面积为21000余平方里。

1933年以后随着神府革命根据地的开辟，红色政权的建立，原神木县的石窑以南地区，府谷县的武家庄以南至沙峁头地区，与佳县界牌以上谢家沟以南地区连成一片，成为革命根据地与游击区域。抗日战争期间改为神府县（县政府设在温家川，贺家川。1949年初，迁至高家堡），与北部国民党统治区的神木县同时存在。解放战争时期，随着解放区的扩大，神木县管属境域随时势有所变易。1947年神木县城解放后，神府县与神木县仍同时存在。1948年将原属神府县马镇区的白云乡划归府谷县；1949年曾一度将榆林县的安崖底区和双山区，划归当时的神府县（县政府迁至高家堡）。1950年神府县并入神木县，在此前后，又将安崖底区与双山区划归榆林县。将榆林的大保当划归神木县。至此本县全境疆域：北至石圪台与内蒙伊旗交界；南至界牌与佳县交界；东至栏杆堡公社的新寨子与府谷县交界；西至大保当公社营盘壕与榆林县交界；东南以黄河与山西兴县、临县为界；西南以秃尾河与榆林县、佳县为界。

1958年至1961年，神木县与府谷县合并，境域为神、府两县境域的全部。1961年又将两县分设，境域各依1950年旧界，至今未变。