淮北市位于安徽省的北部，东经116°24′～ 117°03′、北纬33°16′～34°10′。地处苏、豫、皖3省交界处，北接萧县，“飞地”段园镇与江苏徐州市的铜山区接壤；南临蒙城，东与宿州毗邻，西连涡阳和河南永城市。东西宽60公里，南北长108公里，总面积2741平方公里。其中，濉溪县面积1987.5平方公里，市区行政区域面积753.5平方公里。
市人民政府驻相山区人民路208号，为安徽省辖市。1960年4月6日建市后，行政区划多次变更。截至2017年年底,淮北市下辖濉溪县及相山、杜集、烈山3个区。全市有18个镇、15个街道办事处，其中濉溪县辖11个镇，相山区辖1个镇和8个街道办事处，杜集区辖3个镇和2个街道办事处，烈山区辖3个镇和5个街道办事处。