地处云南省西部边陲龙陵县境内，属高黎贡山南延帚状山系。跨北纬24度15分～24度51分、东经98度34分～99度11分。海拔600米～3001.6米之间,北与高黎贡山国家级自然保护区相连.西与新扩建的铜壁关保护区接壤,东南临怒江与永德的大雪山保护区隔江相望，保护区总面积16012.8公顷,其中核心区7077.2公顷,实验区8935.6公顷，由从北到南大体呈不规则块状的古城山（2656.6ha）、小黑山（含大、小雪山）、一碗水（3783ha）、江中山（2183ha）四个亚保护区组成，分布在龙江、镇安、龙新、碧寨、象达、天宁、勐糯、龙山八个乡（镇）。特殊的地理位置使小黑山省级自然保护区成为高黎贡山、铜壁关与滇西南各保护区群的重要连接纽带。

辽宁省大连市金州区境内也有一座小黑山。该小黑山位于大连市金州东北31公里处石河街道。山体呈东北、西南走向，面积约11平方公里。主峰海拔469.1米。小黑山山势巍峨崇峻，东部和南部尤甚。唯东侧大流子沟有崎岖小路可攀山巅。山中有扳倒井、大龟石、云雾洞、点将台等奇石幽洞，路险景秀。北坡略缓，顶峰下建有佛爷庙，庙宇上方有陡壁“鹞子翻身”，若登峰造极舍此莫过。小黑山是金州诸多河流的发源地，是大连市重要的水源涵养保护区。小黑山嶙峋的怪石，茂密的丛林，幽深的溪水，轻灵的鸟鸣构成了小黑山独特的景观。