博物馆原是重庆富商黄云阶在黄山购地修建的宅邸，“黄山”之名由此而来。黄云阶对黄山进行了多年的营建，修筑了别墅、道路、石径，并进行了大规模的庭院绿化。已形成了树木参天蔽日，环境高雅清幽的避暑胜地。
1938年抗日战争爆发后，国民政府迁都重庆，蒋介石侍从室从富商黄云阶手中购得黄山。蒋介石入住黄山后，在原有建筑的基础上新建了防空洞和部分辅助用房，遗址基本保留了原有的自然环境和状况。重庆抗战遗址博物馆现保存有15处文物建筑遗址，是中国西南地区近现代建筑发展变革的例证之一，对于研究上世纪重庆近现代建筑的发展历史具有重要的参考价值。