该馆原址为北洋军阀张勋的公馆，建于1923年，1926年，成为江西省政府主席朱培德的临时公馆。1927年，该舍为国民革命军第三军军长王钧的住宅。八一南昌起义时，起义军在此与王钧的警卫队发生激战，歼灭敌人一个连。1933年至1935年，蒋介石坐镇南昌“剿共”之时，“中华复兴社”在江西设立分社，社址就设在前院，外面挂的牌子是:“ZY各军校毕业生调查处江西分处”。1938年1月6日，新四军军部在此处成立，正式对外办公。新四军军部驻在后院大楼，叶挺、项英、张云逸、周子昆、邓子恢以及黄道、曾山、赖传珠、陈丕显、黄知真等都先后在这里工作过。同年4月4日，新四军军部移驻皖南，南昌各界人民举行欢送会，蒋经国到会并讲了话。军部转移后，新四军驻赣办事处由书院街危家大屋搬进张勋公馆，与留在南昌的ZGZY东南分局坚持工作。1939年3月26日南昌沦陷的前一天，新四军驻赣办事处撤离南昌。