第二附属医院胡同行政区划上隶属于建华区，建华区隶属于齐齐哈尔市，第二附属医院胡同的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于齐齐哈尔市。