형제산구역은 1960년에 서성구역, 만경대구역, 룡성구역 각 일부와 평안남도 순안군 대양리(大陽里) 일부를 병합하여 구역이 신설되면서 형성된 지명이다. 이는 구역의 남서쪽에 위치한 대동군 남형제산면(南兄弟山面)에서 유래하였는데, 남형제산(南兄弟山, 143m)은 구역의 형산리(兄山里)와 제산리(弟山里)의 경계에 있는 산으로 대형제산(大兄弟山, 또는 형산(兄山), 143m)과 소형제산(小兄弟山, 또는 제산(弟山), 127m) 두 개의 봉우리에서 비롯된 지명이다.