明治6年9月9日創立。雲興寺において開校。それ以来、幾多の変遷があったが、校舎としては、明治19年からの西女郎前校舎、大正12年からの大空校舎、昭和44年からの東明校舎。現在の校舎は、三代目。

昭和22年4月1日創立。新学制実施にともない、東春日井郡水野村立水野中学校が同村立水野小学校に併設発足。昭和23年4月瀬戸市水野村組合立南山中学校と改称され、道泉小学校に分校を置き、效範連区1、2年生を収容し、9月より授業を開始した。昭和24年1月、現在地に新校舎2棟が落成し、道泉、水野両分校を設け、新1年生を入れる。昭和265年5月3日水野村は瀬戸市と合併し、瀬戸市立南山中学校と改称。昭和27年7月23日午後9時ごろ、第2校舎より出火し、またたく間に第2、3校舎を全焼。9月より1部制とは水野、效範各小学校に分散、授業を受けた。昭和28年1月第2校舎、3月には第3校舎が完成し、全生徒が同校に戻った。