中國在四千多年前就有了學校。那時學校的名字叫「庠」。高一級的大學叫「上庠」，低一級的小學叫「下庠」；到了夏朝學校又分成四等級：「學 」、「東序」、「西序」、「校」；到商朝時，又把這四種學校的名字改為「學」、「右學」、「左學」、「序」。

後來的朝代還有在王府裡設立的學校，叫「辟雍」、「成均」等。

到漢代，最高一級的學校稱做「太學」，下面分別稱做「東學」「西學」「南學」「北學」。再後來把「太學」改為「國子學」、「國子寺」、「國子監」。漢代，是中國古代教育史上一個比較昌盛的時期。漢代的學校分為官學與私學兩種，其中私學的書館，亦稱「蒙學」，係私塾性質，相當於小學程度。

到明朝、清朝，「國子」已經不是學校的性質了，成為國家專門管理教育的機構。而這時候一般的學校稱為「書院」、「書堂」、「私塾」等。

光緒二十九年，清政府頒布《奏定學堂章程》，不但確定整個學校教育制度，還規畫了各級學校的課程。《奏定學堂章程》裡公布的小學課程，是中國第一套正式的小學課程。