中國古代官制，不論數量多少，皆稱為「百官」，那麼，「百官」之稱，始於何時呢？

據典籍記載，「百官」之稱始於距今四千多年前的上古時期。堯在年老時，四嶽之長推薦民間賢人舜接位。堯便將兩個女兒嫁給舜，以考察其德行。又使舜管理推行德教，以接受其父義 、母慈、兄友、弟恭、子教的王德，使社會風氣轉好。

接著堯又以更重要的工作考驗舜。《尚書‧堯典》曰：「納於百揆，百揆對序。」納，是賜予職務；揆，是掌管，百揆即總理一切事物。揆與官通用，故「百揆」即「百官」。

《史記‧五帝本紀》敘述此事時，就直接稱為「百官」，稱「乃試舜五典百官，皆治」。夏代後，「百官」由上古總理一切的事任官，演變為眾多官員的泛稱。