「書香」最早的由來，是因為有一種名叫「芸草」的植物，又叫「芸香」，因其氣味能殺書蟲，人們遂把芸香草夾在書中，對其散發之香稱為「書香」。

沈括《夢溪筆談》記載：「古人藏書避蠹用芸草，芸，香草也。」以此可證，至少在宋代，中國的祖先便已懂得用芸草來保護書籍了。

「書香」後來成為篤好讀書家風和愛尚文風的含義，如把讀書人家稱為「書香門第」、「詩禮傳家」、「耕讀世家」。

「書香」之典因出於芸草而來，又與書籍結了緣，所以後來被人們廣泛地引申，把與圖書典籍有關的事物都冠以芸草之名，如「芸帙」、「芸編」都喻指書卷。「芸簽」原為書簽，後也借指圖書。「芸香吏」則指校書郎。

圖書室常備有芸草，又是藏書的地方，故稱書齋為「芸窗」、「芸署」、「芸閣」、「芸省」、「蘭台」等。蘭台相當於現在的檔案館，早在漢代便有「芸台」的別稱。