「小品」一詞的來源，是出自古老的佛教經典。因為在佛經中，有全本和節本之分，全本稱之為「大品」，節本稱之為「小品」。如《摩訶般若波羅密經》，姚秦鳩摩羅什大師翻譯的就有二十七卷本和十卷本兩種。二十七卷本稱為《大品般若經》，十卷本稱為《小品般若經》，文學中的「小品」，便由此而來。

中國古代有「六朝小品」、「唐人小品」等，它們很早就成為文學家族中的一員。因為小品具有雋永而精闢的特點，文章短小，讀來容易，所以一直沿用至今，並有所發展。報刊上，經常可以見到「知識小品」、「科學小品」等欄目，舞台上的「喜劇小品」更為人們喜聞樂見。