「南柯一夢」與「黃粱夢」在詞義上很近似，都是比喻人世虛幻如夢、富貴過如浮雲，佛教在闡釋生死無常迅速時，也常引此譬喻，如佛典中有一句偈：「南柯一夢屬黃粱，一夢黃粱飯未嚐」。黃粱夢另有故事，今不說；而「南柯一夢」一詞，則源自唐人李公佐在傳奇小說《南柯太守傳》中虛構的故事，其內容大概如下：

唐貞元年間，山東東平縣淳于棼，曾任准南軍裨將。一日貪杯，在門前南面的大槐樹下喝得爛醉，便昏昏睡在樹下去。
 
睡眠中他夢見兩個使臣走進來，說是奉大槐安國國王之命，特來邀請。於是，他登車向大槐樹根部的一個樹洞直奔進去，裡面是非常美麗的王宮。他見了國王後，當即被招為駙馬，並出任南柯郡太守，到任後，他一切順利，先後守郡廿載，享盡榮華富貴，後來，檀蘿國興兵來犯，他奉命率師出征，卻大敗而歸。
 
不久，他的夫人又病故。國王從此不再信任他，貶為平民，遣送回老家。淳于棼想想自己一世英名毀於一旦，羞憤難當，大叫一聲，卻從夢中驚醒。
 
他按夢境尋找大槐國，原來就在大槐樹下有一個螞蟻洞，大概這就是所謂「大槐安國」的國都和王宮。再往旁邊一看，有一條孔道直通向南，可能這就是所謂的「南柯郡」。

於是就有「南柯一夢」的流傳。