在東平之地，居住着一位性情豪爽、好客善飲的淳于棼。他家境殷實，廣交天下英豪，曾憑藉武藝在淮南軍中擔任副將，卻因酒後失言被罷免官職，從此放浪形骸，日日沉湎於酒鄉。
淳于府邸坐落於廣陵郡東十里外，宅院南側挺立着一棵古槐，枝繁葉茂，遮天蔽日，成為他與友人把酒言歡的理想之地。唐朝貞元七年七月九日，淳于棼醉卧家中，友人將其安頓於堂屋東廊。友人言：“且小憩片刻，吾等稍後便歸。”言罷離去。
淳于棼恍惚間，似有紫衣使者跪拜於前，稱受槐安國王之命相邀。他迷迷糊糊隨使者出門，登上一輛裝飾華麗的馬車，穿越槐樹之洞，進入了一個截然不同的世界。山川草木，風土人情，皆異於人間。行數里，至一城郭，名曰“大槐安國”，城門巍峨，樓閣林立，盡顯王者氣象。
入城後，淳于棼被迎至東華館，見右丞相親至，告知其已被槐安國王選為駙馬，將迎娶公主瑤芳。淳于棼驚疑不定，心中暗自揣測此事緣由。當夜，婚禮盛大，珍寶羅列，仙樂飄飄，更有諸多仙子圍繞，笑語盈盈，提及往昔偶遇之趣，淳于棼方知前緣早定。
婚後，淳于棼受國王器重，委以南柯郡太守之職，與故交周弁、田子華共治郡事，政績斐然，深得民心。二十年間，南柯郡繁榮昌盛，淳于棼亦位極人臣，家族榮耀至極。
然好景不長，檀蘿國犯境，周弁領兵迎戰失利，淳于棼雖力保其無虞，但公主與司憲相繼離世，令他悲痛欲絕。國王念其功勞，準其扶柩還都，並暫令歸鄉省親。淳于棼辭別之際，忽覺一切如夢似幻，待回至人間，方知大槐安國及南柯郡，皆不過蟻穴幻境。
驚覺之餘，淳于棼尋至槐樹下，掘開蟻穴，果見城中景象與夢中無異，方信南柯一夢為真。自此，他深感人世虛幻，名利如浮雲，遂戒酒絕色，潛心向道。
三年之後，丁丑之年，淳于棼亦辭世而去，享年四十七，恰應夢中之約。此事為李公佐所聞，深感世事如夢，特撰《南柯太守傳》，以警世人勿為名利所累，望後之君子以此為鑑，淡泊明志，寧靜致遠。昔華州參軍李肇亦嘆曰：“位極人臣，權傾朝野，觀之若蟻聚，何足道哉！”
