中國古代小說經歷了從神話傳說、志人小說、志怪小說，唐傳奇，宋元話本小說等發展過程。但小說在中國傳統社會中，一向受正統文人的鄙視。《漢書·藝文志》：「小說家者流，蓋出於稗官，街談巷語，道聽途說者之所造也。」余嘉錫《小說家出於稗官說》認爲「稗官者天子之士也」。胡適是第一位將中國小說研究朝學術發展者。
「小說」一詞，最早見於《莊子·外物篇》：「飾小說以乾縣令，其於大達亦遠矣。」這裡的「小說」指的是一些無關大道的言辭。桓譚言「小說家合殘叢小語，近取譬喻，以作短書，治身理家，有可觀之辭。」（李善注《文選》三十一引《新論》）
《燕丹子》作者不能考，魯迅在《中國小說史略》說《燕丹子》是「漢前」所作，約推定為秦時諸國遺民，但《漢書·藝文志》未載《燕丹子》，《隋書·經籍志》中始著錄。《燕丹子》記述戰國時期，燕太子丹派遣荊軻行刺秦王的故事。
唐朝的小說發展取得極大的成就，有唐人傳奇之目，標志著文言短篇小說的成熟，《唐人說苔·例言》引「唐人小說，不可不熟，小小情事，凄惋欲絕」，「詢有神遇而不自知者，與詩律可稱一代之奇。」明人胡應麟有言：「《飛燕》，傳奇之首也」[1]。
魯迅把唐以前的小說稱為「古小說」。魯迅《中國小說的歷史變遷》的演講稿中指出：「小說到了唐時，卻起了一個大的變遷。……六朝時之志怪志人底文章，都很簡短，而且當作記事實；及到唐時，則為有意識的小說，這在小說史上可算是一大進步」。
宋朝傳奇小說的成就不如唐人傳奇，「唐人大抵寫時事；而宋人則多講古事，唐人小說少教訓；而宋則多教訓」。僅有奏醇的《譚意歌偉》、無名氏的《李師師外傳》等。洪邁晚年所著《夷堅志》，搜羅廣泛，卷帙浩瀚，為宋人志怪小說中篇幅最大的一部。
宋元時代，由於城市經濟發達，在大城市裡開始有話本流傳，這些話本多出自民間藝人之手，一些書會才人常常將這種底本加以增飾潤色，寫定為專供閱讀的書面文學作品。方為稻在《中國古代小說史考》描述：「宋代的『說話』範圍很廣，不但有和漢唐五代相似的故事、笑話、謎語，並且把由唐代以來的佛教講唱經文也包羅在內了。其時，說話大抵可分為四家：一、說經——附說諢經、參請、彈唱因緣；二、講史——講說漢唐歷代文傳書史興廢爭戰之事。專有說三分、講五代史的；三、小說（又叫銀字兒）——包括精怪、傳奇、說公案，還有妖術、神仙、桿棒、朴刀；四、商迷、合生、說諢話——都具有諷刺、耍笑的性質。這四家數中，以『小說』和『講史』在瓦子（宋朝市民的公共娛樂場所）中最受人們歡迎，而講史又是『最畏小說』的。『小說』的聽眾多，藝人也多，僅臨安一帶，有名的藝人九十二人中，小說人居半數以上。」據《永樂大典》目錄卷四六記載的話本，共26篇，今僅存《編五代史平話》、《全相平話五種》、《大宋宣和遺事》。
明代小說的蓬勃發展，通俗小說達到成熟，寫作技巧亦漸趨錘鍊。明初《三國演義》和《水滸傳》的問世代表中國長篇小說開始邁入高峰。西遊記是中國第一部成功的長篇神話小說，吳承恩能藉神怪以表現人世萬象。孟瑤在《中國小說史》上就曾說：「自有小說以來，這樣耳目一新五光十色的畫幅，恐怕自西遊記以後才開始有吧？」
胡應麟《少室山房筆叢》卷二十八將小說分為六類：
乾隆年間，紀昀敕撰《四庫全書總目提要》，於小說別為三派：「……跡其流別，凡有三派：其一敘述雜事，其一記錄異聞，其一綴緝瑣語也。」
清朝初年有抱瓮老人從「三言」、「二拍」精選出四十篇作品，定名為《今古奇觀》。清代短篇小說高度繁榮，產生了《聊齋志異》。
《紅樓夢》又名《石頭記》《情僧錄》《風月寶鑒》《金陵十二釵》，成書於清代乾隆年間，是中國小說史上不可超越的頂峰。吳組湘說「到了《紅樓夢》，中國古代的現實主義小說，就走到了一個輝煌的頂點」。魯迅稱許說：「自有《紅樓夢》出來以後，傳統的思想和寫法都打破了。」
武俠小說是中國獨有的一種小說，特點是主角為武林的俠客，即習武之人及與之相關的人。情節一般描寫武林或江湖之中人與人之間的恩怨情仇，而情節發展的線索往往與習武、比武相關。
武俠小說的歷史背景多為中國古代，尤以宋、元之亂世為多，蓋因亂世之中，人更加需要以武力證明自身價值。武俠小說有自身獨特的文化背景，乃是以武學為中心，兼以中國古代醫學、佛學、道家、易術及各種神秘學等。因此，武俠小說中人物的價值觀，乃至於整部作品的精神基調，是建立在武學的基本思想上的。「武」，義為「止戈」，是以武力平息干戈。也就是說，習武的目的是制止以強凌弱的行為。在這一思想的指導下，正義與邪惡在武俠小說中十分明確。
武俠文化的存在，是中國特有的歷史和文化現象，它的出現及崛起，有其複雜的社會背景、文化和心理因素。當下，武俠文化似乎正出現一種熱熱鬧鬧的場面，說它是復興或崛起也不為過，無論是武俠文學的創作或者是各種武俠電影電視的熱炒，武俠出版、武俠網路小說大量的湧現等等，都凸現出這一趨勢的迅猛發展。
