先秦散文曾取得过辉煌的成就，但它是与哲学、政治学、伦理学、历史学合为一的文体，而不是纯文学的散文，随着文学自身的发展，文学逐渐地发现了自身的特点，把自己从与其他文体相合的状态中分离出来。另外，先秦散文中的骈句，到两汉时发展成质朴的骈文，再到魏晋南北朝时，士族文人为了掩盖他们生活内容的空虚，进一步追求用典，讲究声律与词采的雕饰及句式的整齐，以至骈文用典增多，词采繁丽，句用四、六，充分展现了它的艺术美。但同时骈文的局限性和弱点也充分地暴露出来，过多地用典超出了内容表达的需要，过分地追求词采也使内容贫乏，这样骈文的路子越走越窄，为自己的破灭准备了条件。
骈文兴起之后，散文一直并未中断。晋代王羲之的书信，南朝范缜的《神灭论》等都是用散体文写的。西魏宇文泰、苏绰出于政教的目的，提倡改革文体，之后还有很多人出于政治的目的，如隋文帝、王通等提倡古文，反对骈文，但收效都不大。
唐初文风沿南朝骈丽之习，王勃、杨炯虽对当时文坛有所不满，但他们还是以骈文名重一时。陈子昂出来，大张复古旗帜，使文坛风气为之一变。到玄宗开元时期，苏颋、张说主张“崇雅黜浮”，他们有时虽然还用骈体，但浮侈华靡之风已革。此外，当时文人的书信也多用散体文，大都写得真切生动，如李白的《与韩荆州书》，一开头就很有气势：
白闻天下谈士相聚而言曰：“生不用封万户侯，但愿一识韩荆州。”何令人之景慕，至于此也。
这个开头，成为千古名句，以致有“识荆”一词流传。
玄宗天宝以后，元结、李华、萧颖士和接下来的独孤及、梁肃、陆贽、权德舆、柳冕等人研习经典，在创作实践中，已经能写出很好的散体文，如元结的《七不如篇》：
元子以为人之贪也，贪于权，贪于位，贪于取求，贪于积累，不如贪于德，贪于道，贪于闲和，贪于静顺者尔。於戏，贪可颂也乎哉？贪有甚焉，何如？
其中已了无骈文痕迹。安史之乱以后，元结的散体文更加成熟，如他的“记”，已有后来柳宗元山水游记中细致描写景物的特点，如《右溪记》：
道州城西四百余步，有小溪，南流数十步合营溪，水抵两岸，悉皆怪石，欹嵌盘屈，不可名状。清流触石，洄悬激注；佳木异竹，垂阴相荫。……
在当时散体文作者增多的同时，唐朝的科举考试中的制策和对策，于建中元年也开始用散体。这个时期虽还有骈体文，但从陆贽的骈体文奏议看，内容切实，说理严密，叙事间以散行，已无词采雕饰与典繁晦涩之病。此外，这个时期还出现了对文体文风改革理论上的探讨。这样，在韩、柳之前，主张文以明儒家之道，重政教之用的宗经复古思想已经十分明确和流行了。但当时的作者对现实超脱，缺乏与现实政治息息相关的特点，缺乏实践性的品格；他们对骈文采取了全面否定的态度，这也就是否定了文学的特殊性；他们在艺术上缺乏独创性，只是简单地模仿先秦两汉的文体文风。天宝以来，唐王朝经安史之乱而陡然衰落，文学上的复古思想与当时的历史现实有关。文体文风的改革只能待以后去完成。
唐朝到贞元、元和年间，虽然当时藩镇割据等社会矛盾还没有改变，但出现了一个相对安定的太平时期，生产也得到了一定的恢复和发展，给统治阶级带来了中兴的希望。这时以韩愈为代表的复古主义思潮，有积极的用世思想，如韩愈即以重建儒家道统自居，反对佛老，反对藩镇割据，强化中央政权，在文学上确立了文以明道的思想。这时柳宗元也明确提出了文以明道的主张。他要明的道，是辅时及物之道，就是要有益于时政，有益于生民，求实变通，不死守经义。他思考现实，面对现实，积极投身于实际的改革。韩愈、柳宗元尽管哲学思想不同，政治立场也不一样，但他们积极入世、主张改革的求实精神是一致的，正是基于这种认识使他们结成一体，开创一个文学的革新运动。
