山水画究竟是在什么条件下产生的？关于这个问题，向来有3种不同的见解：其一，山水画的产生与地主庄园制有关。笔者以为此说未妥，因为历来的山水画家都主张足迹遍布名山大川，他们追求的是自然美的典型，而绝非定居名胜一处；其二，山水画的起源与道家思想有关。不管东晋、六朝的山水画如何古朴雅拙，也不管元代的山水画如何高深莫测，都是画家内心宇宙的外化，而这种宇宙观的主体就是中国人特有的“天人合一”──即人与自然相统一的思想观念。这是道家学论所提倡的，更是儒、道合一的产物。但是从这个宇宙观出发，它只是使人们在思想上形成一种特有的认识自然、把握自然的方式而已，至于是否要通过艺术手法去表现，这又是另外一个问题。因此，仅以山水画家沉湎于自然、无心功利的现象，简单地同道家思想相联系，显然是不够充分的；其三，高人逸士图《如竹林七贤图》之类是山水画的前导。笔者同样不赞成此说，因为高人逸士图是人物画，其间的山林竹石只是作为观景表现的，而且这类题材和创作方式一直延续到清代，并非因为有了山水画而被取代。笔者以为中国山水画产生的主要原因当与整个华夏民族的山水审美文化的发展思想相关。从这个意义上讲，山水画当与山水诗接踵而起的。
中国山水审美的崛起，当不晚于春秋之时。如孔子的“知者乐水，仁者乐山”（《论语·雍也》）；孟子的“登泰山而小天下”（《尽心章句上》）；庄子的“退居而闲游江海”（《庄子·天道》）等等，都萌生出对于自然山水的朴素而自然的情感。但到了风流倜傥的魏晋南北朝，中国山水审美出现了真正意义上的转变，它标志着人们对于山水自然景观的态度，已经从某种社会性的功利走向较为单纯的审美欣赏。东汉末年，豪强混战、内乱不已，尤其北方社会更是动荡不安，这导致北方的人们向长江流域迁徙，客观上给江南的经济发展带来了新的刺激与推动。加上魏晋南北朝时期，士族享有社会特权，所以使得他们能够在较为优裕的生活环境中投身醉人的江南山水景观。他们不仅尽情地在山水之间享受美感，而且用自己所熟悉的艺术语言记载或表达这种美感。于是山水诗顺应而生，山水画也因此随之出现。在当时的绘画作品中，从现存的基本画来看，如《洛神赋图》、《女史箴图》等，其所描摹的山水不仅粗糙，而且主要作为人与物的背景，自然还谈不上具备成为独立审美意义上的山水画种的条件。及至隋唐，尤其是宋元，中国山水画开始独树其帜，与人物画分庭抗礼，并日渐兴盛。在中国绘画史论中有“山水之变，始于吴（道子），成于二李（思训、昭道父子）”（张彦远《历代名画记》）之说。他们以自己的山水画以及相应变革的绘画技法，以“始创山水之体，自为一家”的贡献影响着中国山水画的进程。唐代与五代的一批著名的山水画与画家的出现，标志着山水景色已经作为独立的审美对象而被抒写，并且达到了成熟的水平。郭若虚《图画见闻录》中载宋人话语云：“若论佛道人物，仕女牛马，则近不及古，若论山水林石，则古不及近。”至此之后，中国的山水画一直成为中国绘画的最富有成果的创作主流之一。