牛头宗为法融（594—657）所创，或谓其为四祖道信门下之别支，但考其渊源，实为三论宗之一支。三论宗由刘宋摄山法度开创，法度为北方人，“游学北土，备综众经，而专以苦节成务”，他对北方关河三论之学很精通，而专务苦节，偏重苦行习禅，已然显示了禅教兼通的特点。法度于宋末南游，住锡摄山，创立此宗。法度传弟子辽东僧朗，朗博学多识，“《华严》、三论，最所命家”，对《华严》、三论尤其精通。朗传弟子僧诠，僧诠一方面精通三论之学，一方面又“遁迹幽林，禅味相得”，继续保持着禅教并重的宗风。僧诠特重实修，甚至“誓不涉言”，并责令门下依法修习，不得妄言。僧诠门下有四大弟子：兴皇法朗、摄山慧布、长干慧辩、禅众慧勇，号四句朗、得意布、领语辩、文章勇，时称“诠公四友”。四人之中，法朗名气最大，慧布号称“得意”“最为高也”，且他仍住摄山，实为当时正统。然而慧布一支后世传承不明，三论宗门，由法朗一系传承。法朗传茅山大明（炅法师），大明传牛头法融。此即牛头宗的渊源。
三论宗自法度始，便有教禅并重的宗风。然其所谓教，是指以《大品》、三论为宗的大乘般若空宗教典；其所谓禅，原指苦节为务，宴坐山林的五门禅法，这两类经典都出于罗什一派，故虽然法度之师承不明，仍可视为关河之学的传人。僧朗博学多识，又将《华严》引入己宗，但并非改变关河之学的传统，自法度始，三论宗就一直探求禅教相融，禅教合一，力图融二为一，树立宗风。然由于罗什之学本来博杂，其三论、般若思想源自须利耶苏摩，可谓学有师承，这方面也是罗什最为著力、亦最专精的学说，而其禅法源自于罽宾的盘头达多，为其少时所学，故其三论般若与禅法渊源非一，且一为大乘，一为小乘，本相抵触，和合更难。因此三论宗在会合禅教方面遇到很大的困难，虽然历代宗师致力于此，然直至牛头法融，也未可说获得了完全的成功。
三论宗在和合禅教之时，一般是以教改禅，使禅合教，即以般若思想改造小乘禅法，使之逐渐接近与大乘般若空宗相应的大乘禅法，经过历代的不懈努力，至牛头法融，算是基本上完成了这一任务，创立了以《心铭》《绝观论》为标志的大乘空宗禅，此即牛头宗义。
法融的《心铭》载于《景德传灯录》三十，《绝观论》见于《宗镜录》卷九、卷七十七、卷九十七，亦见于敦煌遗书。法融还有其他著作，如《华严经私记》《法华名相》等，今亦不传。法融继承前代的宗旨，将华严一心之义融入三论空宗之中，又受智者《观心论》及三祖《信心铭》的影响，故倡导无心观心，绝观忘守，将般若义理转化为禅者心行，从而创立富有特色的牛头禅，这一思想在其《心铭》中得到集中体现。
《心铭》[1]开篇即言：“心性不生，何须知见？本无一法，谁论熏炼？”表明无心可见，无法可修，心法俱空，不可造作，这是全篇的宗旨；心性寂灭，本来无心，这是法融禅法的根本。法由心生，境待心起，故境即是心，“六根所观，并悉是心”，心摄万法，故心性寂灭，法亦寂灭，“三世无物，无心无佛”。这种心境本寂，一切悉空的思想显然来自般若，但法融将之化为禅法，作为修心入定的法门，就不同于一般的义学了。贝由心体本空，一法不存，在修习方法上就强调契合这种本性寂灭的心体，而契合此心，就须如其本然，不造不作，不取不舍，不断不修，“纵横无照”，不守不放，因此要“无心用功”，“一切莫作”，强调“无归无受，绝观忘守”。而不造不作，随顺本心，关键在于心无分别，不存二见，要扫除凡圣、真妄、解缠、合散、迟疾、清浊、浅深、古今、得失、好恶、亲疏、宠辱、心境、静喧和觉不觉、生死涅槃、菩提烦恼等妄见，如此方可契合本无两端的寂灭心体，才能有“一心无妄，万缘调直”之用。
