就在吕祖谦连中两科的前一年，即绍兴三十二年（12），他的妻子韩氏去世，所生男亦夭折。乾道二年（16）十一月，他的母亲去世，归葬婺州。由于为母亲守丧，他只得以教授学子为业。乾道五年（19），他再娶韩氏（为原配之妹），并到严州任所。乾道六年（1170），他升任太学博士，并兼国史院编修官、实录院检讨官。次年（1171）五月，第二任妻子韩氏又去世，所生女亦夭折，在精神上给吕祖谦带来了极大痛苦。接着，乾道八年（1172），父亲因病告归，并以这年二月去世。在守丧的三年中，他仍以教授学子和著述为事。淳熙三年（1176），守丧期满，因李焘的推荐，升任秘书省秘书郎，并兼国史院编修官与实录院检讨官。这一年，正40岁。这时，他已疾病缠身。淳熙四年（1177），又娶芮氏为妻，淳熙六年（1179）七月二十八日，其妻芮氏又去世，这一年他42岁。越二年，淳熙八年（1181）七月二十九日他也病故，享年44岁。
兼收并蓄，独树一帜尽管吕祖谦一生屡遭不幸，但在学业上体现的那种宽宏函容和兼收并蓄的精神，仍使他独树一帜，成为南宋一位重要学者和思想家。
清代学者全祖望在校补《宋元学案》的过程中，很能发现吕祖谦为学的特点，他说：“宋乾、淳以后，学派分而为三：朱学也，吕学也，陆学也。三家同时，皆不甚合。朱学以格物致知，陆学以明心，吕学则兼取其长，而复以中原文献之统润色之。门庭径路虽别，要其归宿于圣人则一也。”①他还说：“小东莱之学，平心易气，不欲逞口舌以与诸公角，大约在陶铸同类以渐纪其偏，宰相之量也。”②这确是吕祖谦的风格和为学特点，而表现这一风格和为学特点的，莫过于他促成了朱、陆的“鹅湖之会”。
所谓“鹅湖之会”，是指以朱熹为首和以陆九渊为首的两个针锋相对的学派，于淳熙二年（1175）在江西信州鹅湖寺举行的一次辩论会，这是我国哲学史和思想史上一次重要的聚会，为时三天，于当年六月八日结束。《象山全集》所附《年谱》，引有陆九渊门人朱亨道的一段话：“鹅湖讲道，切诚当今盛事。伯恭盖虑陆与朱议论犹有异同，欲会归于一，而定其所适从，其意甚善，伯恭盖有志于此。语自得，则未也。”③吕祖谦自己亦曾回忆此事说：“某留建宁凡两月余，复同朱元晦至鹅湖，与二陆及刘子澄诸公相聚切①《宋会要辑稿》选举12之15。
②《宋会要辑稿》选举12之15。
③《东莱吕太史集》附录《年谱》。
①《宋元学案》卷51《东莱学案》。
②同上。
③《象山全集》卷36《年谱》淳熙二年引文。
磋，甚觉有益。元晦英迈刚明，而工夫就实入细，殊未可量；子静亦坚实有力，但欠开阔耳。”④一个“就实入细”，一个“欠开阔耳”，一褒一贬，判然分明。足见就总体来说，吕祖谦是倾向于朱熹，而对陆九渊是有所批评的。吕祖谦十分注意读史。朱熹对吕学有所评述。一次，门人黄义刚向老师“问东莱之学”。朱熹便回答他：“伯恭于史分外子细，于经却不甚理会。”①又一次，朱熹问他的门弟子吴必大：“向见伯恭，有何说？”必大回答：“吕丈劝令看史。”朱熹对此很不满意，发议论说：“他此意便是不可晓！某寻常非特不敢劝学者看史，亦不敢劝学者看经。只《语》、《孟》亦不敢便教他看，且令看《大学》。伯恭动劝人看《左传》、迁《史》，令子约诸人抬得司马迁不知大小，恰比孔子相似！”②这里朱熹的意见显然十分偏颇，既不劝学者读史，也不劝学者看经，甚至连《论语》、《孟子》“也不敢便叫他看”，而只令“看《大学》”一种，也不过是自己的一己之见，并没有什么十足的道理可言。
