1966年5月，吴晗被正式揪出来为长达十年的“**”开刀祭旗了。他几乎每天都要接受揪斗，饱尝难以忍受的痛苦与屈辱。当时8岁的儿子后来在回忆文章中写道：“我永远忘不了他们把爸爸跪绑在烈日下的枯树干上，往他脖子里灌晒得滚烫的沙子。他们抡起皮带抽他，揪他的头发，拧他的耳朵，用各种想得出来的法子侮辱他。爸爸三天两头被拉去游斗，学校要斗，区里要斗，县里要斗，这里要斗，那里也要斗。”
在批斗之初，吴晗全家住在北长街原来的住处，但后来被扫地出门。红卫兵勒令他和妻子袁震每天到北长街扫街道，并且随时把他们夫妇揪出来侮辱。酷暑烈日下，吴晗被拖到马路上，跪在粗硬的瓦砾上，遭受残酷的毒打。每次爬起来之后，都是膝盖皮肤划破，鲜血染红双腿和土地。而这时的吴晗，一拐一瘸地回到住处，擦去身上的血迹，便拿起毛泽东主席签名送他的著作来看。但他越看越觉得自己委屈，不知道自己的一片赤诚之心，为什么会遭到如此的报应。
1949年1月31日，北平和平解放。当人民解放军举行浩大的入城仪式时，吴晗随同一些党、政、军负责人一起参加了这一隆重仪式。几天之后，他和钱俊瑞等人受党中央之托，接管北京大学、清华大学，同时被任命为清华大学历史系主任、文学院长、校务委员会副主任等职。
由于地下党事先做了大量工作，清华大学的绝大部分师生都留在了学校。新中国成立后，吴晗曾经对一起搞民主运动的地下党人说过：“你们如果工作做好了，还是可以把胡适留下来的。”实际上，早在新中国成立前夕，吴晗在上海和北平都亲自试图争取把在学术上曾给过自己很大影响的胡适留下来，但都没有成功。1946年，吴晗亲自到北大去见胡适，结果是话不投机，恩师与高徒只谈了两句就僵持起来。后来胡适对别人说：“吴晗可惜，走错了路。”而吴晗却认为胡适走错了路。
1949年11月，吴晗应邀到苏联参加十月革命三十二周年纪念活动，途中听到了自己当选为北京市副市长的消息。他曾多次设想新中国成立后，仍旧从事明史研究工作，从来没有从政做官的打算和准备。当他听到广播后，曾打电报给周总理，申明自己的想法。回国后，周总理亲自找他谈了一整夜，才使他接受了这一工作。此后，他以极大的热情开始了自己的新生活。
早在1949年1月14日，吴晗就给毛泽东主席写信，要求加入共产党。毛泽东表示同意他的要求，只是在复信中谈到“惟实行时机尚值得研究，详情请恩来同志面告”。此后的几年中，吴晗又多次真诚而恳切地向市委提出入党要求，但一直没有被批准。1954年，吴晗在给彭真的一封长信中，表达了自己要求加入中国共产党的迫切心情：
过去几年，我没有偷懒，相反是忙乱。每天都很疲倦，但是工作抓不住重心。
参加了许多工作，也用了心，也出了力。但是从来不知道哪些是做对了的，哪些是做错了的。也没有人告诉我做对的总结下去，再深入搞。做错了，为什么错，如何改正。
因为我不能参加党，党对我是客气的，优容的。
我没有放弃要求参加党的想法，我想以努力工作来争取，今年不成，到明年，五年不成，十年，二十年，只要不死，总有一天会达到的。目的没有什么，只是要求得到教育，做好工作……
1957年初春，北京市委第二书记刘仁找吴晗谈话，通知他中央正式批准他加入中国共产党。吴晗以他对工作的热情和对党组织的忠诚，终于实现了自己梦寐以求的心愿。唯此，他的遭遇也就显得更加悲壮。
