建兴四年（3）十一月，刘琨与石勒的决战终于爆发了。石勒发兵围攻乐平郡治沾城①，太守韩据向刘琨告急。刘琨新得士众，跃跃欲试，企图乘此机会一举消灭石勒。箕澹、卫雄劝阻说：“这些士众虽是晋民，但他们久沦异地，对明公恩信尚不了解，恐怕不易驾驭。不如暂且闭关守险，课农养兵，等待他们受到感化，然后用之，则大功可成。”刘琨自恃兵力甚强，决计与石勒硬拼，他下令倾巢而出，派箕澹率领二万步骑为前锋。石勒据险设伏，佯装败走，当箕澹纵兵追入伏击圈，前后伏兵一时俱起，二万步骑几乎全军覆没，箕、卫二人只带着剩下的千余骑逃往代郡。而沾城的韩据见援军溃败，也只得弃城逃命了。刘琨本来驻屯广牧为后援，急忙回师阳曲，但此时留守阳曲的并州长史李弘也已经投降了石勒。刘琨无家可归，惶惶然不知所为，幸得段匹c来信相邀，他才带领余部到蓟城投靠段匹c。
寄人篱下的日子从此，刘琨过着寄人篱下的日子。段匹c，段部鲜卑左贤王，时自命为幽州刺史。起初，段匹c很敬重刘琨，二人互通婚姻，结兄弟之好；又歃血为盟，共约翼戴晋室。建武元年（317）三月，刘琨与段匹c派温峤、荣邵到建康给司马睿送劝进表，临行，刘琨语重心长地对温峤说，“去吧！我在河朔为朝廷立功，一定会使你在江南也感到光采的。”七月，段匹c推举刘琨为大都督，传檄其兄、大单于段疾陆眷、叔父段涉复辰、弟段末柸于固安会师，共讨石勒。但段氏内部不和，末柸暗中勾结石勒，他在疾陆眷、涉复辰面前挑拨说，“你们身为父兄，却要服从子弟，这是一种耻辱。即使侥幸有功，也只属匹c一人，于我们有什么好处？”疾陆眷和涉复辰觉得有理，遂带兵回去了。刘琨与段匹c在固安等不到他们，也只好返回蓟城。刘琨一生中所策划的最后一次军事行动就这样流产了。
形势骤然恶劣。太兴元年（318）一月，段疾陆眷死后，段氏内部生变，涉复辰自立为大单于，段匹c自蓟往辽西奔丧。段末柸唆使涉复辰发兵阻拦，而突然从背后袭杀涉复辰，篡单于位。接着，末柸又率众迎击段匹c，匹c败走。当时，刘琨子刘群奉父命护送匹c，不幸被末柸所俘虏。末柸厚礼招待刘群，以推刘琨任幽州刺史为条件，引诱他合谋袭击段匹c，又指使他写信请刘琨充当内应，但这封密信被段匹c的巡逻骑兵截获了。刘琨一无所知，有事来见匹禅，匹c把信交给他看，说：“我没有怀疑明公之意，所以才把此事相告。”刘琨坦然地回答说：“我与明公歃血为盟，立志共佐王室；仰仗明公威力，才可能为国雪耻。即使此信秘密送交给我，我也决不会为一个儿子而辜负明公，丢掉信义的。”匹c本不想害刘琨，而其弟叔军在一旁蛊惑说：“我们为胡人，之所以能够降服晋人，不过是他们畏惧我们士众之多。现在我们骨肉相残，正是他们谋反的良机，如果有人拥戴刘琨而起，我们就要彻底垮台了。”于是段匹c背信弃义，将刘琨投入牢狱。
①《晋书·石勒载记》作“坫城”，据《通鉴》卷**愍帝建兴四年胡三省考，“坫”为“沾”之讹。自从流落到蓟城以后，刘琨忧愁忧思，心头笼罩着阴云。每当想起大功不遂，国耻未雪，想起段部鲜卑心怀异志，前途渺茫，悲愤、惆怅之情油然而生，他对将佐慷慨陈词，恨不能战死在疆场之上。他在给别驾卢谌的书信中写道：“昔在少壮，未尝检括，远慕老庄之济物，近嘉阮生之放旷。怪厚薄何从而生，哀乐何由而至。自顷辀张，困于逆流，国破家亡，亲友凋残。负杖行吟，则百忧俱至；块然独坐，则哀愤两集然后知聃、周之为虚诞，嗣宗之为妄作也。”其后诗云：“威之不建，祸延凶播。忠陨于国，孝愆于家。斯罪之积，如彼山河。斯衅之深，终莫能磨”。①国家沦丧，亲人遭难的惨痛教训，擦亮了诗人的眼睛。这里有对少壮年代的追悔，有对晋阳时期的检讨，情深意切，感人至深。
