西晋愍帝建兴二年(公元314年)三月，晋朝平北大将军刘琨派使者联络鲜卑部落首领拓跋猗卢，准备和他共同出兵攻打汉朝。拓跋猗卢部落中的一万多户胡人密谋投降汉朝大将军石勒，事情败露，被全部杀死。拓跋猗卢因此无力出兵，刘琨只好去联络鲜卑另一部落段氏。

西晋愍帝建兴四年(公元316年)十二月，晋愍帝司马邺在平阳遇害，第二年三月，晋琅邪王司马睿在建康(司马睿为避司马邺的名讳，改“建业”为“建康”)称晋王。刘琨和段氏部落首领段匹碑歃血(“歃血”是在嘴唇上涂上牲畜的血，表示诚意，是古代举行盟会的仪式)盟誓，相约共同拥戴和辅佐晋王室。

刘琨

刘琨派右司马温峤，段匹碑派左长史荣邵，携带双方誓词前往建康，向司马睿表示效忠晋王室的一片赤诚，并劝谏司马睿称帝。于是，司马睿在大兴元年(公元318年)三月初十即位做了皇帝。

段匹碑推举刘琨为大都督，并邀请自己的哥哥、辽西公段疾陆眷和堂弟段末桎以及叔父段涉後辰，一同到固安聚会，商议征讨石勒的事宜。段末柸对段疾陆眷和段涉答辰说：“父兄追随子弟是一种耻辱。

你们为什么要为段匹碑卖命呢?”段疾陆眷和段涉後辰便领兵返回封地，段末桎也随后返回。刘琨兵微将寡，无力起事，只得随同段匹碑来到蓟州。

东晋元帝大兴元年(公元318年)正月，段疾陆眷去世，段涉後辰自立为王。段匹碑得知哥哥的死讯，就从蓟州回来奔丧。

段末桎对段涉後辰说：“段匹碑这次回来，是想争夺王位。”

段涉後辰大怒，急忙派兵去截击段匹碑。段末桎看到王府空虚，便乘机杀死段涉後辰，自立为单于。随后，他率兵出战段匹碑，段匹碑大败，率领人马逃回蓟州。刘琨的世子刘群陪同段匹殚奔丧，被段末桎俘虏。

段末桎想联合刘琨一起攻打段匹碑，他让刘群给刘琨写信，约定时间里应外合。信使在路上被段匹碑的巡逻骑兵抓获。段匹碑派人请来刘琨，拿出刘群的信给他看。

刘琨说：“我们当初结盟，是为了有朝一日能荡平中原，匡复晋朝。即使这封信已经送给我，我也不会背叛段公，抛弃大义。”

段匹碑对刘琨的话一向深信不疑，他打算让刘琨返回征北小城。他的弟弟段叔军在一旁说：“我们是胡人，晋人所以敬服我们，是因为我们宗族繁盛，兵强马壮。现在我们骨肉相残，给晋人提供了图谋我们的良机。如果有人推举刘琨为首领，起兵攻打我们，我们就全完了。”

段匹碑觉得他说得有理，就把刘琨留在蓟州。

刘琨的庶长子刘遵害怕段匹碑来攻打征北小城，急忙和左长史杨桥关闭城门自守。段匹碑果然来攻城。城陷，两个人都被俘虏。

代郡太守辟闾嵩、后将军韩据得知刘琨被扣留的消息，便密谋突袭蓟州，救出刘琨。不想事情败露，两个人都被抓住处死。

五月初八，段匹碑假托奉晋元帝司马睿的诏书，正式逮捕刘琨，把他勒死。同时杀死他的儿子和侄子四人。

刘琨的从事中郎卢谌和崔悦带领刘琨余部逃奔辽西，依附段末桎不，尊奉刘群为主。刘琨的一些将佐则投奔石勒。

东晋朝廷因为段匹碑势力强大，不敢追究他滥杀朝廷官员的责任。直到几年以后，段末桎为刘琨说话，朝廷才下诏追赠刘琨为太尉、侍中。