桓阶字伯绪，是长沙郡临湘县人。他曾在郡中担任功曹，太守孙坚举荐他为孝廉，朝廷任命他为尚书郎。后来因父亲去世，他返回乡里守丧。恰逢孙坚攻打刘表时战死，桓阶冒着危险前往拜见刘表，请求归还孙坚的遗体。刘表被他的义气打动，答应了他的请求。后来太祖曹操与袁绍在官渡对峙，刘表率领全州兵力响应袁绍。桓阶劝说长沙太守张羡：“做事情如果不以道义为根本，没有不失败的。从前齐桓公率领诸侯尊崇周天子，晋文公驱逐叔带而护送周襄王回都城。如今袁绍违背道义，而刘牧却响应他，这是招致祸患的做法。明府您如果想建立功业、彰显道义，保全福禄、远离灾祸，就不应该与刘表同流合污。” 张羡问：“那么我该投靠谁呢？” 桓阶说：“曹公虽然兵力较弱，但他秉持道义起兵，解救朝廷的危难，奉天子之命讨伐有罪之人，谁敢不服从？现在如果您率领四郡之地，据守三江，等待曹公到来，并作为他的内应，不也是很好的选择吗？” 张羡说：“好。” 于是率领长沙及周边三郡兵力抵抗刘表，并派遣使者前往拜见太祖。太祖非常高兴。当时袁绍与太祖连续交战，军队无法南下。而刘表加紧攻打张羡，张羡病死，城池陷落，桓阶于是藏身隐匿起来。过了很久，刘表征召他为从事祭酒，还想把妻子的妹妹蔡氏嫁给她。桓阶声称自己已经结婚，拒绝了这门亲事，随后以生病为由辞官退隐。