以晋升为散骑常侍，封都乡侯。
散骑常侍本为皇帝侍从，后隶门下省，其权渐重，甚至惯常与侍中共平尚书事。不过羊彝这个散骑常侍乃是虚职，他基本上仍算是刘曜的亲信参谋，所以有空时常入内请谒，去跟族姊羊献容相谈，回忆陈年往事，缅怀故乡风物。
因为本属同族，故此刘曜也不虞有他，对此听之任之——尤其最近操劳国事，难免疏忽了美人，他心说有个兄弟经常陪着羊氏聊聊天，消磨时光，也挺好的。
羊彝撞见刘曜，赶紧躬身行礼，刘曜摆摆手：“卿是我亲眷，又在内室，不必多礼。”随即就问了：“卿姊心情如何？”羊彝道：“家姊身体康健，只是最近难见明公之面，自然郁郁。明公国事再繁忙，仍应常往关爱才是啊。”
刘曜点头应允，便即入见羊氏，就见羊献容正对着镜子，双手托腮，在无声地垂泪。美人落泪，如梨花带雨，更觉可怜，刘曜赶紧上前一把搂住，安慰她说：“我这几日国事太忙，疏忽了美人，今日乃急来见美人……美人切勿哀伤，我既来了，自当转颜为笑才是。”
羊氏抬袖擦擦眼泪，回答说：“妾知道大王为国家重臣，身系天下安危，又岂会因为大王忙于国事，几日未曾见顾，便即伤心落泪呢？乃