羊衜，又称羊茞；荆州南阳郡人，才博辩捷，初为吴大帝长子宣太子孙登宾客，任中庶子。孙登死后，历督军使者，直至始兴太守。
蜀臣费出使东吴重申盟好，在宴席上，羊衜和诸葛恪等吴臣以才博果辩知名，也纷纷论难，辞锋不绝。羊衜善于评品人物，当初全琮、朱据、郝普等满朝权贵，争相结交隐蕃，羊衜却和隐蕃保持距离，最终隐蕃谋反被诛，大家都佩服羊衜有先见之明。
羊衜二十九岁和名士谢景、范慎、刁玄等人成为太子孙登的宾客，其人品才学深受孙登推崇。三十岁时成为太子中庶子，羊衜曾评价孙登的近侍诸葛恪，志大才疏，而顾谭精明狠毒，诸葛恪等人知道后很生气，就故意不重用羊衜，后来羊衜曾推荐李衡为官，让其诉说吕壹的恶行。
辽东公孙渊遭司马懿所攻，遣使者送信向吴国求救，因公孙渊先前有过欺骗东吴的行为，众臣主张斩使者拒之，唯独羊衜建议遣兵救援。孙权问羊衜为何不可，当下羊衜说道：“陛下，将逆贼公孙渊的使者斩首固然能出恶气，可这样做是出了匹夫的怒气，而放弃了霸王之计，臣以为不如借此机会昭示陛下厚德，而出奇兵前往以观动静。如果魏国进攻公孙渊失败，那么我军远赴辽东解救，是恩结于远夷，义盖于万里，如果魏军和公孙渊相持不下，公孙渊首尾不能相顾，那我军正好进攻辽东，然后到处掳掠人口，满载而归，这样也足以让上天惩罚公孙逆贼，一雪往日之耻。”孙权听了深以为是，又问羊衜派谁领兵合适，羊衜毛遂自荐，愿意亲自带兵去辽东，又推荐了将军郑胄和孙怡。孙权大喜，当即批准羊衜所请，并写信给公孙渊，说自己已经派出大军，并假惺惺地告诫公孙渊说司马懿太厉害，一定要小心，“司马懿善用兵所向无前，深为弟忧也。”遂派遣督军使者羊衜、宣信校尉郑胄、将军孙怡统率的大军从海路来到了辽东。
此时，辽东公孙渊已经秋被司马懿攻灭，辽东、玄菟、乐浪、带方四郡全部纳入魏国版图。羊衜派细作上岸打探后得知，原来司马懿在冬天获知魏明帝病重的消息后，已经率兵回洛阳去了。正好曹睿病死，此时辽东防守薄弱，魏国刚刚迎立新君齐王曹芳，也难以及时救援辽东，是天赐良机。羊衜和郑胄、孙怡商议后，于是攻打旅顺口的魏军海防城堡牧羊城，击败了魏国守将张持、高虑，然后分兵四处掳掠，俘获大批人口，满载百姓和各种战利品从容回国。这年，羊衜三十八岁，四十二岁那年他为始兴太守，曾写信给滕胤对南阳太守钟离牧高度评价。二党构争中，羊衜为督军使者，孙权曾禁止二皇子与大臣往来，羊衜曾上书劝说不应禁止，后来羊衜转任桂阳太守，最后在太守任上去世。
据《三国志·孙登传》注引《吴录》，羊衜，南阳人，早年为太子登中庶子，有才具。据《鲁王霸传》，“二宫构争”中，衜为督军使者，曾上疏孙权曰：“臣闻古之有天下者，皆先显别嫡庶，封建子弟。所以尊重祖宗，为国藩表也。……或谓二宫不遵典式，此臣所以寝息不宁。就如所嫌，犹宜补察，密加斟酌，不使远近得容异言。臣惧积疑成谤，久将宣流，……将谓二宫有不顺之愆，不审陛下何以解之？愿陛下早发优诏，使二宫周旋礼命如初，则天清天地晏，万国幸甚矣。”