常惠是太原人，少時家貧，主動要求應募，跟隨蘇武出使匈奴，一起被拘留十餘年，漢昭帝時才得以歸還。
漢朝嘉獎他的功勞，拜爲光祿大夫。這時烏孫公主上疏，說匈奴勾結車師軍隊，一起侵犯烏孫，請求天子派軍救援。漢朝正要派軍攻擊匈奴，恰好漢昭帝去世，朝延立、廢昌邑王劉賀，又尊立漢宣帝，無暇顧及。到本始二年(前72)，纔派遣常惠出使烏孫。烏孫公主及昆彌都派有使者，通過常惠進言說，匈奴連發大兵出擊烏孫，奪取了車延、惡師之地，俘虜了當地的人民而去，又派使者威脅，要求娶烏孫公主，意欲隔絕漢朝。昆彌願意發動本國的一半精兵，自給人馬五萬，盡力攻擊匈奴。請漢天子出兵拯救公主。
網絡配圖
於是漢朝發動十五萬大軍，派五名將軍分道出擊匈奴，並以常惠爲校尉，拿着漢朝的符節統率烏孫的兵馬。昆彌自己帶領翕候(烏孫官號)以下五萬多人馬，從西方攻入右谷蠡的王庭，擒獲匈奴單于及士兵三萬九千人，得到馬、牛、驢、騾、駱駝共五萬餘匹，羊六十餘萬隻。常惠帶着十幾個隨從官吏、士卒跟隨昆彌返回，還沒有到達烏孫，烏孫人就盜走了常惠的印綬、符節。
網絡配圖
常惠返回漢朝，自以爲會被誅殺。其時漢的五名將軍都無功而返，天子以爲常惠奉使成功，於是封他爲長羅侯。又派遣使者拿着金幣，賞賜建有功勳的烏孫貴人。於是常惠上奏，認爲龜茲國曾經殺害漢朝的校尉賴丹，請求順道擊殺他，漢宣帝不許，大將軍霍光諷喻常惠便宜行事。常惠與官吏、士卒五百人一起到達烏孫，發動龜茲西面國家的二萬兵馬，龜茲東面國家的二萬人，烏孫國的士兵七千人，從三面夾攻龜茲，軍隊尚未合圍，先派遣使者去責備龜茲王以前殺害漢使之事。
網絡配圖
龜茲王謝罪說，那是他們的先王爲貴人姑翼所誤造成的，他沒有罪過。常惠就說，既然這樣，那就把姑翼捆綁住，交由他來處置。龜茲王就綁縛了姑翼，去見常惠，常惠斬殺了姑翼，然後返回漢朝。後來常惠取代蘇武爲典屬國，他明習外國事務，爲官勤勞，數次立有大功。
漢宣帝甘露年間(前53~前50)，後將軍趙充國去世，天子就以常惠爲右將軍，兼任典屬國。漢宣帝去世，常惠侍奉漢元帝，過了三年就去世了，諡號“壯武侯”。
