卫玄少时有器量见识，北周武帝宇文邕做藩王时，引荐卫玄担任记室。卫玄后来升任给事上士，继承兴势公的爵位，食邑四千户。后改任宣纳下大夫。
传北周武帝继位后，任命卫玄为益州总管长史，赐给万钉宝带。不久，升任开府仪同三司、太府中大夫，代理内史事，兼任京兆尹，时人称其强力贯通天下。
北周宣帝宇文赟在位时，卫玄由于忤逆圣旨而遭罢免官职。
隋文帝杨坚担任北周丞相之时，卫玄担任代理并州刺史，当时和州的蛮人反叛作乱，卫玄就以行军总管的身份，平定叛乱。
待开皇元年隋文帝杨坚受禅登基，建立隋朝。同年十二月十四日，隋文帝任命卫玄为淮州总管，进封同轨郡公，后因受牵连免官，不久之后，担任岚州刺史，适逢大隋朝廷，兴起修筑长城的劳役，诏令卫玄监督修筑长城，不久代理朔州总管，后改任卫尉少卿。
······
二人又是下了两盘棋，隋文帝杨坚因为心中有事，所以每次都是大败亏输，于是根本就是心不在蔫。
卫玄看着杨坚，开口问道：“陛下有何心事…？”
隋文帝杨坚顿时苦笑一声，便将【迁民入凉】一事，都对卫玄说了起来。
卫玄听完，却是呵呵的一笑，开口建议道：“陛下！既然朝臣多半反对，那便证明此举的确是颇显荒谬。陛下不予批奏就是，还有何疑虑心烦的…？”
隋文帝杨坚闻言长叹了一声，苦笑道：“哎！文升，难道连你，也不理解朕的心意吗…？”
卫玄微微一笑，又道：“难道陛下的心中，也是正有此念头…？”
隋文帝杨坚浓眉深锁点了点头，说道：“高颖与关陇家族等人，都是反对此案，他们反对此案，看似是站在朝廷和百姓的立场上，他们也没有错，朕，没有说辞能够说动他们，因此苦恼不己…。”
本章已加载完毕