自一九七七年十月至一九七八年九月期间，黄卫在江苏省南通县石港公社齐心小学担任代课教师一职，开启了其职业生涯的初始阶段。随后，他于一九七八年九月进入南京工学院土木工程系道路工程专业进行为期四年的本科学习，直至一九八二年八月完成学业。毕业后，他于一九八二年八月至一九八三年九月期间，在解放军工程兵学院担任教员工作。此后，他重返南京工学院深造，自一九八三年九月至一九八六年一月，在土木工程系道路工程专业攻读硕士研究生学位；在学期间，他还同时承担了学生工作，历任学生办公室党支部副书记、研究生党支部书记以及团委研究生部部长等职务。 一九八六年一月至一九八八年六月，黄卫留校任教，担任南京工学院土木工程系道路教研室的助教、讲师，并兼任党支部副书记。一九八八年六月，随着学校更名为东南大学，他转任东南大学交通运输工程系教研室主任、讲师。一九九零年十月起，他晋升为东南大学交通运输工程系副教授，并于此后数年间逐步成长为教授。在此期间，他于一九九一年九月至一九九四年十月，在东南大学交通运输工程系公路与城市道路及机场工程专业攻读博士研究生；一九九三年五月至一九九四年二月，曾赴美国加利福尼亚大学伯克利分校担任高级访问学者；最终于一九九四年十二月因学术成就突出被破格晋升为教授。 一九九五年一月至一九九六年五月，他出任东南大学交通运输工程系副主任。其间，他于一九九五年五月正式获得工学博士学位，并于一九九六年四月被批准为博士生导师，同时入选了“教育部跨世纪人才计划”。一九九六年五月至一九九八年五月，他升任东南大学交通学院院长，并于一九九七年成功入选国家“百千万人才工程”国家级人选。一九九八年五月，他进入学校领导层，担任东南大学副校长，后转任常务副校长；自一九九九年六月起，兼任东南大学党委常委。二零零零年四月至二零零一年八月，他回归教学科研一线，担任东南大学交通学院教授、博士生导师，并保留副校级待遇。 二零零一年八月，黄卫的职业生涯转向政府管理岗位，出任江苏省建设厅厅长、党组书记。二零零三年二月，他晋升为江苏省人民政府副省长、党组成员。同年八月，他奉调进京，担任中华人民共和国建设部副部长、党组成员；在此期间，他于二零零七年十二月当选为中国工程院院士。二零零八年三月，随着国务院机构改革，他转任新组建的中华人民共和国住房和城乡建设部副部长、党组成员。同年九月，其工作地点再次变动，调任北京市人民政府党组成员，并于同年十一月出任北京市人民政府副市长、党组成员。 二零一零年十二月，黄卫赴西北边疆地区工作，担任新疆维吾尔自治区党委常委、区人民政府常务副主席。二零一六年九月，他重返中央部委，任中华人民共和国科学技术部党组成员，并于同年十一月起担任科学技术部副部长、党组成员，直至二零二一年十一月。二零二三年三月，他当选为第十四届全国政协常委，并担任全国政协教科卫体委员会副主任，继续在国家级参政议政平台上发挥作用。
黄卫教授是中国在大跨径桥梁钢桥面铺装与智能运输系统研究领域的重要开拓者与领军人物。他发明了具有自主知识产权的多组分环氧沥青新型材料，这一创新成果为中国桥梁建设提供了关键材料支撑。在其组织与领导下，中国近三十座重大跨径桥梁的钢桥面铺装设计与工程实施得以顺利完成。他曾主持并深入参与了多项国家重点工程的科研攻关，包括《南京长江第二大桥》、《润扬长江大桥》、南京地铁一期工程、沪宁高速公路、南京机场高速公路、苏北高速公路、宁通一级公路以及宁连一级公路等。其中，作为南京第二长江大桥桥面铺装技术研究与工程监理的总负责人，他成功攻克了该桥钢桥面铺装中的重大技术难题，确保了工程的优质完成。在智能运输系统领域，黄卫率先提出了符合中国国情的智能运输系统用户与服务定义，并构建了中国智能运输系统的逻辑与物理框架，这些系统性成果已成为国内该领域技术研发与体系建设的重要基石与依据。 在学术贡献方面，根据2021年11月中国工程院官网信息，黄卫共出版学术著作13部。他主编了国家技术标准《预应力混凝土路面工程技术规范》《城市轨道交通名词术语》，其撰写的专著《高等水泥混凝土路面设计理论与方法》《高等沥青路面设计理论与方法》《高速公路数据库应用技术》在学术界和工程界被广泛参考并获得了大量正面引用；特别是专著《智能运输系统（ITS）概论》，是该研究领域内具有开创意义的首部专著，对学科发展产生了深远影响。截至2019年11月，他还曾主持国家科技重点支撑计划项目“新型城市轨道交通技术”以及国家九五攻关项目“中国ITS体系框架”中的交通管理与规划专题研究，这些研究有力推动了相关行业的科技进步。 根据2021年11月中国工程院官网数据显示，黄卫作为主要完成人共计获得国家及部省级科技奖励26项，其中包括国家科技进步奖4项，以及部省级科技进步特等奖、自然科学奖、技术发明奖、科技进步一等奖等共计8项；此外，他还拥有十余项授权专利，这些成果充分体现了其科研工作的创新性与应用价值。
黄卫在担任行政职务期间，始终保持着对学术研究的投入，他不仅继续指导博士生，也从未放松对所属课题组的日常管理。在课题组举行讨论会时，氛围总是十分民主，每位成员都能自由、直接地发表个人见解，畅所欲言。即便在出任江苏省副省长以后，黄卫仍时常抽空返回东南大学，继续参与课题的研讨与推进。后来即使晋升为副部长，他每次回到学校，只要时间允许，便会与学生一同用餐，席间如同朋友般亲切交谈，有时还会和大家共饮少许红酒或黄酒，显得平易近人。尤其令学生们记忆深刻的是，通常导师修改博士生论文可能只需一两遍即可定稿，但黄卫却对许多论文反复推敲、细致打磨，修改次数往往达到五遍甚至更多，体现出他一贯的严谨与负责。
黄卫在书法方面有着深厚的造诣，尤其擅长毛笔书写。他时常会使用毛笔小楷来为学生撰写传真稿件，这些稿件上工整而细致地罗列着各项修改建议与批注。由于他的字迹清秀俊逸、笔力遒劲，许多学生在收到传真后都舍不得丢弃，反而将其视为值得珍藏的墨宝，细心保存起来。
黄卫同志长期投身于国家建设领域的教学、科研与行政管理工作，始终怀有强烈的事业心与高度的责任感，对待工作一贯兢兢业业、任劳任怨，展现出吃苦耐劳的优良品质。他在工作中坚持民主作风，善于听取不同意见，同时具备出色的语言表达与文字撰写能力。为人处世方面，他作风正派、待人谦和，注重团结同志，对自身的要求始终十分严格。在担任北京市副市长期间，黄卫深入贯彻落实科学发展观，始终坚持依法行政原则，认真履行各项职责，积极协助市长推进政府各项工作。他秉持改革创新精神，锐意开拓进取，为推动北京市经济社会持续健康发展付出了不懈努力。特别是在分管教育、环境保护、城市管理及交通运输等领域工作时，他投入大量精力，开展了诸多扎实有效的工作，取得了显著成效与积极进展。 作为中国智能运输系统学科研究的先驱者之一，黄卫在公路与交通工程领域享有专家声誉。他一直以谦逊平和、亲近民众的形象为人所知。尽管在建筑和交通专业领域造诣深厚，其所分管的教育及城市管理等工作最初并非其专长领域，可算是一项新的挑战，但他凭借出色的学习能力与敏锐的洞察力，迅速理解并掌握了相关工作的核心与规律，这种快速适应与深入把握的能力令共事的下属与同事深感敬佩。在专业技术层面，黄卫曾主导解决大跨径桥梁建设中的多项重大技术难题，为中国大跨径桥梁工程的建设与发展作出了突出贡献。同时，他在推动中国智能运输系统学科的建立、发展与普及方面发挥了关键作用，其学术成就与实践贡献受到了工程界与学术界的广泛认可与高度重视。