一九三六年，黄小立出生于江苏省南通市。至一九五六年，他顺利完成了在北京市汇文中学的学业，随后凭借优异的成绩考入中央戏剧学院，进入表演系本科班学习深造。经过四年的系统专业训练后，于一九六零年正式毕业，并被分配至中央实验话剧院，自此开启了他作为一名专业演员的艺术生涯。
一九六二年，黄小立受邀担任了由少年电视演出队出演的儿童剧《卫生大演习》的艺术指导工作，为剧目的排演提供了专业的艺术支持。次年，即一九六三年，他在中央人民广播电台录制的广播剧《红岩》中出演了角色陈松林，通过声音塑造展现了其早期的表演才华。一九六六年，他正式调入江西省话剧团工作，开启了在地方院团的舞台实践。直至一九七八年，他回到中央实验话剧院，继续投身于所热爱的话剧表演事业。一九八一年，黄小立参演了中央实验话剧院排演的话剧《孙中山伦敦蒙难记》，在剧中成功塑造了绑架孙中山的恶徒唐先生这一反派形象。在同一时期，他还在话剧《故都春晓》中饰演了另一位重要角色，即那位颇有正义感的中国国民党元老李船石，展现了其角色塑造的广度。一九八二年，他在话剧《灵与肉》中挑战了悲剧性人物肖弟，并凭借对这一角色的深刻诠释和动人演绎，荣获了中华人民共和国文化部中共中央直属机关文艺汇演的表演二等奖。一九八七年，他的艺术活动扩展到电视领域，参演了电视剧《严凤英》。一九八九年，他荣获了第一届中国话剧金狮奖这一行业重要荣誉；同年，他出演了电影《开国大典》，在片中饰演了中国国民党元老程潜。一九九一年，他再次获得肯定，荣获文化部直属院团评比演出的优秀演员奖。一九九二年，他参演了由戏剧家欧阳予倩创作的话剧《桃花扇》，在剧中饰演了一位剃头匠。一九九三年，他在北京民族文化宫剧院参演了话剧《老顽固》，饰演了那个不近人情、粗野专横的老顽固西蒙，其表演令人印象深刻。一九九六年，黄小立因其突出的贡献被评为文化部优秀党员，并被推选为中国文学艺术界联合会第六次全国代表大会的代表，同时开始享受国务院颁发的政府特殊津贴，于同年光荣退休。饰演《老顽固》一九九七年，退休后的他依然活跃于舞台，参演了小剧场话剧《俺爹·我爸》。一九九九年，他参与了动画电影《宝莲灯》的配音工作，用声音赋予了动画角色生命。二零零六年，他主演了根据瑞士剧作家迪伦马特的中篇小说《抛锚》改编而成的话剧《夜色迷人》。二零零七年九月，他参加了国家话剧院排练的四幕话剧《奇异的插曲》，在剧中饰演了达莱尔医生一角。二零零八年，他参演了爱情题材电影《爱情呼叫转移Ⅱ：爱情左右》。二零零九年，他在一部家庭情感剧《四世同堂》中，饰演了命运坎坷的悲剧人物钱先生。二零一五年十二月，黄小立在话剧《北京法源寺》中饰演了晚清重要历史人物李鸿章。二零一七年，他在广播连续剧《太行山上新愚公》中，出演了角色杨小根。《太行山上新愚公》幕后照（左一）
黄小立的妻子曹立乐女士同样从事演艺事业，是一位资深的演员。夫妻二人共同组建了家庭，并育有一子一女，生活美满。他们的儿子是广为人知的演员黄磊，他在演艺界取得了显著的成就。黄磊的妻子，即黄小立与曹立乐的儿媳，是同样活跃于影视圈的演员孙莉。这个艺术家庭在演艺事业上各有建树，共同构成了一个充满艺术氛围的大家庭。
在话剧舞台《孙中山伦敦蒙难记》中，黄小立曾饰演一名企图绑架孙中山的反派角色，他的表演既富有戏剧张力又显得浑然天成，毫无刻意雕琢的痕迹。他尤其擅长驾驭与呈现那些情感起伏剧烈、跨度极大的内心转变，凭借饱满而深刻的内在情绪积累，将这一复杂心理变化的过程展现得既鲜明生动又流畅自然，令观众全然感觉不到他在“表演”，而是真切地沉浸于人物之中。黄小立的戏路十分宽广，可塑性极强，在另一部话剧《灵与肉》里，他塑造的肖弟一角不仅成功将竞技场上那种紧张激烈、扣人心弦的氛围搬演到舞台之上，更通过角色本身所具有的纯真、热忱与活泼的性格特质深深打动了在场观众。他的演出始终充满澎湃的激情，因为他深信自己就是剧中人，能够真正做到以假乱真、全情投入，从而迅速而深入地融入角色所处的世界。此外，在家庭教育方面，黄小立也秉持着相当开明的态度，他与孩子之间的相处模式完全不同于传统严苛说教的亲子关系，无论遇到大小事务，父子二人总是平等交流、共同商议，营造出一种相互尊重、和谐沟通的家庭氛围。