柯俊雄早年求学于高雄市立第二中学，完成初中学业后，便投身电影行业，最初进入一家闽南语片公司，从事基础工作并担任群众演员。1962年，他迎来了职业生涯的重要转折，在闽南语片《天字第一号》中担纲主演，由此崭露头角。此后，他陆续主演了数十部台语电影作品，逐渐成为当时影坛备受瞩目的演员。在柯俊雄的年轻时期，这段从基层起步、逐步积累经验的经历，为他日后精湛的演技与长久的艺术生涯奠定了扎实的基础。
自一九六三年参演《义犬救主》开始其演艺生涯后，他紧接着又出演了《流浪卖花姑娘》，凭借其俊朗挺拔的外形条件，迅速成为当时台语影坛备受瞩目的当红小生。至一九六五年，他正式加入中央电影事业股份有限公司，并陆续主演了包括《哑女情深》在内的十余部国语影片，演艺事业由此迈向更广阔的舞台。尤其是在影片《寂寞的十七岁》中，他成功塑造了一位风流倜傥的表哥形象，凭借这一角色荣获第十四届亚洲影展最佳男主角奖，奠定了其演技派的地位。一九七零年，他在另一部影片《家在台北》中尝试扮演了工程师角色；同年，在白景瑞导演的电影《再见阿郎》中，他担纲男主角阿郎，其妻子张美瑶则饰演女主角桂枝，二人同台演出成为影坛佳话。此后在《家在台北》中，他再次饰演了工程师类型的角色。一九七三年，他积极拓展事业版图，组建了鸿达电影公司。一九七四年，他在影片《英烈千秋》中饰演爱国将领张自忠，凭借精湛的演绎再次获得第二十一届亚洲影展最佳男主角奖的肯定。一九七五年，他参与了丁善玺执导的电影《八百壮士》的拍摄，在片中饰演国民党八八师五二四团团长谢晋元，展现了其驾驭历史人物题材的深厚功力。一九七八年，他在影片《黄埔军魂》中饰演军官江支森，这一角色为他赢得了第十六届金马奖最佳男主角奖的荣誉。除了表演事业，他也致力于电影制作与导演工作，早于一九七三年便创立了鸿达电影公司，后又于一九八一年组建了天元电影公司，并亲自执导了《大阿哥》、《彩云片片》等多部影片。一九八二年，他更是一手包揽了编、导、演工作，创作了《我的爷爷》，并凭借此片在巴拿马国际影展上荣获最佳男主角奖，成就了其艺术生涯的又一高峰。
一九八六年，柯俊雄参演了由台湾“中央电影公司”出品的影片《八二三炮战》，该片以一九五八年解放军炮击金门的历史事件为背景展开叙述。次年，他再度出演了由导演丁善玺执导的电影《旗正飘飘》，并在其中成功塑造了国民党八八师五二四团团长谢晋元这一角色。随后，在作品《奇迹》中，他饰演了名为段一虎的人物。一九八九年，柯俊雄与当时知名的影星成龙、梅艳芳共同合作，出演了电影《奇迹》。一九九五年，在柯俊雄旗下导演文安雄筹备拍摄的影片《灵与欲》中，当时年仅十九岁的舒淇与五十岁的男主角柯俊雄在片中演绎了多场尺度较大的激情床戏。而在另一部作品《灵与欲》里，他则饰演了名为Win Kao（左）的角色。一九九八年，柯俊雄尝试自导自演，先后完成了《一代枭雄——曹操》和《诸葛孔明》两部影片的创作。一九九九年，他凭借主演电影《一代枭雄——曹操》中的出色表现，荣获第三十六届金马奖最佳男主角奖，演技获得业界高度认可。二零零七年，他不仅参与编剧工作，还亲自出演了由刘国昌执导的电影《正邪之间》，该片以台湾二零零四年地区领导人选举期间发生的“三一九枪击案”为背景，柯俊雄在片中饰演了一位黑道老大。此后，该片于二零一零年被正式命名为《弹道》并在全国范围内公映。二零一一年，他参演了由陈可辛导演执导的电影《武侠》，饰演了名为孟飞的角色。二零一三年六月，已年近七旬的柯俊雄再次执起导筒，执导了电影《你来我往》。同年十月，他友情客串了由导演张承执导的影片《最佳嫌疑人》，并同时担任了该片的总监制职务。也在同一年，他确认出席了第五十届金马奖的相关活动。
2014年，其健康状况传出令人担忧的消息，经诊断不幸罹患肺癌。经过一段时间的治疗与调养后，病情在2015年再度出现反复，肺癌不幸复发，情况一度危急，被紧急送入加护病房进行抢救。在此期间，因病情需要接受了插管治疗，并陷入昏迷状态长达十余天。尽管医疗团队全力救治，其病情仍持续恶化，最终于12月6日晚间10时过后，因病情过重未能战胜病魔，经医院正式宣告不治。随后在凌晨时分，家属怀着沉痛的心情将其遗体从医院移出，护送抵达第一殡仪馆。其人生旅程就此定格，享年七十岁。此外，其生前留下的诸多生活照片、日常留影以及个人生活记录，也成为亲友追忆与怀念其音容笑貌的重要寄托。
柯俊雄于1988年正式加入中国国民党，并曾担任台北市演员工会理事长一职。1996年，他报名参加了由中华人民共和国主导的香港临时立法会选举，展现出对两岸关系的关注。2004年2月，他投入大量资源，耗资上亿元新台币制作并发放了一千万支反对所谓“公投”的宣传扇子，以此明确表达反对当时台湾地区领导人陈水扁推动的“公投”举措，并公开支持连战与宋楚瑜的组合。同年12月，他在新竹选区以超过四万票的显著优势获得第一名，成功当选为台湾地区第六届区域“立法委员”，由此成为台湾地区首位拥有影帝身份的“立法委员”。2007年9月17日，柯俊雄对外宣布加入台湾农民党。到了2014年，他受聘担任中国国民党黄复兴党部第十一支部的顾问，并获得了该党部的持续支持。
1970年，柯俊雄与台湾知名电影演员张美瑶步入婚姻殿堂，两人婚后共同生活，并先后育有两名女儿，即大女儿柯懿珊与小女儿柯品吟。然而这段婚姻在历经多年后出现裂痕，双方于2002年开始分居，最终在2004年正式办理离婚手续，结束了长达三十余年的夫妻关系。离婚同年，柯俊雄开始与设计师蔡青桦共同生活，两人建立起新的家庭，并在之后共同抚育了两个孩子，包括一个儿子和一个女儿。
在一九九八年，由台湾导演文安雄执导的影片《灵与欲》中，主要演员包括了资深影星柯俊雄以及当时备受瞩目的舒淇与李莉莉。值得注意的是，舒淇在影片中的表演尺度较大，有部分镜头呈现了较为暴露的画面。事实上，这部电影最初设定的男主角并非柯俊雄，整个剧本的原始构思也并非以如此直白的色情表达为核心。然而，由于柯俊雄本人据称拥有一定的“黑社会”背景与影响力，他最终替换了原定的男演员，并亲自上阵出演，这一变动也间接导致了影片风格与剧情走向发生了显著改变，更加偏向于感官刺激与情色宣泄。
一九八零年，古龙与几位友人前往台北市北投区的吟松阁酒楼饮酒，恰巧遇见了当时在影坛颇具影响力的演员柯俊雄。双方在酒廊中相遇后，柯俊雄身旁的随从人员要求古龙主动向他们的“大哥”敬酒以示敬意，但古龙性格孤傲，不愿屈从于这般带有胁迫意味的场面，当即拒绝了这一要求。随后双方言辞激烈，气氛迅速恶化，最终演变为肢体冲突。在混乱之中，古龙的手臂不幸被利刃刺伤，伤口颇深，顿时鲜血涌出，情况十分危急。友人急忙将古龙送往附近医院进行抢救，然而医院血库中适配的存血不足，只得临时从外界调取血液。不幸的是，所输入的血源来自一位患有肝炎的卖血者，导致古龙在输血过程中感染了肝炎病毒。尽管经过紧急救治，古龙最终侥幸保住了性命，但此次事件却使他留下了严重的肝脏疾病，这不仅长期损害了他的健康状况，也对他后来的生活与创作生涯产生了深远的影响。
在《黄埔军魂》这部作品中，柯俊雄所扮演的是一位毕生致力于教育事业的陆军官校教官，他长期坚守教学岗位，为培养优秀军事人才倾注了全部心血。这位教官外表看起来十分严厉，对学生要求极为严格，但在这种严肃的外表之下，却蕴含着一种望子成龙般的深切期盼与关怀。柯俊雄凭借其精湛的演技，深入刻画了这位教官复杂的内心世界，生动地展现出在严厉的军人风范背后，那份如同师长又如同父亲般细腻而真挚的情感。通过他的表演，观众得以深刻体会到军事教育所承载的核心精神与内在真谛。此外，在琼瑶的文学创作中，男主角往往被塑造为某种社会语言秩序与主流价值观念的典型男性代表，而柯俊雄自身的气质与表演力度，恰好与原著中所意图呈现的那种强健、坚定且充满力量的理想男性形象高度吻合，从而使得这一角色更加立体而富有感染力。