一九二三年一月二十日，即大正十二年，三国连太郎出生于日本群马县太田市的一个普通工人家庭。他本名佐藤政雄，童年时期时常遭受欺凌，中学阶段便选择离家出走，一度偷渡至中国青岛，随后又辗转流落到韩国釜山，曾在火车站靠贩卖盒饭维持生计。返回大阪后，他四处奔波打工，先后从事过油漆工、电影院招牌画师等多种职业。一九四三年，时年二十岁的三国连太郎在昭和十八年接到了征兵令，为逃避兵役，他悄悄跳上货运列车再次离家逃亡，然而途中因给母亲寄信而暴露行踪，被特高课逮捕后强行征入军队。他所属的部队于同年十二月被派往中国汉口，在残酷的战争环境中，为了保全性命，他甚至曾整夜躲藏在粪桶中以躲避战火。一九四八年，即昭和二十三年，回到日本后他前往鸟取县仓吉市，进入县农业会工作，负责教导新设立的农村工业课程，指导如何从红薯淀粉中提取葡萄糖的技术。一九五零年，三国连太郎在东京银座街头散步时，被松竹公司的制作人小出孝偶然发掘，受邀以演技研究生的身份进入松竹大船摄影所。次年，也就是一九五一年，他在木下惠介导演的作品《善魔》中，顶替冈田英次出演角色从而正式出道，并同时取用了“三国连太郎”这一艺名。一九五二年，出于希望参演稻垣浩导演的《战国无赖》的愿望，他转而移籍至东宝株式会社。然而，在一九五四年稻垣浩导演的《一乗寺の决闘》开拍前夕，由于日活株式会社重启电影制作，他又再次转投日活旗下。此后，他为日活接连出演了《缅甸的竖琴》、《饥饿海峡》、《はだしのゲン》、《ひかりごけ》等一系列具有社会派风格的作品。除此之外，他的演艺生涯中还涵盖了《一盘没有下完的棋》、《三たびの海峡》、《大河的一滴》、《犬神家族》、《野性的证明》、《マルサの女2》等多部重要影片。一九八四年，三国连太郎荣获日本政府颁发的紫绶褒章。一九八六年，他亲自策划并执导了电影《亲鸾・白い道》，该片在戛纳国际电影节上获得了评审团特别奖。一九九三年，他又被授予四等旭日章（即旭日小绶章）。二零一三年四月十四日上午九点十八分，三国连太郎因急性心力衰竭在东京都稻城市内的医院与世长辞，享年九十岁。就在病逝前两天，他曾忽然对身边人说道：“得跟大家一起走了，船要出港了。”
为了能够顺利进入电影公司，他早年曾一度谎称自己毕业于知名学府，这一真相直到后来才被公之于众。此外，尽管三国连太郎在公众面前总给人以豪饮的印象，但实际上他出于健康考虑早已滴酒不沾，就连香烟也在十多年前彻底戒除。三国连太郎可谓是一个彻头彻尾的戏痴。1957年，当时三十三岁的他在影片《异母兄弟》中饰演田中绢代的丈夫，由于田中绢代比他年长十余岁，为了更贴近角色状态，三国连太郎竟毅然拔掉了自己上下共计十颗牙齿。他这种全身心投入表演的方式，使得许多与他搭档的演员都感到一种无形的压力甚至畏惧。例如在一次拍摄中，他未按剧本即兴发挥，将口水狠狠吐在绪形拳脸上，导致两人当场发生激烈冲突。而在另一场本应借位完成的暴力戏里，他假戏真做，用拐杖将西田敏行打得重伤，几乎危及生命。不仅对男演员如此，对待女演员他也同样毫不留情，曾在一场戏中失手将有马稻子击昏。更令人愕然的是，某次拍摄亲密场景时，他竟擅自扯掉自己的兜裆布意图假戏真做，这一举动顿时激怒了同戏的女演员。即便后来卧病在床，三国连太郎也始终未曾忘记电影表演事业，在他病房的桌抽屉里，留有一张病中写下的字条，上面写道：“所谓不可复制的演技，其实就是人生经历本身。”“我用了五十年演艺生涯才明白这个道理，实在来得太迟了。”在个人生活方面，他同样有着令人惊讶的婚姻经历，并且对金钱看得极为淡泊。他一生共经历四次婚姻，其中第一次婚姻仅为形式上的假结婚，而演员佐藤浩市是他与第三任妻子所生的孩子（两人于1972年离异）。离婚后，他将房产与财产几乎全部留给前妻，自己曾一度仅带着饲养的狗在公寓中简朴度日。除了婚姻之外，他还曾与年龄相差二十岁的太地喜和子以及比他年轻三十七岁的石田惠理等多位女星有过恋情。三国连太郎的生活合照（右）以及日常生活影像，也记录了他独特而丰富的人生侧面。