刘彬出生于一个普通的农民家庭，自幼便生活在乡村的朴素环境中。六岁那年，他进入当地的私塾开始接受启蒙教育，然而由于家庭经济条件十分困难，仅仅两年后，年仅八岁的他就不得不被迫辍学，早早地承担起生活的重担。到了十三岁时，为了谋生，刘彬拜师学习吹鼓手的技艺，开始了走乡串巷的演奏生涯。一九二八年，在师傅的胞弟刘斯春的积极引导与带动下，刘彬毅然加入了当地的农民暴动队伍，这支队伍后来改编为赤卫队，他也由此走上了革命的道路。
1929年9月，红四军及地方武装成功攻克上杭县城后，刘彬在城关地区积极参与肃清隐藏反革命分子等多项工作，并在此期间正式加入了共产主义青年团。1930年3月，随着闽西苏维埃政府的成立，他跟随赤卫队一同被编入闽西红军序列；同年5月，又被编入红十二军第二纵队第五支队担任战士职务。此后，他随所在部队先后参加了攻打湖南文家市、长沙以及江西吉安等多次重要战斗。由于在作战中表现出果敢勇猛、行动突出的特点，他被组织吸收加入中国共产党，随后被调至红四军军部担任通讯员工作。1931年5月，刘彬被调至红一军团司令部，开始从事机要相关工作。在周恩来、任弼时等领导同志的悉心培养与教育下，他逐渐树立起刻苦学习、严肃认真、兢兢业业、严守纪律的优良作风，因此在较短时间内，其文化素养与业务能力均获得了显著提升。1932年1月，红一军团正式成立机要科，刘彬担任译电员一职。此后，他随部队转战于闽西、赣南等多个地区，先后参与攻打漳州的战役以及中央苏区五次反“围剿”的艰苦战斗。1934年秋天，他跟随红一军团踏上了长征之路。长征期间，往来电文数量极大，其中许多是由毛泽东等领导人亲自起草的涉及全局、至关重要且十分紧急的电报。在这种高压环境下，刘彬经常通宵达旦地守在机要设备旁，紧张有序地进行收发报文、翻译电码、编写报稿以及发送电报等一系列工作。每当困倦袭来、难以支撑时，他便以嚼食辣椒的方式来提神醒脑，从而确保通信联络日夜保持畅通无阻，其敬业表现得到了军团领导的高度赞扬。1935年6月，红一、四方面军在懋功地区胜利会师后，刘彬被调至红四方面军工作；同年8月，他又重新调回红一军团司令部，先后担任作战参谋与机要科长等职务。
一九三七年八月，抗日战争全面爆发后，他被任命为八路军第一一五师司令部机要科长，同时承担起组建晋察冀军区通讯部队的重要任务。同年十一月，晋察冀军区在五台山正式成立，他继续担任通讯科长并兼任通信营营长。在此期间，他组织开办了电话员、无线电报务员以及无线电技工等各类专业培训班共计二十余期，逐步建立起电话大队、电台队和通讯队等多支专业队伍。为满足战争环境下的通讯需求，他积极推动各项通讯基础设施的建设工作，不仅组织架设了隐蔽的电话线路和双线回路，还建设了迂回多路的通讯干线，从而构建起一套完整、高效且稳定的军区指挥通讯网络体系。一九四四年八月，他调至陕甘宁边区教导第二旅独立团，先后担任副团长、代理团长等职务，并曾参与平型关战役与百团大战等重要作战行动。至一九四五年八月，他再次回到通讯战线，出任晋察冀军区通讯大队大队长。
自一九四六年起，他先后担任冀晋军区、北岳军区及察哈尔军区的副参谋长兼后勤司令部司令员，随后又出任参谋长兼后勤司令员等重要职务。在此期间，他积极参与了平汉战役、正太战役、绥远战役以及解放张家口的多次关键战斗，在后勤保障与作战指挥方面发挥了重要作用，为最终夺取解放战争的全面胜利作出了不可磨灭的重大贡献。
新中国成立后，刘彬同志奉命率领所属部队积极参与剿灭匪特势力的军事行动，同时全力支援地方恢复与发展生产建设。一九五一年四月，他被任命为华北军区军运部部长；同年八月，调任察哈尔军区参谋长。一九五二年七月，他进入南京中国人民解放军军事学院高级速成系进行系统学习。一九五三年三月完成学业后，他随即奔赴内蒙古军区，担任第三副司令员职务。一九六二年秋季，刘彬同志回乡探亲期间，多次与当地党政领导干部及家乡群众深入交流，反复强调要树立克服困难的坚定信心与顽强决心，鼓励大家努力搞好农业生产和副业经营，齐心协力共渡时艰。当时公社领导曾为其胞妹代购了一些日常生活用品，他得知后坚持按价全额归还货款，并郑重表示：“公家的钱财一分一毫也不能占用。”“文化大革命”期间，尽管刘彬同志自身处境十分艰难，他仍以大局为重，为维持部队稳定、促进民族团结倾注心力，尽力保护遭受迫害的干部及其子女，体现了一名老党员的担当。在个人生活方面，刘彬同志始终严于律己、宽厚待人，保持勤俭节约的作风，一生清正廉洁，从未放松对自身的要求，始终如一地保持着共产党人艰苦奋斗、廉洁奉公的优良传统。一九七〇年五月，他在重病初愈后，便立即赶赴河北省军区就任副司令员。一九七八年五月，经中央军委批准，刘彬同志正式离休，享受正兵团级待遇。一九八九年四月二十一日，他因病医治无效，在北京逝世，享年七十七岁。其骨灰被安葬于北京八宝山革命公墓，长眠于这片象征崇高荣誉的土地。
一九五五年九月，他被授予中国人民解放军少将军衔，同时荣获二级八一勋章、二级独立自由勋章以及一级解放勋章，以表彰其在革命战争年代所建立的卓越功勋。时隔三十余年，至一九八八年七月，他再次获得崇高荣誉，被授予一级红星功勋荣誉章，这体现了国家和人民对其长期忠诚服务与重要贡献的持续肯定。