1930年参加红军,次年加人中国共产党。土地革命时期,他历任战士、班长、排长、副连长、连指导虽、团政治处主任,师、军政治部主任、红四方面军政治部组织部部长;参加过长征以及鄂豫皖和川陕根据地历次反“围剿”斗争,并做过中共县委、省委的地方工作。抗日战争时期,历任八路军一二九师三八五旅政委、太岳纵队副司令员、代司令员。解放战争时期,他历任晋冀膏豫野战军第四纵队政委、太岳兵团(陈谢兵团)政委。为配合刘邓大军挺进大别山,1947年8月,与陈赓司令员串晋冀鲁豫野战军太岳兵团强渡黄河,挺进豫西。1949年任第二野战军第三兵团政治委员。中华人民共和国成立后,曾任川东军区司令员兼政委、中共云南省委第一书记、昆明军区司令员兼政委、人民武装警察部队司令员兼政委、公安部部长、国务院副总理。1956年被选为中共八届中央委员、八届十一中全会补造为中央书记处书记,1969年在中共九大上被选为中央政治局委员,同时任中共北京市委第一书记、北京军区第一政委、中共专案审查小组成员等职。1955年被授予上将军衔。
在“文革”中,谢富治参与了林彪、江青反革命集团的一系列活动,疯狂迫害和打击刘少奇、朱德、邓小平、陈毅、李先念等一大批老一辈无产阶级革命家,指使“砸烂公、检、法”,制造大批冤、假、错 、案,使大批干部群众含冤受害。1972年3月在北京病死。1980年10月,中共中央决定开除他的党籍,撤销原《悼词)。1981年1月,中华人民共和国最高人民法院特别法庭确认他为林彪、江青反革命集团的主犯。