1948年国民党政府改组，约请张伯苓出任考试院院长。
1948年7月，张伯苓到南京后，目睹国民党政府，政治黑暗腐败，心情很不愉快。年末，他以“体弱需静养”为借口，离开了南京考试院，回到重庆沙坪坝南开中学的老寓所，终日深居简出。
解放前夕，蒋介石三番两次到沙坪坝津南村，要求他离开重庆，去台湾或去美国，后来蒋氏又派蒋经国和张群来劝行，他都婉言谢绝了。1949年，他毅然留在重庆迎接解放。解放后，他衷心地称赞共产党和人民政府及其内外政策。1951年2月23日因病谢世，享年76岁。在他的遗嘱中，对国家民族无限光明前景充满信心，勉励“友好、同学”，“拥护人民政府”，“务共努力”，“以建设富强康乐之新中国”。
张伯苓作为在他生活时代的知识分子的一个代表，不可避免地具有一定的历史局限性。在其晚年，走过一段曲折的道路。但是，张伯苓毕竟是一位与时俱进的爱国教育家。他从一生办学，饱经沧桑的切身经历中，逐步看清了中国的前途，在历史转折的关键时刻，以国家民族利益为重，表现出一个真正教育家的高风亮节。张怕苓的一生，是进步的爱国的一生。他创业南开，功在国家，为发展我国近代教育作出了重要贡献
