1976年，党中央成功地把四位反革命头目控制住了。不过上海那里还有不少人在暗地里搞事，想借着民兵闹事，恢复以前的权力。为了把这事儿摆平，党中央安排了几个工作组进入上海。林乎加是这个队伍中的一员，他还是由余秋里点的名。当时的直辖市一把手叫第一书记，而林乎加管的是二把手的活。 不过这个身份没影响他把上海管得不错。凭着他多年管理城市的经验，很快把经济搞活了，解决了很多难题。1978年6月，组织把林乎加派去天津工作。当时天津的情况挺特别，原来的一把手解学恭因为失职被开除党籍和公职。 这个位子就空出来了，给了林乎加。他很快就适应了新环境。因为他自己受过好教育，所以特别重视教育。天津的大学资源不多，恢复高考后很多学生没地方上学。林乎加知道了这个情况后就开始建学校分校，解决了8000多名学生的上学问题。 不过林乎加在天津没干多久就被调回北京了。面对北京这样的重要地方他压力很大。他不仅认真执行中央政策，还把经济稳定下来了。短短两年时间内担任三大直辖市的一把手是挺罕见的，这说明中央很信任他。 后来他还当过农业部部长和中顾委委员。1995年离休的时候活了102岁。2018年因为生病去世了。他这一生都在为革命和人民服务奋斗着，从抗日战争到新中国建设再到管三个大城市都尽心尽力写就自己的历史篇章。