1989年11月30日，父亲中午起床吃午饭，突然两腿不能站立。12月2日父亲开始发烧，咳痰加重，请医生来家给父亲打针吃药。两日无效，4日上午送往鼓楼医院。
是时，昌午出差在外，昌庚在医院伴父亲两昼夜。父亲虽发烧，饮食尚可，5日共吃了四餐，早上一瓶牛奶，中午甲鱼汤下面条半小碗，晚上稀饭一小碗，夜十一时藕粉一小碗。此外，一天分多次共吃了四个大橘子。只是痰多，无力将痰咳出，需别人用卫生巾从口中将痰揩出。
6日早晨近七时，父亲喝了一瓶牛奶。精神状况比前两日略有好转。七时，昌午归，来医院换昌庚休息。昌庚将病情向他作了介绍。
堂姐林昌容住鼓楼附近，这时中风病危。昌午见父亲安卧床上无事，将父亲交给保姆照应，去看望堂姐。
八时，父亲咳痰不出，堵住气管，不能呼吸，保姆急喊医生、护士前来抢救，用吸痰机吸痰，并输氧气。昌庚刚到家吃完早饭，接到医院打来电话，说父亲病危，昌庚八时三十分赶到医院时，父亲已停止了呼吸。父亲辞世时，我们儿女无一人守在身边，我们罪过深重，内心永感歉疚！
12月8、9两日，《人民日报》、《光明日报》、《文汇报》、《新华日报》、《南京日报》、《江苏工人报》、《扬子晚报》等，都对父亲去世的消息作了报道。
12月22日在省锡剧团实验剧场举行了隆重的追悼会，有中共江苏省委全体常委以及省、市各有关单位领导人和各界人士一千余人参加。
遵遗嘱，父亲和母亲合葬于安徽采石太白楼旁小九华山麓。
1997年4月迁葬于“林散之艺术馆”内。
1999年，主要由林昌庚和乌江镇政府出资，部分亲友赞助，复建了《林散之故居》和《江上草堂》，并广植树木，希望以后能大体上恢复故居园林旧貌。
