可惜天妒英才，在1997那年张雨生出了很严重的车祸，当时他还有呼吸，被送去抢救后勉强还有一口气，在病床上躺了好些天一直靠药物维持着，本来情况有好转，都以为他能恢复好时，在病床上的第24天，突然因并发吸入性肺炎急救无效，年仅31岁。张雨生去世的消息很快就被传了出来，几乎人人都知道这位才子走了。当时他的离世影响非常大，特别是在乐坛，损失了一员大将。
人人都知道的张惠妹曾是张雨生的徒弟，她称他宝哥，张惠妹有今天全是因为当年张雨生觉得她音域好一步一步把她带出来的，成就了如今的天后张惠妹。他们俩的师徒感情很深，张雨生出车祸后的几天后张惠妹创作了《听你听我》这首歌，来表示对师父张雨生的惋惜之情，其中歌词“你是我的宝，我一直为你感动骄傲”，让人感动至深。可想而知之后张雨生的离去对张惠妹的打击有多大，不过张雨生的眼光确实很好，之后的张惠妹也没有让她的宝哥失望。
