张雨生生于中国台湾省澎湖县，祖籍浙江嘉兴。父亲张建民原是军人（后到嘉兴寻亲），母亲张惠美是泰雅族原住民，都在乐团工作。他在澎湖出生后，父亲本想起名为澎生，但少雨的澎湖连日大雨，因此取名为雨生。在家中排行老大，有两个弟弟(宇飞、宇骏)、两个妹妹(玉仙、玉涵)。
大学的第一志愿为台大历史系(很喜欢后汉书，后来想攻读历史系，本打算1996年开始考，直到考上)，最终考取台湾政治大学外交系。
排行老三的玉仙和他感情最好，无话不谈。但1986年15岁的玉仙失足坠入溪流，抢救不及而去世(她去世的次年，小妹玉涵出生)。同年大一的张雨生，为替妹妹实现当歌星的梦想，参加“木船民歌比赛”进入决赛并获得优胜，后逐步进入乐坛。
他经常说“我妹妹比我唱歌好，我永远都比不上她”。后为妹妹创作了歌曲《妹妹晚安》。他的徒弟张惠妹，与玉仙年龄相仿，二人的关系就像兄妹一样。张雨生后因车祸早逝，家人把他与玉仙合葬在了雨生园中。父亲已于2011年去世，享年78岁，母亲仍健在。
P1父母
P2-3与大弟、母亲
P4与大弟、玉仙
P5与母亲、玉仙、弟弟
P6玉仙
P7-9与父母、小妹、弟弟
P10与母亲
P11与张惠妹
