八六年九月二十八日，民进党正式成立，张俊雄当选第一届中常委，并连续五次当选“立委”，成为民进党在高雄地区的头面人物。1998年当选民进党第八届中常委，2002年5月任民进党秘书长，同年7月当选第十届中常委。

　　在派系色彩上，张俊雄属谢长廷领导的“福利国”派系。由于张六次连任“立委”，是民进党内最资深的“立委”，加之个性谦和，擅长协调，在党内深受各派系敬重。陈水扁正式成为民进党2000年“总统”候选人后，张俊雄出任其竞选总部总干事，为陈水扁连任立下汗马功劳。