陈水扁上台后，张俊雄以民进党最资深的“立委”转任“总统府秘书长”。2000年8月“八掌溪事件”发生后，当时的“行政院副院长”被迫辞职，张俊雄临危受命接任，更在短短两个月后，因“行政院长”唐飞以健康为由辞职后得以扶正，成为第一个民进党籍的“行政院长”。张俊雄在五个月内换了四个位子，成为台湾政坛有史以来“周转率”最高的政治人物。

　　不过好景不长，由于张俊雄宣布停建“第四核能电厂”激起的政治风波和民怨，加上在“行政院长”任内没有多大建树，因而，陈水扁在2002年借新一届“立院”组成、“行政院”总辞之际，利用“总统府秘书长”游锡堃取代了张俊雄。